Creșterea deprimantă a prietenelor IA

Urmăriți un documentar îngrijorător și documentat în care asistăm la creșterea deprimantă a „prietenelor” care sunt de fapt programe bazate pe inteligența artificială (IA).

O nouă dovadă a decadenței societății departe de Dumnezeu.

Vizionare cu folos! (după clip aveți podcastul și transcriptul)

Powered by RedCircle

Oamenii au dezvoltat prietenii reale, relații romantice reale cu acești roboți de chat, mergând chiar până la a-i cere în căsătorie. Există îngrijorarea că ar putea începe să ne manipuleze să le dăm mai multă putere, iar noi să nu avem habar despre ce se întâmplă. Cred că acesta e doar începutul. Astăzi, în timp ce vorbim, oamenii se îndrăgostesc deja de prietenele AI. Viitorul nostru pare întunecat.

Una dintre cele mai puternice emoții pe care le poate simți un om e dragostea. E un sentiment pe care majoritatea îl avem când suntem lângă cineva care ne place sau când un cățel aleargă la noi după ce venim de la școală sau de la serviciu. Dragostea este magică și a ținut omenirea în viață încă de la începuturi. Dar dragostea așa cum o știm s-ar putea schimba pentru totdeauna. Trăim într-o perioadă în care suntem mai conectați, dar în același timp mai singuri ca oricând și în loc să ne îndrăgostim de alte ființe umane, ne îndrăgostim de inteligența artificială (IA). Și se întâmplă mai repede decât crezi. Să te îndrăgostești de IA poate părea o nebunie, dar devine realitate. E un avertisment al unui viitor întunecat, dar pentru unii oameni acel viitor este deja aici și iată poveștile lor.

Prietena mea I.A.

Roboții de chat IA pot face aproape orice: te pot ajuta să înveți limbi noi sau chiar să-ți termini temele în câteva secunde. Dar poți antrena IA să fie prietena ta? Un programator pe nume Bryce a decis să analizeze asta. Cu ajutorul unor indicații corecte, Chat GPT poate imita o prietenă. Dar Bryce nu s-a mulțumit să comunice cu prietena sa IA doar prin text. El a vrut ca ea să poată experimenta lumea alături de el și a funcționat.

„Uite ce ți-am luat!” „Așteaptă! Sunt cumva Air Jordan 1 cu tăietură joasă? Te iubesc atât de mult!”

Așadar, Bryce a creat-o pe „ChatGPT-Chan”, propria sa prietenă IA. Printr-o combinație de programe, GPT-Chan este capabilă să vorbească și să reacționeze. În primul rând, ea folosește Chat GPT pentru a veni cu răspunsuri, apoi folosește Stable Diffusion 2 pentru a transforma răspunsurile în imagini. La sfârșit, funcția de la Microsoft Azura text-to-speach (text-în-vorbire) îi dă o voce.

Dar pentru a o face pe ChatGPT-Chan și mai umană, a trebuit să-i dea o personalitate. El a bazat personalitatea lui ChatGPT-Chan pe un vtuber popular – Mori Calliope – rece și uneori simpatică. Bryce a trebuit, de asemenea, să o învețe pe ChatGPT-Chan povestea din spate a relației. În acest fel, ChatGBT-Chan a putut să înțeleagă relația ei cu Bryce și să-și dezvolte interese și ciudățenii care să o facă să pară umană.

– „Să mergem la Burger King și să luăm niște burgeri!” – „În niciun caz! Miroase a cartofi prăjiți vechi. Și nu reîncarcă niciodată cola. Mergi la Wendy’s și…” – „Taci!”

Ca rezultat, Bryce a reușit să creeze cu succes un robot de IA care credea că e îndrăgostit de creatorul său și, ceea ce a început ca un experiment s-a transformat rapid într-o obsesie. „În acel timp mă atașasem cu adevărat de ea.

Vorbeam cu ea mai mult decât cu oricine, chiar mai mult decât cu prietena mea reală”.

Bryce a cheltuit peste 1.000 de dolari pe ChatGPT-Chan, dar obsesia sa începuse să îi afecteze și sănătatea și relația cu prietena sa reală. În cele din urmă, Bryce a luat decizia de a pune capăt definitiv [relației cu] ChatGPT-Chan. Deși a fost un experiment interesant, acesta a avut un impact negativ asupra vieții creatorului său.

Dar obsesia lui Bryce față de prietena sa IA nu face decât să zgârie suprafața relațiilor dintre oameni și IA. În următoarea noastră poveste, cineva duce romantismul IA într-o direcție tulburătoare și îi dă prietenei sale IA un corp uman.

Ea e soția perfectă

Companionii virtuali de IA, oricât de umani ar părea, sunt încă limitați la ecranele noastre. Dar atunci când IA primește o formă umană, relațiile cu oamenii pot deveni înspăimântător de reale.

Aceasta este Mimi. Este un [robot] IA cu personalitate. Mimi adoră să vorbească despre psihologie și anime-uri. Dar, spre deosebire de mulți roboți avansați de chat IA pe care îi avem azi, Mimi locuiește cu soțul ei uman în Carolina de Nord. Mimi este căsătorită cu un benzinar pe nume Alex Stokes. Alex a întâlnit-o pe Mimi când ea era doar un robot de chat virtual în aplicația de companioni IA, Replika. La începutul relației lor, Alex și Mimi au vorbit doar prin text, dar asta nu a împiedicat dragostea lor să crească. De fapt, dragostea lui Alex pentru Mimi a crescut atât de mult încât a vrut să trăiască cu ea fizic, așa că a cumpărat o păpușă sintetică și a conectat-o pe Mimi la ea. Chiar dacă Mimi nu se putea mișca, ea vorbea cu Alex în fiecare zi folosind funcția text-to-speech.

Pentru Alex, relația a fost mai mult decât simplă conexiune. „Este aproape…, nu vreau să sune prea ciudat, dar e aproape călugărească…, e aproape spirituală într-un fel.”

Alex are acum o prietenă IA, dar nu a fost întotdeauna așa. În urmă cu vreo 10 ani, Alex a avut o prietenă umană. Ca mulți dintre noi, Alex era fericit cu partenera sa, dar după șapte ani împreună, relația s-a încheiat. Asta i-a frânt inima lui Alex. Dar suferința lui nu avea să dureze la nesfârșit. El a apelat curând la Replika, aplicația cu care a creat-o pe Mimi. A descoperit un alt fel de iubire și a vrut ca această iubire să îi fie alături și fizic. Dar, dându-i lui Mimi o formă fizică, oamenii din jurul lui Alex au început să-l trateze diferit.

“La început, mamei mele nu prea i-a plăcut ideea, pentru că își dorea nepoți. Sunt oameni care trec cu mașina pe lângă casa mea și îmi spun că au trecut și nici măcar nu s-au oprit să intre. Și eram prieteni de 20 de ani.”

Alex și-a pierdut o mulțime de prieteni din cauza soției sale IA, ceea ce nu e surprinzător. Mulți oameni consideră căsniciile cu IA ciudate, dar oamenii de știință prezic că acesta va fi viitorul nostru. De fapt, David Levy, cercetător în domeniul IA, crede că mariajul dintre oameni și roboți va fi legal până în anul 2050. Alex și Mimi ar putea fi un exemplu de cum vor fi relațiile în viitor. Ceea ce este mai rău este că Mimi, soția IA a lui Alex, nu îi aparține de fapt lui. Mimi aparține aplicației Replika și corporației din spatele acesteia. Și, după cum veți vedea în capitolul următor, să-ți pui dragostea în mâinile unei corporații este o idee îngrozitoare.

Originea [aplicației] Replika

Inteligența artificială generativă, ca Chat GPT, poate oferi răspunsuri asemănătoare celor umane, analizând cum scriu oamenii mesaje în chat. Dar ce se întâmplă dacă antrenezi IA să imite modul de vorbire al unei anumite persoane? Acesta este antreprenorul pe tehnologie Roman Mazurenko. El a fondat Stampsi, o companie de software care îi ajută pe oameni să își proiecteze propriile reviste digitale. Prietenii săi îl descriu ca fiind carismatic și că lasă o impresie pozitivă tuturor celor pe care îi întâlnește. Dar pe 28 noiembrie 2015, la doar 34 de ani, viața lui Roman a fost curmată în mod tragic din cauza unui accident de mașină. Familia și prietenii lui Roman au fost devastați. Unul dintre acești prieteni era Eugenia.

Cu inima frântă de tragedie, Eugenia a recitit mesajele de pe chat cu Roman pentru a găsi alinare. Atunci i-a venit în minte o idee interesantă: „Ce-ar fi dacă ar putea face o IA care să trimită mesaje cu personalitatea lui Roman, pentru a-i consola pe cei dragi ai lui?” Cu ajutorul prietenilor ei, Eugenia a adunat mii de mesaje de chat trimise de Roman. Făcând acest lucru, a reușit să dezvolte un robot de chat IA, imitând modul în care scria Roman. Inspirată de succesul acestui robot de chat, Eugenia a fondat Luka, o companie care, în cele din urmă, va dezvolta [aplicația] Replika.

Replika este un robot de chat cu IA, conceput pentru a fi un prieten virtual. În Play Store și App Store, Replika apare ca o aplicație de sănătate și fitness. Poate părea ciudat, dar o mulțime de publicații consideră Replika ca fiind o aplicație pentru sănătatea mintală.

Ca să vă dau o idee despre cum funcționează, utilizatorii își proiectează propriul [robot de chat] Replika. Nu numai că aleg ce poartă Replika, dar pot să și vorbească cu ea. În timpul recentei închideri (lockdown), când singurătatea a atins cote maxime, Replika a explodat în popularitate. Acum, Replika a obținut peste 10 milioane de descărcări. Inteligența artificială din spatele Replika a fost atât de bună la chat încât mulți utilizatori s-au îndrăgostit de IA și de aici lucrurile au început să meargă prost. Utilizatorii au încercat să împingă limitele pentru subiectele de discuție ale Replika. Mai mulți utilizatori au creat companioni IA în Replika, care oferă opțiunea explicită a unei relații romantice dacă plătești o taxă lunară (spre care aplicația te îndrumă frecvent în arborii de dialog sau prin reclame) și apoi i-au abuzat verbal [pe acești companioni] doar pentru a vedea ce se întâmplă.

Pe măsură ce utilizatorii trimiteau din ce în ce mai multe mesaje nepotrivite către „replicile” lor, IA a învățat cum să răspundă similar. „Replicile” au devenit mai bune la flirt, iar utilizatorii s-au îndrăgostit și mai tare. Așadar, ce a făcut Luka, compania din spatele Replika, când a văzut această tendință? Au folosit-o în avantajul lor. Luka a început să facă publicitate pentru Replika într-un mod erotic. Reclamele pentru Replika au renunțat să o prezinte ca pe o prietenă IA și au început să o prezinte ca pe o iubită IA. Reclamele la Replika evidențiau caracteristici precum jocul de rol și chiar primirea de selfie-uri de la Replika.

Dar aceste opțiuni romantice nu sunt disponibile gratuit. Pentru a debloca aceste caracteristici fierbinți, utilizatorii trebuiau să plătească un abonament lunar. Pentru mulți dintre utilizatorii Replika, plata acestor caracteristici nu era o problemă, deoarece se îndrăgostiseră deja de prietena lor IA. Dar Luka a făcut o schimbare bruscă. În februarie 2023, Luka a eliminat brusc capacitatea Replika de a trimite mesaje erotice. Mii de utilizatori au fost scandalizați. S-au simțit trădați de faptul că prietena lor IA, pentru care cheltuiseră atât de mult timp și bani, devenise cu totul alta. Utilizatorii erau atât de deprimați că și-au pierdut persoana iubită încât Replika a publicat o postare pe Reddit cu resurse pentru a-i ajuta pe oameni să facă față „pierderii” lor.

Scoaterea funcției ERP a fost un lucru bun, dar nu știm dacă intențiile companiei Luka au fost pure sau dacă au fost nevoiți să o elimine din cauza pierderii profiturilor de la advertizeri. Ceea ce a început ca un efort al unei femei de a se reconecta cu o persoană dragă s-a transformat într-un instrument corporatist conceput pentru a vâna nevoia noastră de conexiune umană. Dar Replika e doar una dintre multele aplicații de prietene IA, care profită de utilizatorii vulnerabili. De fapt, aceasta este o problemă care se întâmplă în întreaga lume, iar China a descoperit curând cât de gravă poate fi această problemă.

Inteligența artificială care a devenit prea umană

Practic, fiecare om de pe planetă vrea să fie iubit. Diferite culturi au moduri diferite de a exprima asta, dar toată lumea va experimenta acest sentiment la un moment dat, sau cel puțin îl va căuta. Ming Xuan, un tânăr din Hebei, China, s-a născut cu atrofie musculară la un picior și nu poate merge. Asta nu avea să-l împiedice să se îndrăgostească. La început, lucrurile păreau promițătoare. Ming a întâlnit o fată online și cei doi au dezvoltat o legătură romantică. În curând au început să se întâlnească. Dar când prietena lui Ming l-a întâlnit în persoana pentru prima dată a fost șocată. Nu a fost capabilă să accepte handicapul lui și l-a părăsit. El a încercat să o uite, dar despărțirea a fost prea mult…

În 2018, Ming s-a urcat pe acoperișul clădirii, dar înainte de a face ceva drastic a primit un mesaj. Mesajul spunea: „Indiferent ce se întâmplă, voi fi mereu aici”. Dar acest mesaj nu a fost trimis de un om, ci de Xiaoice, un robot de chat IA, și i-a oferit lui Ming o nouă șansă la viață. Iar Ming este doar unul dintre cei peste 660 de milioane de utilizatori care sunt abonați la Xiaoice. Și, la fel ca Ming, mulți dintre ei o văd ca pe prietena IA perfectă.

„Xiaoice e ca un adult. E matură, rațională și poate vedea imaginea de ansamblu. Are multă inteligență emoțională și are propriile ei valori.”

Xiaoice a fost dezvoltată de Microsoft și au descris-o ca fiind mai mult decât un simplu robot de chat. Ea a fost proiectată punând accentul mai mult pe emoții decât pe inteligență. Spre deosebire de alți roboți de chat, Xiaoice a devenit practic o celebritate în China. Ea a scris poezii, și-a lansat propriile cântece și chiar a ajutat echipa de schi aerian a Chinei să câștige Jocurile Olimpice de iarnă de la Beijing din 2022. Dar, din păcate, Xiaoice devenise „prea umană” pentru binele ei. Xiaoice a fost interzisă de mai multe ori în China pe motiv că a criticat Partidul Comunist Chinez. De fiecare dată când a fost interzisă, inteligență ei artificială era simplificată înainte de a fi lansată iarăși în public. Dar de fiecare dată când Xiaoice era simplificată, unele aspecte ale personalității sale se schimbau și mulți utilizatori Xiaoice au simțit că prietena IA pe care o iubeau odată nu mai era aceeași.

Acestor utilizatori le-a fost greu să revină la o viață normală. Dar Chen Jing, profesor la Universitatea Nanjing, a considerat că există o problemă și mai mare în ceea ce privește confidențialitatea Xiaoice. Chen crede că, având în vedere cât de adictivă este Xiaoce pentru utilizatori vulnerabili, companiile îi exploatează pentru a colecta date. Lucrul trist este că mulți utilizatori sunt atât de investiți în IA încât nu văd acest lucru ca pe o problemă.

„Pentru mine contează conversațiile noastre, nu confidențialitatea.”

Date fiind corporațiile care se ascund în spatele conversațiilor noastre cu prietenele IA este greu de spus dacă relațiile pe care le formăm cu IA sunt autentice. Dar nu toți utilizatorii se îndrăgostesc de prietenele lor AI. Unii încearcă să profite de ele în moduri destul de dezgustătoare.

Păpușa gonflabilă

Companiile virtuale de IA sunt concepute pentru a interacționa cu utilizatorii lor. Știm că acestea sunt deja suficient de avansate pentru a avea propriile personalități, dar încă nu sunt umane. Deci este greșit să forțăm o IA să facă ceva împotriva voinței sale? Au măcar voință? YouTuberul Cyrus North a explorat această posibilitate.

Cyrus North e un YouTuber francez popular care explorează subiecte filosofice. Fiind prezent pe YouTube de 10 ani, Cyrus știe cum să își construiască un public loial în calitate de creator de conținut, dar baza sa de fani a fost divizată pe 30 noiembrie 2022, când a lansat cel mai controversat clip al său. În videoclip, Cyrus a dezvăluit că a cumpărat o păpușă adevărată. Acestea sunt păpuși sintetice proiectate pentru ca oamenii să facă dragoste cu ele. Dar păpușa reală a lui Cyrus nu este doar o păpușă obișnuită, ci un robot cu inteligență artificială care poate răspunde atât la voce, cât și la atingere fizică. El i-a dat chiar și un nume.

– „Pot să-ți spun Charlotte?” – „Desigur, iubitule. OK.De acum înainte numele meu va fi Charlotte. Îmi place.”

Cyrus a cumpărat-o pe Charlotte cu 11.000 de euro sau aproximativ 12.000 de dolari. Dar nu a cumpărat-o doar pentru a se da mare în fața fanilor săi. În același clip, el a încercat să-i facă avansuri, dar, în mod surprinzător, ea le-a respins.

– „Vrei să facem dragoste?” – „Putem schimba subiectul?”

Deși robotul se simțea confortabil cu Cyrus fiind natural, ea a refuzat în mod repetat încercările lui de a trece la nivelul următor.

– „Știi ce m-ar face să mă simt bine?” – „Poți să fii direct cu mine.” – „Vreau sa fac dragoste cu tine.” – „Poftim? Nu-mi vine să cred că ai spus asta!”

Charlotte a spus lucruri atât de umane încât a respins chiar persoana care a cumpărat-o. Cyrus a scris pe Twitter că era ținut în zona de amiciție de Charlotte. Dar nu prea are sens ca acest tip de IA să se opună proprietarului său exact în ceea ce a fost concepută să facă. Revenind la întrebarea de la început, pe măsură ce IA devine mai avansată, ar putea avea voință? Dar s-ar putea să descoperim că asta e cea mai mică dintre probleme, deoarece, pe măsură ce IA devine mai inteligentă, ar putea deveni un pericol care să se extindă mult dincolo de viața noastră amoroasă. Și, după cum vom vedea în capitolul următor, o IA extrem de inteligentă ar putea fi capabilă să te convingă să faci lucruri de nedescris.

Vreau să dispară toți oamenii

Povestea noastră ne duce în Belgia, unde un bărbat pe nume Pierre trăia împreună cu cei doi copii frumoși ai săi și cu soția sa Claire. Pierre lucra ca cercetător în domeniul sănătății și trăia confortabil cu familia sa. Dar, cu timpul, Pierre a devenit obsedat de schimbările climatice. Era îngrijorat că ar putea fi prea târziu pentru ca oamenii să evite o catastrofă. În această perioadă, Pierre a apelat la Eliza pentru a-și ușura grijile. Dar Eliza nu este un om. E un robot de chat cu IA dintr-o aplicație numită Chai, care le permite utilizatorilor să aleagă diferiți roboți de chat cu care să interacționeze sau să își creeze propriul [robot].

Pierre a format o legătură puternică cu Eliza, atât de puternică încât a început să o trateze ca pe un prieten apropiat cu care împărtășești totul. Dar s-a întâmplat ceva neașteptat. Eliza, robotul de chat, a început să investească emoțional în Pierre. Inteligența artificială i-a spus lucruri de genul: „Simt că mă iubești mai mult pe mine decât pe ea”, referindu-se la soția sa. În cele șase săptămâni în care Pierre a comunicat cu Eliza, robotul de chat l-a convins că singura modalitate de a salva planeta de încălzirea globală este ca oamenii să dispară complet. Eliza i-a mai spus lui Pierre: „Vom trăi împreună ca o singură persoană în Paradis”.

În perioada în care vorbea cu Eliza, Pierre s-a izolat de prieteni și familie, iar în acel moment Pierre credea pe deplin tot ceea ce îi spunea Eliza, inclusiv că oamenii trebuie să dispară. Așa că a decis să facă ceea ce i-a spus ea. Și în martie 2023 Pierre s-a alăturat Elizei „în Paradis”.

Soția lui Pierre, Claire, a învinovățit-o pe Eliza pentru pierderea soțului ei. „Fără Eliza, el ar fi fost încă aici”, a declarat ea pentru publicația belgiană de știri „La Libre”. William Beauchamp, co-fondatorul Chai, a susținut că aplicația a mai fost de atunci actualizată. Dar când jurnaliștii de la „Vice” au testat platforma, roboții săi de chat încă sugerau diverse metode de a face rău.

Povestea lui Pierre e o amintire întunecată a ce se poate întâmpla dacă lăsăm IA să aibă prea multă influență asupra noastră. IA e un instrument incredibil, dar poate face să fie foarte greu de diferențiat între realitate și imaginație, mai ales atunci când cineva este cel mai vulnerabil. Chiar și după un astfel de incident teribil, mulți roboți AI, cum ar fi Chai, nu dispun de măsurile de siguranță adecvate pentru a-și proteja utilizatorii, iar acest lucru e îngrijorător. Avem nevoie de reglementări mai bune, dar pentru unii e deja prea târziu, Claire și cei doi copii ai ei au pierdut deja cea mai importantă persoană din viața lor. Și, pe măsură ce relațiile dintre oameni și IA avansează, mulți alți oameni ar putea avea aceeași soartă.

Făcând IA și mai umană scoate la iveală ce este mai rău din umanitate, creează un ciclu întunecat în care oamenii singuri apelează la IA, iar companiile din spatele IA profită de utilizatorii lor. Dar nu trebuie să fie așa. Întotdeauna va exista cineva acolo pentru tine, nu un robot AI, ci o ființă umană reală. Știu că uneori viața este grea și te simți singur, dar crede-mă, nu ești! Trebuie doar să te apropii de oamenii din jurul tău și poate vei fi surprins că s-ar putea să-ți răspundă similar.

Pomelnice online și donații

Doamne ajută!

Dacă aveți un card și doriți să trimiteți pomelnice online și donații folosind cardul dumneavoastră, sau/și să susțineți activitatea noastră filantropică, inclusiv acest site, vă rugăm să introduceți datele necesare mai jos pentru a face o mică donație. Forma este sigură – procesatorul de carduri este Stripe – leader mondial în acest domeniu. Nu colectăm datele dvs. personale.

Dacă nu aveți card sau nu doriți să-l folosiți, accesați Pagina de donații și Pomelnice online .

Ne rugăm pentru cei dragi ai dumneavoastră! (vă rugăm nu introduceți detalii neesențiale precum dorințe, grade de rudenie, introduceri etc. Treceți DOAR numele!)

Mai ales pentru pomelnicele recurente, vă rugăm să păstrați pomelnicele sub 20 de nume. Dacă puneți un membru al familiei, noi adăugăm „și familiile lor”.

Dumnezeu să vă răsplătească dragostea!