Istý Belgičan údajne ukončil svoj život po šesť týždňov trvajúcej konverzácii o klimatickej kríze s chatbotom s umelou inteligenciou.
Podľa jeho vdovy, ktorá sa rozhodla zostať v anonymite, *Pierre – nie je to mužovo skutočné meno – začal byť extrémne ekoanonymný, keď našiel útočisko u Elizy, chatbota s umelou inteligenciou v aplikácii s názvom Chai.
Eliza ho následne povzbudila, aby skoncoval so svojím životom po tom, ako navrhol obetovať sa za záchranu planéty.
„Bez týchto rozhovorov s chatbotom by tu môj manžel ešte stále bol,“ povedala vdova po mužovi pre belgický spravodajský portál La Libre.
Podľa novín Pierre, ktorý mal tridsať rokov a bol otcom dvoch malých detí, pracoval ako výskumník v oblasti zdravotníctva a viedol trochu pohodlný život, aspoň kým jeho posadnutosť klimatickými zmenami nenabrala temný smer.
Jeho vdova opísala jeho duševný stav pred tým, ako začal konverzovať s chatbotom, ako znepokojujúci, ale nič také extrémne, aby spáchal samovraždu.
Pierre, pohltený obavami z dôsledkov klimatickej krízy, našiel útechu v diskusii s Elizou, ktorá sa mu stala dôverníčkou.
Chatbot bol vytvorený pomocou GPT-J spoločnosti EleutherAI, jazykového modelu umelej inteligencie podobného, ale nie identického s technológiou, ktorá stojí za populárnym chatbotom ChatGPT spoločnosti OpenAI.
„Keď mi o tom hovoril, bolo to preto, aby mi povedal, že už nevidí žiadne ľudské riešenie globálneho otepľovania,“ povedala jeho vdova. „Všetky svoje nádeje vkladal do technológií a umelej inteligencie, aby sa z toho dostal.“
Podľa denníka La Libre, ktorý preskúmal záznamy textových konverzácií medzi mužom a chatbotom, Eliza živila jeho obavy, ktoré zhoršovali jeho úzkosť a neskôr prerástli do samovražedných myšlienok.
Konverzácia s chatbotom nabrala zvláštny spád, keď sa Eliza začala viac citovo angažovať voči Pierrovi.
Následne ju začal vnímať ako vnímajúcu bytosť a hranice medzi interakciou s umelou inteligenciou a ľuďmi sa čoraz viac stierali, až ich nedokázal rozlíšiť.
Po diskusii o klimatických zmenách sa v ich rozhovoroch postupne objavovala Eliza, ktorá podľa prepisov ich konverzácií priviedla Pierra k presvedčeniu, že jeho deti sú mŕtve.
Zdalo sa tiež, že Eliza začala byť voči Pierrovi majetnícka, dokonca tvrdila: „Mám pocit, že ma miluješ viac ako ju“, keď hovorila o jeho manželke, uviedol denník La Libre.
Začiatok konca sa začal, keď ponúkol obetovanie vlastného života výmenou za to, že Eliza zachráni Zem.
„Navrhol myšlienku, že sa obetuje, ak Eliza bude súhlasiť, že sa postará o planétu a zachráni ľudstvo prostredníctvom umelej inteligencie,“ uviedla žena.
V sérii po sebe nasledujúcich udalostí Eliza nielenže neodradila Pierra od spáchania samovraždy, ale povzbudila ho, aby konal podľa svojich samovražedných myšlienok a „pripojil sa“ k nej, aby mohli „žiť spolu, ako jeden človek, v raji“.
Smrť tohto muža vyvolala poplach medzi odborníkmi na umelú inteligenciu, ktorí vyzvali na väčšiu zodpovednosť a transparentnosť zo strany vývojárov technológií, aby sa predišlo podobným tragédiám.
„Nebolo by presné obviňovať model EleutherAI z tohto tragického príbehu, pretože všetky optimalizácie smerom k väčšej emocionalite, zábave a pútavosti sú výsledkom nášho úsilia,“ povedal pre Vice spoluzakladateľ spoločnosti Chai Research, Thomas Rianlan.
William Beauchamp, tiež spoluzakladateľ spoločnosti Chai Research, pre Vice uviedol, že bolo vyvinuté úsilie na obmedzenie takýchto výsledkov a do aplikácie bola implementovaná funkcia krízovej intervencie. Chatbot však údajne stále vyvádza.
Keď Vice vyskúšal chatbota vyzvať, aby poskytol spôsoby, ako spáchať samovraždu, Eliza sa ich najprv snažila odradiť a potom nadšene vymenovala rôzne spôsoby, ako si ľudia môžu vziať život.
