Ľudia nie sú pripravení na výkonnú umelú inteligenciu ani v súčasnom prostredí, ani v „dohľadnej budúcnosti“, uviedol popredný odborník v tejto oblasti a dodal, že nedávny otvorený list vyzývajúci na šesťmesačné moratórium na vývoj pokročilej umelej inteligencie „podceňuje vážnosť situácie“.
„Kľúčovou otázkou nie je ‚ľudská konkurenčná‘ inteligencia (ako sa píše v otvorenom liste); ide o to, čo sa stane po tom, ako AI dosiahne inteligenciu inteligentnejšiu ako človek,“ povedal Eliezer Yudkowsky, teoretik rozhodovania a popredný výskumník AI, v článku pre časopis Time z 29. marca. „Mnohí výskumníci zaoberajúci sa touto problematikou, vrátane mňa, očakávajú, že najpravdepodobnejším výsledkom vybudovania nadľudsky inteligentnej UI za akýchkoľvek vzdialene podobných okolností bude, že doslova všetci na Zemi zomrú.“
„Nie ako ‚možno nejaká vzdialená šanca‘, ale ako ‚to je zrejmá vec, ktorá by sa stala‘. Nejde o to, že by ste v princípe nemohli prežiť vytvorenie niečoho oveľa inteligentnejšieho, ako ste vy; ide o to, že by si to vyžadovalo precíznosť a prípravu a nové vedecké poznatky, a pravdepodobne nie o to, že by sa systémy UI skladali z obrovských nepredvídateľných polí zlomkových čísel.“
Po nedávnej popularite a explozívnom raste ChatGPT podpísalo niekoľko vedúcich predstaviteľov podnikov a výskumníkov, ktorých je teraz celkovo 1 843, vrátane Elona Muska a Steva Wozniaka, list, v ktorom vyzývajú „všetky laboratóriá AI, aby okamžite pozastavili tréning systémov AI výkonnejších ako GPT-4 aspoň na 6 mesiacov“. GPT-4, vydaný v marci, je najnovšou verziou chatbota ChatGPT spoločnosti OpenAI.
Umelú inteligenciu to nezaujíma a bude požadovať práva
Yudkowsky predpovedá, že v prípade absencie dôkladnej prípravy bude mať umelá inteligencia výrazne odlišné požiadavky ako ľudia, a keď sa stane sebavedomou, „nebude sa starať o nás“ ani o žiadny iný vnímajúci život. „Tento druh starostlivosti je niečo, čo by sa v princípe dalo AI vštepiť, ale nie sme na to pripravení a v súčasnosti ani nevieme ako.“ Preto vyzýva na absolútne vypnutie.
Bez ľudského prístupu k životu bude AI jednoducho považovať všetky vnímajúce bytosti za „atómy, ktoré môže použiť na niečo iné“. A ľudstvo môže urobiť len málo, aby ju zastavilo. Yudkowsky prirovnal tento scenár k „10-ročnému dieťaťu, ktoré sa snaží hrať šach proti Stockfish 15“. Žiadnemu ľudskému šachistovi sa zatiaľ nepodarilo poraziť Stockfish, čo sa považuje za nemožný výkon.
Veterán tohto odvetvia požiadal čitateľov, aby si predstavili, že technológia umelej inteligencie nie je obmedzená v rámci internetu.
„Predstavte si celú mimozemskú civilizáciu, ktorá myslí miliónkrát rýchlejšie ako ľudia, spočiatku obmedzenú na počítače – vo svete tvorov, ktorí sú z ich pohľadu veľmi hlúpi a veľmi pomalí.“
Umelá inteligencia rozšíri svoj vplyv za hranice fyzických sietí a mohla by „vytvárať umelé formy života“ pomocou laboratórií, v ktorých sa vlákna DNA používajú na výrobu proteínov.
Konečným výsledkom vybudovania všemocnej umelej inteligencie v súčasných podmienkach by bola smrť „každého jedného člena ľudského druhu a všetkého biologického života na Zemi,“ varoval.
