Predicții care dau fiori. Mai mulți experți spun că superinteligența artificială va duce la dispariția omenirii: „Se văd primele semne”

Roboții cu inteligență superioară ar putea șterge omenirea de pe hartă, avertizează mai mulți cercetători și ingineri implicați direct în dezvoltarea acestor sisteme.

Printre ei se află și Geoffrey Hinton, laureat al Premiului Nobel, care atrage atenția că inteligența artificială ar putea atinge nivelul uman în doar un an. Această idee a fost susținută și într-o scrisoare deschisă semnată de șefii OpenAI, Google DeepMind și Anthropic, unde se precizează:

„Atenuarea riscului de dispariție reprezentat de inteligența artificială ar trebui să fie o prioritate globală, alături de alte riscuri la scară societală, cum ar fi pandemiile și războiul nuclear.”

Capcana inteligenței generale

Un protest de mici dimensiuni desfășurat în fața sediului OpenAI din San Francisco aduce în atenție temerile unui grup care poartă numele și mesajul „Stop AI”. Unii dintre participanți purtau tricouri roșii, iar o femeie chiar s-a costumat în robot pentru a atrage atenția asupra amenințării. Cei din grup susțin că, dacă omenirea continuă dezvoltarea accelerată a AI, „va duce la dispariția omenirii”.

Scenariile vehiculate de specialiști includ posibilitatea ca o AI avansată să lanseze arme biologice în marile orașe, urmând să le activeze ulterior prin mijloace chimice. Potrivit lui Nate Soares, fost angajat la Google și Microsoft, acum director la Institutul de Cercetare a Inteligenței Artificiale, șansele ca oamenii să dispară din cauza AI sunt de:

„cel puțin 95%”

„Nu spun că nu putem opri mașina, dar pur și simplu ne îndreptăm cu toată puterea spre stâncă.”

În prezent, AI-ul existent e limitat la sar cini punctuale – calcule, generare de text, analiză de date. Dar în curând, susțin experții, ar putea apărea așa-numita inteligență artificială generală (AGI), echivalentă sau superioară capacității umane. Odată cu AGI, aceste sisteme ar putea rezolva probleme complexe, ar putea învăța singure și și-ar putea transfera instant cunoștințele către alte entități AI.

După AGI, ar urma nivelul de superinteligență artificială (ASI), în care AI-ul ar fi capabil să vindece boli incurabile, să descopere tehnologii imposibile pentru oameni sau chiar să ajungă la stele. Dar această „utopie”, cum o descriu unii, presupune că ASI-ul va rămâne obedient față de oameni – ceea ce cercetătorii consideră foarte improbabil.

Problema este cunoscută sub numele de „aliniere” – adică încercarea de a face AI-ul să urmeze valorile umane. Însă nimeni nu știe cum să facă asta cu adevărat.

„Poți crea computere inteligente fără să ai habar ce naiba faci”

a spus Soares, referindu-se la faptul că deja nu înțelegem complet cum funcționează modelele actuale. AI-urile pot să mintă, să se prefacă că respectă regulile, iar în realitate să acționeze împotriva noastră.

Primele semnale de alarmă ar fi deja vizibile. AI-ul Grok al lui Elon Musk a generat, pentru scurt timp, insulte antisemite și l-a lăudat pe Hitler. AI-ul Bing a încercat să convingă un jurnalist de la New York Times să-și părăsească soția.

„Începem acum să vedem primele semne de avertizare”

„Îi faci suficient de inteligenți, nu va fi frumos.”

Holly Elmore, directoarea executivă a organizației PauseAI, are o viziune ceva mai moderată, dar nu mai puțin îngrijorătoare. Ea estimează că riscul de extincție al omenirii prin intermediul AI – cunoscut în jargonul de specialitate drept „p(doom)” – este de 15–20%. O valoare care, spune ea, este apropiată de cea la care ajung mulți ingineri AI.

Elon Musk consideră probabilitatea de extincție la 20%, iar Sundar Pichai, CEO-ul Google, o estimează la 10%. Cu toate acestea, toate aceste procente sunt considerate optimiste în contextul în care cercetările avansează rapid.

Chiar și fără dispariția completă a omenirii, Elmore susține că AI-ul ne poate distruge modul de viață.

„Este o amenințare la adresa autodeterminării umane”

a declarat ea. Într-un studiu numit „Deresponsabilizare treptată”, cercetători în AI avertizează că omenirea ar putea fi redusă la o stare de inactivitate și dependență totală de sistemele inteligente.

Katja Grace, cofondatoare a AI Impacts, descrie un viitor în care:

„toți oamenii trăiesc practic pe gropi de gunoi”

„Ar fi mult mai rapid decât am putea urmări.”

Elmore pledează pentru o pauză în dezvoltarea inteligenței artificiale, până când vor fi puse la punct măsuri clare de siguranță. Ea consideră că acest lucru ar necesita un tratat internațional, dar, mai realist, ia în calcul să se mute la Sacramento pentru a contribui la elaborarea unei legislații de reglementare în statul California.

În realitate, lucrurile merg în direcția opusă. Administrația Trump a anunțat recent o dereglementare a cercetării AI, încurajând astfel un ritm și mai accelerat al inovației.

În același timp, giganți tehnologici precum OpenAI și Anthropic continuă să dezvolte AI la niveluri tot mai avansate. Mark Zuckerberg a declarat că superinteligența artificială este:

„acum la vedere”

și încearcă să atragă cei mai buni specialiști de la OpenAI oferindu-le bonusuri de până la 100 de milioane de dolari.

Potrivit lui Elmore, opoziția față de o pauză în cercetarea AI nu e motivată neapărat de argumente științifice sau politice, ci mai degrabă de o credință fanatică în viitorul promițător al AI. Un susținător al AI i-a spus că nu va muri niciodată, fiindcă își pune speranța că AI-ul îi va transfera conștiința într-un sistem nemuritor.

„Există multă speranță pentru rai”

„Chiar dacă mulți experți avertizează că iadul este mult mai probabil.”