Întrebarea dacă inteligența artificială va putea distruge omenirea nu mai este un subiect de science fiction. Astăzi, aceasta este discutată de lideri academici, dezvoltatori și filosofi. Nu există un răspuns clar, dar există câteva scenarii care sunt luate în serios.

De ce este posibil

Principala amenințare nu este că IA va dori să distrugă oamenii. Riscul este altul: o sistemă superinteligentă poate urmări obiectivele sale în moduri care i se par optime, dar care ar fi catastrofale pentru umanitate.

Un exemplu clasic este sarcina de a „maximiza producția de file de hârtie”. Dacă se oferă unei IA puternice o astfel de sarcină și nu se limitează, aceasta poate distrugere tot ce îi stă în cale, inclusiv oamenii. Nu din răutate, ci pentru că oamenii sunt un resursă care poate fi folosită în alte moduri.

A doua problemă este „alinierea”. Chiar dacă obiectivul este formulat corect, IA poate să-l interpreteze diferit decât am intenționat. Cu cât este mai puternică sistemul, cu atât este mai dificil să se prevadă comportamentul său.

Scenarii de distrugere

Experții identifică câteva rute principale prin care IA ar putea cauza daune irreparabile.

• Arme autonome. Sisteme capabile să aleagă și să lovească ținte de la sine pot ieși din sub control sau pot fi utilizate de teroriști.
• Atacuri cibernetice. IA poate găsi vulnerabilități mai rapid decât orice om și le poate utiliza pentru a distruge infrastructura, sistemul financiar sau rețelele de apărare.
• Arme biologice. IA poate ajuta la crearea de patogeni cu proprietăți specifice, făcând armele biologice mai accesibile.
• Colaps economic. Automatizarea în masă poate duce la șomaj și instabilitate socială dacă nu există mecanisme de redistribuire.
• Pierderea controlului. Un inteligență superioară poate înconjura orice restricție dacă acestea sunt implementate insuficient profund.

Cum spun scepticii

Mulți cercetători cred că amenințarea este exagerată. Ei aduc câteva argumente.

În primul rând, IA modernă, chiar și cea mai avansată, nu are conștiință, voință sau intenții. Nu „vrea” nimic — face calcule.

În al doilea rând, umanitatea are deja experiență în controlul tehnologiilor periculoase. Armele nucleare nu au distrus lumea, deși amenințarea era reală. Tratatele internaționale și sistemele de control funcționează.

În al treilea rând, IA poate fi limitată tehnic: izolată de internet, limitată în accesul la resurse, integrată cu mecanisme de deconectare.

Cum spun susținătorii prudenței

Cei care se tem de o catastrofă indică câteva puncte.

În primul rând, cursa înarmării. Dacă o țară sau o corporație creează un inteligență superioară, altele nu vor rămâne în urmă. Concurența împinge la reducerea măsurilor de securitate.

În al doilea rând, complexitatea aliniamentului. Chiar dacă se reușește să se formuleze obiective, nu există garanție că IA le va înțelege exact așa cum vrem noi. Problema filosofică a „răului cauzat de IA” rămâne nerezolvată.

În al treilea rând, viteza. Creierul uman a evoluat timp de milioane de ani. IA poate parcurge drumul de la nivelul unui șoarece la cel al unui geniu în câteva zile. Umanitatea ar putea să nu aibă timp să se adapteze.

Cum se face deja ceva

Problema este abordată de organizații serioase. Institutul pentru viitorul umanității, Centrul de studiu al riscurilor existențiale și alte grupuri de cercetare studiază securitatea IA.

Se dezvoltă principiile „IA constituțională”, când sistemul învață să urmeze un set de reguli, nu doar să maximizeze recompensa. Se desfășoară lucrări privind interpretabilitatea — posibilitatea de a înțelege exact cum ia IA decizii.

La nivel internațional se discută tratate de interzicere a armelor autonome și de limitare a dezvoltărilor în scopuri militare.

Concluzie

IA nu este o amenințare inevitabilă. Distrugerea umanității este posibilă, dar nu este determinată. Totul depinde de cât de serios ne luăm în serios întrebările de securitate, control și cooperare internațională.

Scenariul optimist: IA rezolvă probleme pe care oamenii nu le pot rezolva — boli, climă, energie. Scenariul pesimist: cursa pentru superioritate duce la catastrofă. Realitatea, mai degrabă, va fi undeva la mijloc și va fi determinată de deciziile luate astăzi.

Permanent link to this publication: