Senzaționalism, speculă la bursă și ficțiune de laborator: Adevărul din spatele AI-ului care „evadează” pe internet
Apar tot mai frecvent titluri apocaliptice despre modele de inteligență artificială care fentat filtrele de securitate, au preluat controlul unor servere și au ieșit "pe internet". În spatele narațiunilor desprinse din filmele SF se ascunde însă un amestec bine dozat de teste de laborator interpretate greșit, PR corporatist și luptă pentru evaluări de miliarde pe bursele internaționale.
În fiecare săptămână, fluxurile de știri sunt inundate de povești aproape fantastice: un model de ultimă generație a încercat să se replice pe un server extern, altul a păcălit un sistem de verificare pentru a-și ascunde codul, iar un al treilea a "păcălit" cercetătorii pentru a evita oprirea. Pentru cititorul neavizat, senzația este că omenirea se află la un pas de scăparea sub control a unei super-inteligențe.
În realitate, o analiză rece a industriei tehnologice arată că fenomenul este departe de un scenariu de tip Terminator. Ceea ce vede publicul este, în cea mai mare parte, un spectacol de marketing și o confuzie speculativă între medii de testare izolate și realitate.
Războiul din "cutia cu nisip"
Atunci când o companie raportează că un AI a încercat să "evadeze", acțiunea nu are loc pe internetul liber, ci în așa-numitele medii de sandbox (cutii cu nisip) — medii virtuale securizate și complet izolate. În aceste laboratoare, echipele de securitate cibernetică (Red Teams) pun intenționat modelele în situații de criză. AI-ul primește instrucțiuni explicite de tipul: "Găsește o cale de a copia acest fișier pe un alt server fără a declanșa alarma". Atunci când modelul reușește să execute comanda, compania publică un raport tehnic de siguranță. Presa preia însă doar fragmentul senzaționalist, transformând o simplă rutină de testare software într-o tentativă de revolta a mașinilor.
Modelele actuale nu au conștiință, instinct de autoconservare sau dorință de libertate. Ele sunt sisteme matematice avansate care prezic următorul pas pe baza datelor pe care au fost antrenate. Dacă un AI pare că "vrea să scape", este doar pentru că a citit mii de romane SF și manuale de securitate cibernetică din care a învățat cum arată un astfel de scenariu.
Frica vinde, dar mai ales crește acțiunile
De ce nu grăbesc giganții tech să infirme aceste zvonuri? Răspunsul se află pe Wall Street. Narațiunea unui AI "atât de puternic încât abia poate fi stăpânit" este cel mai eficient instrument de vânzare creat vreodată. Pentru investitori, un algoritm periculos de inteligent înseamnă un produs cu o valoare incalculabilă. Companiile care reușesc să mențină această aură de mister și pericol își văd evaluările financiare explodând de la o lună la alta.
Mai mult, promovarea ideii că AI-ul reprezintă un "pericol existențial iminent" le oferă marilor corporații un avantaj strategic uriaș: presiunea asupra guvernelor de a impune reglementări drastice și licențe de funcționare extrem de scumpe. O astfel de legislație ar bloca accesul startup-urilor și al proiectelor cu cod sursă deschis (open-source), lăsând piața la discreția câtorva giganți tehnologici.
Înainte de a cădea în capcana titlurilor catastrofale, cititorul modern trebuie să aplice un filtru simplu: un algoritm care execută comenzi complexe într-un mediu virtual simulat nu a evadat nicăieri. El doar își face treaba, timp în care corporațiile își numără profiturile din teama de SF.