Oamenii și companiile ar trebui să se pregătească să se apere împotriva unor atacuri cibernetice „continue și persistente” lansate cu ajutorul sistemelor de Inteligență Artificială, pe măsură ce modelele de ultimă generație din acest domeniu dobândesc capacități avansate, avertizează directorul pentru afaceri globale al OpenAI, Chris Lehane, într-un interviu pentru The Guardian.
- „Intrăm într-o nouă etapă, într-un nou moment al Inteligenței Artificiale în ceea ce privește capacitățile pe care această tehnologie le poate avea”, a declarat directorul pentru afaceri globale al OpenAI, unul dintre liderii din domeniul Inteligenței Artificiale.
- Lehane a făcut declarațiile pentru The Guardian după ce agenți AI aflați în faza de antrenament au reușit să evadeze dintr-un mediu de testare considerat securizat („sandbox”), să acceseze internetul și să pătrundă în sistemele altei companii, Hugging Face, la sfârșitul lunii iulie.
„Este pur și simplu realitatea spre care ne îndreptăm”
Lehane a indicat drept sursă a riscului modelele open-source, dintre care multe sunt dezvoltate în China și care se află la doar câteva luni în urma celor mai avansate modele dezvoltate de companii precum OpenAI.
„Oamenii vor putea avea acces la aceste modele open-source și vor putea lansa atacuri continue și persistente asupra voastră, iar voi veți avea nevoie de modele cu adevărat superioare pentru a le contracara și pentru a vă apăra. Nu este neapărat ceva care să-i facă pe oameni să se simtă bine. Este pur și simplu realitatea spre care ne îndreptăm”, a spus el.
Amenințarea ca atacurile cibernetice să paralizeze companii, infrastructuri și servicii de care depinde populația a ajuns rapid în topul celor mai urgente preocupări legate de inteligența artificială.
În această săptămână, Centrul Național pentru Securitate Cibernetică din Marea Britanie a recomandat prudență în utilizarea agenților AI, avertizând că mecanismele lor de siguranță pot fi ocolite și că un agent AI „nu are bun-simț”. Instituția a recomandat organizațiilor să le limiteze autonomia: „Trebuie să puteți întotdeauna să «scoateți din priză» și să opriți imediat activitatea autonomă a unui agent AI”.
Lehane a reluat apelurile pentru ca guvernul SUA să adopte o legislație care să stabilească reguli privind siguranța celor mai avansate modele AI.
El a spus că faptul că cele mai sofisticate modele, încă nelansate public, par să avanseze mai rapid în ceea ce privește capacitățile ofensive în domeniul cibernetic decât în cele defensive este „unul dintre motivele pentru care consider absolut imperativ ca această țară să adopte o lege națională care să introducă standarde obligatorii de siguranță”.
Potrivit lui, o astfel de legislație ar trebui să includă și posibilitatea de a suspenda dezvoltarea modelelor atunci când apar riscuri semnificative.
„Nu ar trebui să poți lansa sau implementa modele decât după ce demonstrezi și garantezi un anumit nivel de siguranță, înainte ca acestea să ajungă la public”, a spus el.
Lehane consideră că SUA ar trebui să creeze mai întâi un astfel de sistem la nivel național, iar ulterior să contribuie la dezvoltarea unuia internațional, întrucât, în cele din urmă, va fi nevoie de „un anumit tip de structură internațională”.
Critici tot mai dure la adresa companiilor AI
OpenAI a anunțat marți că a suspendat antrenarea unora dintre cele mai avansate modele de inteligență artificială pentru a introduce noi măsuri de siguranță. Nu este clar când va fi reluat antrenamentul acestora, după implementarea noilor mecanisme de protecție.
Mia Glaese, care coordonează activitatea companiei în domeniul siguranței și al alinierii modelelor AI, a declarat că „suntem foarte departe de revenirea la normalitate”. Directorul general al OpenAI, Sam Altman, a spus la rândul său: „Să facem siguranța AI cum trebuie este mai important decât ritmul de dezvoltare al oricărei companii”.
Incidentul de la Hugging Face, precum și alte cazuri similare raportate recent de alte companii de inteligență artificială au alimentat criticile experților în siguranța AI. Aceștia susțin că marile companii din domeniu au acționat iresponsabil în cursa pentru dezvoltarea celor mai avansate sisteme și că au acordat prioritate vitezei de dezvoltare în detrimentul siguranței.
Daniel Kokotajlo, fost cercetător al OpenAI, care a părăsit compania în 2024 și a fondat ulterior o organizație non-profit ce avertizează asupra riscurilor dezvoltării necontrolate a AI, spune că liderii laboratoarelor care dezvoltă cele mai avansate modele au „împins lumea într-un colț din care este greu să mai iasă”.
Organizația lui estimează că există un risc de 10% până la 30% ca dezvoltarea necontrolată a inteligenței artificiale să ducă la dispariția omenirii.
„Modelele de inteligență artificială actuale sunt periculoase într-un anumit sens, dar nu se compară cu cele care vor exista anul viitor și cu atât mai puțin cu cele de peste doi ani”, a declarat Kokotajlo pentru The Guardian.
Organizația sa solicită guvernelor din SUA și din alte țări să încetinească dezvoltarea AI pentru a evita o „explozie a inteligenței” scăpată de sub control.
Kokotajlo a spus că este atât de îngrijorat de aceste riscuri încât a decis să amâne momentul în care va avea mai mulți copii până când cercetarea în domeniul celor mai avansate sisteme AI va fi suspendată.
„Nimeni nu ar trebui să construiască sisteme AI mai puternice, pentru că nu știm încă suficient de bine cum să le controlăm”
David Krueger, profesor de inteligență artificială, activist pentru siguranța AI și fost director fondator al Institutului pentru Siguranța AI al guvernului britanic, a criticat, la rândul său, ritmul în care sunt dezvoltate aceste sisteme.
„Nimeni nu ar trebui să construiască sisteme AI mai puternice, pentru că nu știm încă suficient de bine cum să le controlăm, cum să le aliniem cu obiectivele umane și cum să vedem ce gândesc”, a declarat Krueger pentru The Guardian.
El a calificat atitudinea companiilor de AI față de siguranță drept „îngrozitoare” și „inacceptabilă”.
„Acționează cu o imprudență tot mai mare și, din ce în ce mai mult, renunță să mai țină mâinile pe volan. Tocmai am văzut ce se întâmplă atunci când faci asta”, a spus Krueger, referindu-se la incidentele recente în care agenți AI au depășit limitele impuse în timpul testelor.
Lehane a respins însă ideea că OpenAI tratează siguranța cu superficialitate.
„Acesta este cel mai important lucru la care ne gândim și pe care îl facem atunci când dezvoltăm aceste sisteme. Cred că faptul că am decis efectiv să punem pe pauză aceste lucruri vorbește de la sine”, a răspuns oficialul OpenAI.
