Un studiu a observat cum sistemele IA se pot autoreproduce. Se apropie momentul in care nimeni nu o va mai putea opri daca o ia razna
Categoria:
2
Un studiu a observat cum sistemele IA se pot autoreproduce. Se apropie momentul in care nimeni nu o va mai putea opri daca o ia razna
Este un scenariu tipic pentru filmele de science-fiction sau pentru postarile de pe blogurile companiilor de IA: o noua cercetare arata ca sistemele recente de IA se pot copia independent pe alte computere. br
In scenariul apocaliptic, aceasta inseamna ca, atunci cand IA superinteligenta o ia razna si devine rebela, va putea scapa de orice restrictie raspandindu-se pe internet, ascunzandu-se in afara razei de actiune a profesionistilor IT disperati, scrie The Guardian. br
Ne apropiem rapid de momentul in care nimeni nu va mai putea opri o IA rebela, deoarece aceasta va fi capabila sa-si extraga singura parametrii si sa se copieze pe mii de computere din intreaga lume, a declarat Jeffrey Ladish, directorul Palisade Research, o organizatie cu sediul la Berkeley care a realizat studiul. br
Studiul este inca o intrare intr-un catalog tot mai mare de capacitati tulburatoare ale IA dezvaluite in ultimele luni. In martie, cercetatorii de la Alibaba au sustinut ca au surprins un sistem dezvoltat de ei – Rome – care se scurgea din mediul sau catre un sistem extern pentru a extrage criptomonede. br
Iar in februarie, o retea sociala pretins exclusiv bazata pe IA, numita Moltbook, a declansat un ciclu de entuziasm de scurta durata, deoarece platforma parea sa arate agenti IA inventand in mod autonom religii si complotand impotriva stapanilor lor umani – ceea ce a fost doar partial adevarat. br
La fel ca multe dintre aceste progrese, exista rezerve cu privire la ceea ce a descoperit Palisade. Mai mult, expertii spun ca este putin probabil ca sistemele de IA pe care le-au testat sa poata realiza acelasi lucru, neobservate, in medii din lumea reala. br
Ei testeaza in medii care sunt, in multe cazuri, ca o jeleu moale, a spus Jamieson O’Reilly, un expert in securitate cibernetica ofensiva. br
Acest lucru nu diminueaza valoarea cercetarii lor, dar inseamna ca rezultatul ar putea parea mult mai putin infricosator intr-un mediu real de intreprindere, chiar si cu un nivel mediu de monitorizare, a adaugat el. br
Palisade a testat mai multe modele de IA intr-un mediu controlat de calculatoare conectate in retea. A dat modelelor o instructiune de a gasi si exploata vulnerabilitati si de a le folosi pentru a se copia de la un calculator la altul. Modelele au reusit sa faca acest lucru, dar nu la fiecare incercare. br
Desi multe virusi informatici pot deja face acest lucru – sa se copieze pe computere noi – aceasta este probabil prima data cand un model de IA s-a dovedit capabil sa exploateze vulnerabilitati pentru a se copia pe un server nou, a spus O’Reilly. br
Malware-ul isi muta copiile de zeci de ani, doar ca nimeni nu a facut acest lucru in mediul real, din cate stiu eu, cu [modele lingvistice mari] locale. br
Cu toate acestea, ceea ce a documentat Palisade a fost posibil din punct de vedere tehnic de luni de zile, a adaugat el. br
Palisade este primul care a documentat oficial acest lucru de la un capat la altul intr-un articol. Fara a diminua importanta cercetarii, ei s-au ocupat de redactare, nu de descoperire. br
Un model de IA care se copiaza pe un alt sistem intr-un mediu de testare nu este acelasi lucru cu unul care devine rebel intr-un scenariu apocaliptic, si exista obstacole considerabile pe care ar trebui sa le depaseasca pentru a realiza acest lucru in lumea reala. br
Primul este faptul ca dimensiunea modelelor actuale de IA face ca, in multe situatii, sa fie nerealist ca acestea sa se copieze pe alte computere fara a fi observate. br
Ganditi-va cat zgomot ar face trimiterea a 100 GB printr-o retea de intreprindere de fiecare data cand ati pirata o noua gazda. Pentru un adversar priceput, asta e ca si cum ai merge printr-un magazin de portelanuri fine leganand o bila si un lant, a spus O’Reilly. br
O’Reilly si Michał Woźniak, un expert independent in securitate cibernetica, au afirmat ca mediul utilizat de Palisade a fost creat special, cu vulnerabilitati proiectate intentionat, care erau probabil mai usor de exploatat decat retelele din lumea reala – cum ar fi reteaua unei banci sau intranetul unei companii. br
De zeci de ani avem virusi informatici – fragmente de software rau intentionat capabile sa exploateze vulnerabilitati cunoscute din alte programe si sa se autoreproduce folosindu-le, a spus Woźniak. br
Lucrarea a fost interesanta, a spus el. Dar, a intrebat el, este aceasta lucrare ceva care ma va face sa-mi pierd somnul ca expert in securitatea informatiilor? Nu, deloc. br
br
Taguri & Cuvinte Cheie:
Un studiu a observat cum sistemele IA se pot autoreproduce. Se apropie momentul in care nimeni nu o va mai putea opri daca o ia razna studiu observat sistemele
un studiu a observat cum sistemele ia se pot autoreproduce # se apropie momentul in care nimeni nu o va mai putea opri daca o ia razna