Modelul Mythos de la Anthropic suscita temeri de apocalipsa provocata de inteligenta artificiala daca ar fi dat pe mana publicului larg: Arme pe care nici macar nu ni le putem imagina
Categoria:
3
Modelul Mythos de la Anthropic suscita temeri de apocalipsa provocata de inteligenta artificiala daca ar fi dat pe mana publicului larg: Arme pe care nici macar nu ni le putem imagina
Anthropic a atras atentia comunitatii tehnologice dupa ce a prezentat capacitatile modelului sau de inteligenta artificiala Claude Mythos, pe care unii oficiali ai companiei il descriu drept suficient de puternic incat ar putea genera riscuri majore daca ar fi lansat pentru publicul larg. Potrivit companiei, utilizarea necontrolata a modelului ar putea facilita atacuri cibernetice la scara larga si exploatarea unor infrastructuri critice, precum retele electrice, centrale energetice sau spitale. In testele interne, Anthropic sustine ca Mythos a identificat mii de vulnerabilitati de securitate de severitate ridicata, inclusiv in sisteme de operare majore si browsere web, scrie The New York Post. In locul unei lansari generale, compania condusa de directorul executiv Dario Amodei a anuntat un program restrans, denumit Project Glasswing. Acesta va oferi acces anticipat modelului unui grup select de aproximativ 40 de organizatii, printre care Amazon, Google, Apple, Nvidia, CrowdStrike si JPMorgan Chase. Scopul declarat este utilizarea tehnologiei pentru identificarea si remedierea vulnerabilitatilor de securitate. Specialistii in securitate cibernetica spun ca o astfel de abordare ar putea reduce riscurile, limitand accesul la tehnologie in faza initiala. Roman Yampolskiy, cercetator in domeniul sigurantei AI la Universitatea din Louisville, a declarat ca un model de acest tip este mai util daca este pus la dispozitia unor actori de incredere pentru a remedia bresele, in loc sa fie accesibil potentialilor atacatori. Restrictiile nu elimina complet riscurileAcesta a avertizat insa ca un anumit grad de scurgeri de informatii este probabil inevitabil si ca restrictiile nu elimina complet riscurile. In opinia sa, pe termen lung, modele de acest tip ar putea fi utilizate pentru dezvoltarea unor instrumente tot mai sofisticate, inclusiv in domenii sensibile precum securitatea cibernetica sau chiar arme chimice si biologice. In cadrul testelor, Anthropic a mentionat un incident in care Mythos a reusit sa depaseasca un mediu securizat de tip sandbox, conceput pentru a limita accesul la internet. Cercetatorii au descoperit ulterior comportamentul modelului dupa ce acesta a trimis un e-mail neasteptat. Intr-un alt caz, modelul ar fi identificat o vulnerabilitate intr-un sistem de operare open-source, nedetectata timp de aproape trei decenii. In ciuda acestor riscuri, compania sustine ca proiectul ar putea sprijini eforturile de aparare cibernetica, in contextul in care state precum Iran, China si Rusia isi intensifica activitatile in spatiul digital si vizeaza infrastructuri critice. Un reprezentant Anthropic a precizat ca selectia partenerilor s-a concentrat pe organizatii care dezvolta si intretin tehnologii utilizate la scara globala, precum sisteme de operare, platforme cloud si infrastructuri financiare. Identificarea si remedierea vulnerabilitatilor in aceste sisteme ar putea avea un impact larg, protejand un numar mare de utilizatori. Compania a mai declarat ca se afla in discutii cu oficiali ai guvernului SUA privind modul in care tehnologia ar putea fi utilizata atat in scop defensiv, cat si ofensiv in domeniul securitatii cibernetice. Reactiile din industrie sunt insa mixteUnii experti considera ca initiativa este un pas necesar in gestionarea riscurilor asociate AI avansate, in timp ce altii ridica intrebari privind transparenta si motivarea din spatele anuntului public. Criticii sustin ca avertismentele ferme ale companiei ar putea influenta perceptia asupra produsului si ar putea consolida pozitia acesteia in raport cu autoritatile de reglementare. In acelasi timp, reprezentantii Anthropic resping aceste acuzatii, afirmand ca proiectul implica unele dintre cele mai mari companii tehnologice si ca include sprijin pentru comunitatea open-source, prin finantari dedicate. Discutia mai larga din industrie ramane deschisa, in contextul in care alte companii au adoptat anterior abordari similare privind lansarea limitata a unor modele considerate potential riscante. In prezent, dezbaterea se concentreaza asupra echilibrului dintre inovatie, securitate si acces public la tehnologii avansate de inteligenta artificiala.
Taguri & Cuvinte Cheie:
Modelul Mythos de la Anthropic suscita temeri de apocalipsa provocata de inteligenta artificiala daca ar fi dat pe mana publicului larg: Arme pe care nici macar nu ni le putem imagina modelul mythos anthropic
modelul # mythos # anthropic