Anthropic retrage accesul la modelele Fable 5 si Mythos 5 pentru toti utilizatorii
Categoria:
3
Anthropic retrage accesul la modelele Fable 5 si Mythos 5 pentru toti utilizatorii
Anthropic anunta ca dezactiveaza accesul la Fable 5 si Mythos 5 pentru toti utilizatorii, ca urmare a unei directive a Guvernului SUA. Claude Fable 5, lansat in urma cu cateva zile, este o versiune a modelului Claude Mythos, program de inteligenta artificiala care concureaza cu ChatGPT al OpenAI si Gemini al Google. Guvernul Statelor Unite, invocand prerogative legate de securitatea nationala, a emis o directiva de control al exporturilor prin care suspenda accesul la Fable 5 si Mythos 5 pentru orice cetatean strain, indiferent daca se afla in interiorul sau in afara Statelor Unite, inclusiv pentru angajatii straini ai Anthropic. Efectul direct al acestui ordin este ca trebuie sa dezactivam imediat accesul la Fable 5 si Mythos 5 pentru toti clientii nostri, pentru a ne conforma cerintelor legale. Accesul la toate celelalte modele Anthropic nu va fi afectat, a anuntat compania, precizand ca a primit directiva guvernamentala, care nu a oferit insa detalii specifice privind preocuparea de securitate nationala invocata. Din ceea ce intelegem, guvernul considera ca a identificat o metoda de ocolire a masurilor de protectie (jailbreaking - n. r. procesul de depasire a restrictiilor software concepute pentru protejarea sistemelor informatice, permitand atacatorilor sa acceseze informatii sensibile sau sa deblocheze functionalitati restrictionate) ale modelului Fable 5, explica reprezentantii Anthropic intr-un comunicat. Compania afirma ca a implementat masuri de protectie solide care reduc semnificativ probabilitatea ca Fable sa fie utilizat abuziv pentru activitati legate de securitatea cibernetica sau alte scopuri similare, argumentand chiar ca multi utilizatori s-au plans ca sunt prea restrictive. In saptamanile premergatoare lansarii Fable, Anthropic a colaborat cu guvernul SUA, Institutul britanic pentru Siguranta Inteligentei Artificiale (AISI), mai multe organizatii private independente si echipe interne pentru a testa intens sistemele de protectie ale modelului, acumuland mii de ore de evaluari. Aceste teste au demonstrat ca masurile de protectie ale Fable sunt considerabil mai eficiente decat cele ale oricarui model implementat anterior, explica Anthropic. Totodata, anunta ca, avand in vedere imposibilitatea actuala a unei protectii perfecte, a adoptat pentru Fable 5 o strategie de securitate in profunzime (defense in depth). Obiectivul a fost ca eventualele jailbreak-uri sa fie limitate ca efect, (. . . ) completate de mecanisme de monitorizare capabile sa detecteze si sa opreasca rapid orice atac. Din acest motiv, Anthropic a impus si o perioada de pastrare a datelor clientilor de 30 de zile pentru Fable, o decizie care implica costuri si dificultati comerciale, dar care ne permite sa analizam si sa contracaram tentativele de jailbreak, arata compania. Ne conformam directivei legale a guvernului si eliminam accesul la Fable 5 si Mythos 5 pentru toti utilizatorii. Cu toate acestea, nu suntem de acord ca identificarea unui posibil jailbreak limitat ar trebui sa conduca la retragerea unui model comercial utilizat de sute de milioane de oameni. Daca acest standard ar fi aplicat intregii industrii, consideram ca lansarea de noi modele AI avansate ar fi practic blocata pentru toti dezvoltatorii de sisteme de frontiera. Dupa cum am afirmat si anterior, credem ca guvernul trebuie sa aiba posibilitatea de a opri implementarile nesigure, insa printr-un proces legal transparent, echitabil, clar si fundamentat pe date tehnice. Consideram ca aceasta decizie nu respecta aceste principii, concluzioneaza compania.
Taguri & Cuvinte Cheie:
Anthropic retrage accesul la modelele Fable 5 si Mythos 5 pentru toti utilizatorii anthropic retrage accesul
anthropic # retrage # accesul