Ministrii de finante si bancherii avertizeaza asupra riscurilor ridicate ale modelului AI Mythos. Ce este Claude Mythos
Categoria:
1
Ministrii de finante si bancherii avertizeaza asupra riscurilor ridicate ale modelului AI Mythos. Ce este Claude Mythos
Ministri de finante, guvernatori de banci centrale si actori importanti din sectorul financiar international isi exprima ingrijorarea fata de un nou model de inteligenta artificiala despre care spun ca ar putea pune in pericol securitatea sistemelor financiare globale. Este vorba despre modelul Claude Mythos, dezvoltat de compania Anthropic, care a generat discutii de criza dupa ce ar fi identificat vulnerabilitati in mai multe sisteme de operare majore. Experti din domeniu afirma ca modelul ar avea o capacitate fara precedent de a detecta si exploata brese de securitate cibernetica, insa altii avertizeaza ca sunt necesare teste suplimentare pentru a intelege pe deplin amploarea acestor capacitati. Ministrul canadian de finante François-Philippe Champagne a declarat pentru BBC ca Mythos a fost unul dintre subiectele intens discutate la reuniunea Fondului Monetar International (FMI) de la Washington DC. Este suficient de serios incat sa atraga atentia tuturor ministrilor de Finante, a spus el. Diferenta este ca Stramtoarea Ormuz stim unde este si cat de mare este. In cazul Anthropic, vorbim despre necunoscutul necunoscut. Este nevoie de foarte multa atentie, astfel incat sa avem garantii si mecanisme care sa asigure rezilienta sistemelor noastre financiare, a adaugat el. Ce este Claude MythosMythos face parte din familia de modele AI Claude, dezvoltata de Anthropic ca alternativa la sisteme precum ChatGPT (OpenAI) si Gemini (Google). Modelul a fost prezentat la inceputul acestei luni, in cadrul unor teste interne privind capacitatea AI de a indeplini sarcini considerate nealiniate cu valorile si comportamentele umane. Potrivit cercetatorilor, acesta s-a dovedit remarcabil de eficient in sarcini de securitate informatica. Din cauza riscului de a identifica si exploata vulnerabilitati vechi din software, compania nu a lansat modelul public. In schimb, Mythos a fost pus la dispozitia unor mari companii tehnologice precum Amazon Web Services, Microsoft, Nvidia si CrowdStrike, in cadrul initiativei Project Glasswing, descrisa ca un efort de consolidare a securitatii software-ului critic la nivel global. Joi, 16 aprilie, Anthropic a anuntat o versiune actualizata a modelului Claude Opus, mentionand ca aceasta va permite testarea capacitatilor cibernetice ale Mythos in sisteme mai putin performante. Intrebari privind amploarea riscurilorDesi preocuparile legate de Mythos sunt mai intense decat in cazul unor modele anterioare, unii experti in securitate cibernetica sustin ca nivelul real de risc ramane neclar, in lipsa unor evaluari independente extinse. Institutul britanic pentru Securitate AI a avut acces la o versiune preliminara a modelului si a publicat singura analiza independenta disponibila pana in prezent. Cercetatorii au concluzionat ca modelul poate identifica vulnerabilitati in medii cu protectie redusa, dar nu este semnificativ mai avansat decat predecesorul sau, Claude Opus 4. Testele noastre arata ca Mythos Preview poate exploata sisteme cu nivel scazut de securitate si este probabil ca astfel de capacitati sa devina tot mai comune in modelele viitoare, au notat autorii raportului. Totodata, analistii atrag atentia ca nu este prima data cand dezvoltatorii de AI aleg sa limiteze sau sa intarzie lansarea unor modele din motive de securitate — o practica uneori criticata ca strategie de marketing. Un precedent similar a avut loc in 2019, cand OpenAI a amanat publicarea completa a modelului GPT-2, invocand riscuri potentiale. Trebuie sa intelegem vulnerabilitatileMai multe institutii financiare de top urmeaza sa aiba acces anticipat la model pentru a-si testa propriile sisteme. Directorul executiv al Barclays, C. S. Venkatakrishnan, a declarat pentru BBC ca riscurile trebuie tratate cu seriozitate:Este suficient de serios incat sa ne oblige sa fim vigilenti. Trebuie sa intelegem mai bine ce vulnerabilitati sunt expuse si sa le remediem rapid. El a adaugat ca acesta este noul context global, in care sistemele financiare devin tot mai interconectate, cu beneficii, dar si riscuri crescute. Guvernatorul Bancii Angliei, Andrew Bailey, a subliniat, la randul sau, necesitatea unei evaluari atente: Trebuie sa analizam foarte atent ce ar putea insemna aceste dezvoltari pentru riscul de criminalitate cibernetica. El a avertizat ca astfel de modele ar putea facilita identificarea vulnerabilitatilor din infrastructurile IT esentiale, care ulterior ar putea fi exploatate de atacatori. Reactii din industrie si guverneDepartamentul Trezoreriei SUA a confirmat ca a discutat subiectul cu marile banci, recomandand testarea sistemelor inainte de o eventuala lansare publica a modelului Mythos. Surse din industria financiara sustin ca un alt mare dezvoltator de AI din Statele Unite ar putea lansa in curand un model similar ca performanta, dar cu mai putine restrictii. James Wise, partener la Balderton Capital si presedinte al unui fond dedicat investitiilor in AI din Marea Britanie, a declarat ca Mythos este primul dintr-o serie de modele mult mai puternice capabile sa expuna vulnerabilitati sistemice. El a subliniat ca investitiile sunt deja directionate catre companii specializate in securitate AI: Speranta este ca aceleasi modele care descopera vulnerabilitati vor fi si cele care vor ajuta la rezolvarea lor.
Taguri & Cuvinte Cheie:
Ministrii de finante si bancherii avertizeaza asupra riscurilor ridicate ale modelului AI Mythos. Ce este Claude Mythos ministrii finante bancherii
ministrii de finante si bancherii avertizeaza asupra riscurilor ridicate ale modelului ai mythos # ce este claude mythos