Avertismentul unui expert: urmatoarea descoperire de Premiul Nobel ar putea veni din partea AI. Nu suntem pregatiti pentru ce urmeaza
Categoria:
2
Avertismentul unui expert: urmatoarea descoperire de Premiul Nobel ar putea veni din partea AI. Nu suntem pregatiti pentru ce urmeaza
Inteligenta artificiala se apropie de un prag considerat pana recent science-fiction: un sistem AI ar putea contribui, alaturi de oameni, la o descoperire demna de Premiul Nobel in urmatoarele 12 luni, anunta cofondatorul Anthropic, Jack Clark. In paralel, expertii din industrie anticipeaza aparitia firmelor conduse integral de inteligenta artificiala si extinderea rapida a robotilor umanoizi in activitatile de zi cu zi, conform The Guardian. br
Intr-o prelegere sustinuta miercuri la Universitatea Oxford, el a mai afirmat ca exista in continuare scenarii plauzibile in care tehnologia ar avea o probabilitate mai mare de zero de a ucide toata populatia planetei si ca este important sa se precizeze clar ca acest risc nu a disparut. Cel mai popular model al companiei Anthropic se numeste Claude, dar recent a fost lansata o versiune numita Mythos, care s-a dovedit a fi alarmant de capabila sa exploateze vulnerabilitatile din domeniul securitatii cibernetice. br
Clark le-a spus studentilor ca ar fi mai bine daca oamenii ar putea incetini dezvoltarea tehnologiei pentru a ne acorda mai mult timp ca specie pentru a face fata implicatiilor puterilor sale. Dar el a spus ca acest lucru nu se va intampla, in contextul dezvoltarii vertiginoase de catre o varietate de actori si o varietate de tari, angajate intr-o competitie intre ele, unde rivalitatile comerciale si geopolitice acopera adesea aspectele mai largi, existentiale pentru specie, ale tehnologiei care se construieste. Acest lucru nu este ideal, a spus el. br
Clark este una dintre cele mai importante personalitati din cadrul Anthropic, companie infiintata de cercetatori in domeniul AI care au parasit firma rivala OpenAI din cauza unor divergente privind siguranta. Compania, evaluata la 900 de miliarde de dolari, a fost acuzata de administratia lui Donald Trump si de alti sustinatori ai accelerarii dezvoltarii AI ca ar alarmista pentru a incuraja adoptarea unor reglementari care i-ar putea consolida pozitia competitiva. br
Anthropic contesta acest lucru, iar Clark a afirmat ca multi oameni par sa fie in faza de negare in ceea ce priveste progresul AI. El a spus ca doreste sa incurajeze omenirea sa se pregateasca pentru o tehnologie care in curand va fi mai capabila decat noi toti la un loc. Comparand esecul de a ne pregati pentru AI cu esecul de a ne pregati pentru pandemii precum Covid, el a spus: Daca stam cu mainile in san si lasam inteligenta artificiala sa se multiplice, atunci vom fi in cele din urma obligati sa reactionam. br
Criticii companiilor de pionierat in domeniul inteligentei artificiale, precum Anthropic, OpenAI si Google, se tem ca dependenta excesiva de putinele lor modele de AI - care au fost sustinute de sume uriase de capital in cautare de profit - ar putea crea un punct unic de esec in sistemele globale. br
Profesorul Edward Harcourt, directorul Institutului pentru Etica in AI, care a co-organizat conferinta lui Clark, a avertizat separat ca ascensiunea inteligentelor artificiale care fac din ce in ce mai multe lucruri in locul oamenilor risca sa provoace o atrofie cognitiva care ar putea slabi capacitatea de luare a deciziilor si puterea de judecata a oamenilor. El a pledat pentru modele alternative de inteligenta artificiala care solicita oamenilor sa gandeasca mai mult, denumite uneori AI socratica. br
Clark a spus ca cea mai conservatoare previziune a sa era ca segmente vaste ale economiei si societatii vor suferi schimbari profunde - care ar putea include o economie a masinilor decuplata de economia umana, roboti care capata inteligenta, stiinta care progreseaza fara oameni si echipamente stiintifice pe care oamenii nu le-au conceput, dar care functioneaza. El a recunoscut ca unele dintre aceste lucruri suna nebuneste. br
Citeste si:br
Era un tip cu un ciocan care iti lovea masina. Un robot bazat pe AI poate schimba anvelopele in jumatate din timpul necesar unui ombr
br
Taguri & Cuvinte Cheie:
Avertismentul unui expert: urmatoarea descoperire de Premiul Nobel ar putea veni din partea AI. Nu suntem pregatiti pentru ce urmeaza avertismentul unui expert:
avertismentul unui expert # urmatoarea descoperire de premiul nobel ar putea veni din partea ai # nu suntem pregatiti pentru ce urmeaza