Parea o religie“. Marturii din interiorul companiei care vrea sa creeze inteligenta suprema, zeul-masina
Categoria:
4
Parea o religie“. Marturii din interiorul companiei care vrea sa creeze inteligenta suprema, zeul-masina
Timp de trei saptamani, lumea a urmarit cum doi dintre cei mai bogati oameni din lume, Elon Musk si Sam Altman, s-au angajat intr-o batalie publica plina de acuzatii reciproce in fata unui tribunal din California, pe tema unei organizatii pe care au cofondat-o: OpenAI. Documentele prezentate in proces — memorii interne, e-mailuri si mesaje — au oferit o perspectiva rara asupra originilor companiei si a transformarii sale dintr-un proiect idealist intr-un gigant al inteligentei artificiale. Pentru jurnalista Karen Hao, insa, multe dintre aceste detalii nu erau noi. Ea documenteaza de ani de zile evolutia OpenAI si spune ca procesul a confirmat concluziile la care ajunsese deja. A fost interesant sa vad cum multe dintre lucrurile pe care le descoperisem au fost expuse public, afirma ea. De la idealism la investitii de sute de miliardeHao a avut acces extins la sediul OpenAI inca din 2019 si a discutat ulterior cu sute de fosti angajati si apropiati ai conducerii companiei. Concluziile investigatiei sale sunt prezentate in cartea Empire of AI: Inside the Reckless Race for Total Domination, (Imperiul IA: In culisele cursei nesabuite catre dominatia totala) publicata recent. In opinia ei, OpenAI a declansat o competitie globala pentru dezvoltarea inteligentei artificiale care prioritizeaza viteza, puterea si dominatia tehnologica in detrimentul interesului public. Compania, care a creat chatbotul ChatGPT, este evaluata astazi la sute de miliarde de dolari, iar presa americana relateaza ca ar putea pregati o listare bursiera care sa ii ridice valoarea la peste 1. 000 de miliarde de dolari. Procesul intentat de Musk, in care acesta a acuzat OpenAI ca a abandonat misiunea non-profit pentru a deveni o companie comerciala, a fost respins. Pentru Hao, insa, disputa juridica nu este esentiala. Intrebarea importanta este cum am ajuns aici si ce urmeaza, spune ea. Atmosfera din interiorul OpenAIIn 2019, cand a intrat pentru prima data in sediul companiei din San Francisco, Hao spune ca a observat rapid contradictii intre discursul public al OpenAI si cultura interna. Organizatia fusese creata in 2015 cu scopul declarat de a dezvolta inteligenta artificiala generala — AGI — un tip de inteligenta capabil sa egaleze sau chiar sa depaseasca performantele cognitive umane. OpenAI sustinea ca aceasta tehnologie ar putea fie sa distruga omenirea, fie sa rezolve probleme majore ale civilizatiei. Compania promitea transparenta si colaborare globala pentru a se asigura ca rezultatul va fi benefic. Hao spune insa ca realitatea era diferita. Eram escortata peste tot. Nu aveam acces pe anumite etaje sau la anumite intalniri. Cercetatorii pareau foarte tensionati cand vorbeau, povesteste ea pentru The Times. Potrivit jurnalistei, angajatii au fost avertizati sa nu comunice cu ea in afara discutiilor aprobate oficial, iar personalul de securitate primise instructiuni clare privind accesul sau in cladire. Atmosfera era, spune ea, competitiva, secretomana si izolata. Urmarirea ideologica a zeului-masinaPe masura ce a discutat cu fosti angajati, Hao a ajuns la concluzia ca organizatia a fost transformata de obsesia conducerii pentru atingerea AGI inaintea competitorilor — fie companii precum Google, fie state precum China. Oamenii de stiinta si cercetatorii sai se numarau printre cele mai stralucite minti din domeniu. Insa, spune Hao, credinta lor in AGI se apropia mai degraba de o fervoare religioasa. Ea o numeste cautarea ideologica a zeului-masina. Mai multi fosti angajati ai OpenAI i-au povestit lui Hao despre o retragere in muntii Sierra Nevada, unde oameni de stiinta de rang inalt, imbracati in halate de baie, stateau in jurul unui foc de tabara intr-o cabana spatioasa si priveau cum Ilya Sutskever, stralucitul si excentricul sef al departamentului de cercetare al OpenAI, ardea o efigie reprezentand AGI. Fosti angajati i-au spus ca abia dupa ce au parasit compania au realizat cat de intens devenise mediul intern. Potrivit lui Hao, momentul decisiv a venit atunci cand OpenAI a concluzionat ca cea mai rapida cale spre AGI era extinderea masiva a modelelor lingvistice de mari dimensiuni — LLM. Strategia presupunea introducerea unor volume uriase de date si folosirea unor supercomputere fara precedent. Era o abordare de tip forta bruta, spune Hao. Anterior, cercetarea in domeniul inteligentei artificiale se concentra pe proiecte specifice si seturi limitate de date, de exemplu detectarea bolii Alzheimer pe baza scanarilor cerebrale. Noua abordare urmarea insa alimentarea modelelor cu cat mai multe informatii posibil, in speranta aparitiei unei forme generale de inteligenta. Aceasta strategie a necesitat investitii uriase si a determinat OpenAI sa creeze o structura comerciala capabila sa atraga capital. In 2019, compania a primit o investitie de un miliard de dolari din partea Microsoft. Costurile ascunse ale boomului AIHao sustine ca multe dintre problemele asociate astazi inteligentei artificiale provin direct din aceasta obsesie pentru scalare. Ea indica aparitia centrelor de date uriase, consumatoare de apa si energie, precum si colectarea masiva de date de pe internet, care ridica probleme privind confidentialitatea si proprietatea intelectuala. La inceput, spune ea, OpenAI folosea surse considerate curate, precum lucrari academice si baze de date verificate. Ulterior insa, companiile au inceput sa colecteze informatii de pe retele sociale, forumuri si alte surse online mai putin fiabile. Rezultatul, afirma Hao, il reprezinta sisteme care genereaza frecvent erori, teorii conspirationiste sau informatii inselatoare. In ciuda criticilor sale, Hao insista ca nu este impotriva dezvoltarii AI. Ea spune ca progresul tehnologic ar putea continua intr-o directie diferita — mai precisa si mai controlata. In locul unor modele universale uriase, Hao pledeaza pentru sisteme specializate, dezvoltate pentru scopuri clare, precum descoperirea de medicamente sau cercetarea stiintifica. Poate ca nu vom crea o superinteligenta, dar am putea obtine beneficii reale pentru societate fara aceleasi efecte secundare, afirma ea. In opinia sa, intrebarea fundamentala ramane aceeasi pe care a adresat-o conducerii OpenAI in prima sa zi in companie: De ce alegem, de fapt, sa construim o inteligenta care sa depaseasca omul?
Taguri & Cuvinte Cheie:
Parea o religie“. Marturii din interiorul companiei care vrea sa creeze inteligenta suprema, zeul-masina parea religie“. marturii
parea o religie“ # marturii din interiorul companiei care vrea sa creeze inteligenta suprema # zeul-masina