Inteligenta artificiala intra in spitale. Cine raspunde cand algoritmul greseste. Cercul persoanelor care pot fi trase la raspundere se extinde semnificativ
Categoria:
1
Inteligenta artificiala intra in spitale. Cine raspunde cand algoritmul greseste. Cercul persoanelor care pot fi trase la raspundere se extinde semnificativ
Inteligenta artificiala a intrat deja si in sistemul medical din Romania. AI a inceput sa sprijine spitalele publice si clinicile private in triaj, radiologie si robotica. Si legislatia la nivel european a fost schimbata pentru a fi pusa in actualitate cu evolutia din spitale. Avocatul Silviu Faier explica AI Act si implicatiile sale asupra practicii de malpraxis medical, dar si cine raspunde cand algoritmul greseste. Adoptarea de catre Uniunea Europeana a Regulamentului privind Inteligenta Artificiala - AI Act reprezinta unul dintre cele mai importante momente legislative ale ultimilor ani. Desi actul normativ urmareste in principal reglementarea dezvoltarii si utilizarii sistemelor de inteligenta artificiala, efectele sale vor fi resimtite in mod direct si in domeniul medical, inclusiv in materia raspunderii pentru malpraxis. In prezent, inteligenta artificiala este utilizata pentru interpretarea investigatiilor imagistice, analiza rezultatelor de laborator, evaluarea riscurilor clinice, stabilirea diagnosticelor diferentiale si chiar formularea recomandarilor terapeutice. Pe masura ce aceste sisteme devin parte integranta a actului medical, apare o intrebare esentiala: cine raspunde atunci cand inteligenta artificiala contribuie la producerea unui prejudiciu pacientului?Din perspectiva dreptului roman, raspunsul trebuie cautat atat in AI Act, cat si in dispozitiile dreptului comun privind raspunderea civila delictuala, precum si in reglementarile speciale din domeniul sanatatii, a declarat Silviu Faier. Sistemele AI utilizate in medicina sunt considerate high-riskAI Act califica majoritatea sistemelor de inteligenta artificiala utilizate in domeniul sanatatii drept sisteme cu risc ridicat (high-risk AI systems). Aceasta calificare nu este intamplatoare. O eroare a unui algoritm utilizat pentru diagnosticarea cancerului, identificarea unui accident vascular cerebral sau recomandarea unui tratament poate avea consecinte directe asupra vietii si sanatatii pacientului. In consecinta, dezvoltatorii si furnizorii unor astfel de sisteme sunt obligati sa respecte cerinte stricte privind:calitatea datelor utilizate pentru antrenarea algoritmuluigestionarea riscurilortrasabilitatea deciziilordocumentarea tehnicasupravegherea umanamonitorizarea performantei dupa introducerea pe piataAceste obligatii nu au doar o componenta administrativa sau de conformitate. In eventualitatea unui litigiu, ele pot constitui repere esentiale pentru stabilirea culpei si a raspunderii civile, a explicat avocatul. Raspunderea pentru malpraxis in lumina Legii nr. 952006In dreptul roman, cadrul juridic principal in materia malpraxisului medical este reprezentat de Titlul XVI din Legea nr. 952006 privind reforma in domeniul sanatatii. Potrivit art. 653 alin. (1) lit. b) din Legea nr. 952006, malpraxisul reprezinta eroarea profesionala savarsita in exercitarea actului medical sau medico-farmaceutic, generatoare de prejudicii asupra pacientului, implicand raspunderea civila a personalului medical si a furnizorului de produse si servicii medicale. Definitia legala este suficient de larga pentru a permite includerea situatiilor in care prejudiciul este produs prin utilizarea defectuoasa a unor sisteme de inteligenta artificiala. In viitor, problema juridica nu va mai fi doar daca medicul a gresit, ci si daca:sistemul AI a functionat corespunzatorspitalul a implementat corect tehnologiafurnizorul software si-a indeplinit obligatiile legalepersonalul medical a utilizat instrumentul conform destinatiei saleDispare raspunderea medicului? Raspunsul este nu, a declarat avocatul Silviu Faier. Una dintre ideile fundamentale ale AI Act este aceea ca sistemele de inteligenta artificiala trebuie sa ramana sub control uman. Simplul fapt ca un medic a urmat recomandarea unui algoritm nu il exonereaza automat de raspundere. Instantele vor analiza daca medicul a inteles limitele sistemului AI, a verificat rezultatele generate, a corelat recomandarea algoritmului cu tabloul clinic concret si a exercitat o judecata profesionala proprie. Daca medicul transforma recomandarea algoritmului intr-o decizie automata, fara analiza critica, exista posibilitatea angajarii raspunderii sale profesionale in conditiile Legii nr. 952006 si ale Codului civil, a adaugat avocatul. Silviu Faier a explicat legislatia din Romania. Articolul 1349 consacra obligatia generala a oricarei persoane de a respecta regulile de conduita impuse de lege si de a nu aduce atingere drepturilor sau intereselor legitime ale altor persoane. Pentru angajarea raspunderii civile delictuale va trebui dovedita existenta cumulativa a celor patru conditii clasice:existenta unei fapte iliciteexistenta unui prejudiciuexistenta raportului de cauzalitateexistenta vinovatieiIn materia inteligentei artificiale, identificarea faptei ilicite si a autorului acesteia poate deveni extrem de dificila. Spre exemplu, o eroare de diagnostic poate fi cauzata de:o utilizare necorespunzatoare a sistemului de catre medico implementare defectuoasa realizata de unitatea sanitarao eroare de programare a algoritmuluidate de antrenare insuficiente sau incorectelipsa actualizarii sistemuluiIn functie de situatia concreta, raspunderea delictuala ar putea reveni uneia sau mai multor persoane implicate in lantul decizional, transmite avocatul. Pana in prezent, litigiile de malpraxis medical au vizat in principal medicii si unitatile sanitare. Odata cu integrarea inteligentei artificiale in actul medical, cercul persoanelor care pot fi trase la raspundere se extinde semnificativ. In anumite situatii, raspunderea ar putea reveni medicului, unitatii sanitare, dezvoltatorului sistemului AI, producatorului dispozitivului medical, distribuitorului software-ului sau companiei care asigura mentenanta sistemului. In practica, este foarte probabil sa apara litigii complexe in care mai multe persoane vor fi chemate in judecata in solidar, urmand ca instanta sa stabileasca ponderea contributiei fiecareia la producerea prejudiciului, a adaugat avocatul. Una dintre cele mai dificile provocari juridice este reprezentata de lipsa de transparenta a unor sisteme AI. In numeroase cazuri, nici medicul si nici pacientul nu pot intelege exact modul in care algoritmul a ajuns la o anumita concluzie. Acest fenomen, cunoscut sub denumirea de black box problem, ridica dificultati majore de proba. AI Act incearca sa raspunda acestor probleme prin impunerea unor obligatii stricte de trasabilitate, pastrare a logurilor si documentare tehnica, elemente care vor deveni probe esentiale in litigii. O alta problema deosebit de importanta priveste consimtamantul informat. In viitor, standardul informatiilor furnizate pacientului ar putea include si aspecte privind utilizarea sistemelor AI in procesul diagnostic sau terapeutic. Pacientul ar putea avea dreptul sa cunoasca faptul ca sunt utilizate sisteme de inteligenta artificiala, rolul acestora in procesul decizional, limitele si riscurile asociate si existenta unei supravegheri umane efective. Neinformarea adecvata a pacientului poate genera litigii suplimentare privind validitatea consimtamantului si respectarea dreptului la autodeterminare, a declarat Silviu Faier. Pe masura ce sistemele AI devin mai performante, acestea ar putea modifica insasi definitia conduitei medicale diligente. Daca un sistem de inteligenta artificiala validat clinic poate identifica anumite patologii cu o rata de succes superioara medicilor, se poate pune intrebarea daca neutilizarea unei asemenea tehnologii reprezinta ea insasi o abatere de la standardul profesional. Astfel, in viitor, raspunderea pentru malpraxis ar putea fi analizata nu doar din perspectiva utilizarii gresite a inteligentei artificiale, ci si din perspectiva neutilizarii unor instrumente tehnologice care au devenit standard de practica medicala. AI Act nu elimina raspunderea pentru malpraxis medical, ci o transforma profund. In dreptul roman, analiza juridica a unui prejudiciu produs in contextul utilizarii inteligentei artificiale va presupune coroborarea normelor europene privind inteligenta artificiala cu dispozitiile Titlului XVI din Legea nr. 952006 privind reforma in domeniul sanatatii si cu regulile generale ale raspunderii civile delictuale prevazute de Codul civil. Pentru practicienii dreptului, provocarea urmatorilor ani va consta in identificarea exacta a raportului dintre eroarea umana si eroarea algoritmica, precum si in stabilirea persoanei obligate sa repare prejudiciul. In acest nou context, litigiile de malpraxis medical vor deveni inevitabil mai complexe, necesitand nu doar expertize medico-legale, ci si analize tehnice aprofundate asupra modului in care sistemele de inteligenta artificiala au influentat actul medical si rezultatul, a adaugat avocatul.
Taguri & Cuvinte Cheie:
Inteligenta artificiala intra in spitale. Cine raspunde cand algoritmul greseste. Cercul persoanelor care pot fi trase la raspundere se extinde semnificativ inteligenta artificiala intra
inteligenta artificiala intra in spitale # cine raspunde cand algoritmul greseste # cercul persoanelor care pot fi trase la raspundere se extinde semnificativ