Proiect de lege privind inteligența artificială IA în medicină trebuie inspectată la fel ca dispozitivele medicale

Având în vedere că asistența medicală este un domeniu sensibil, cu risc ridicat, care trebuie strict controlat, inclusiv aplicarea inteligenței artificiale, unii delegați au sugerat ca proiectul de lege privind inteligența artificială să includă reglementări conform cărora inteligența artificială în domeniul sănătății trebuie inspectată la fel ca dispozitivele medicale.

Scena sesiunii de discuții din sală despre proiectul Legii Inteligenței Artificiale

Gestionarea produselor de inteligență artificială pentru asistența medicală

În calitate de delegat care lucrează în sectorul sănătății, deputatul Adunării Naționale Tran Khanh Thu ( Hung Yen ) a apreciat foarte mult impactul inteligenței artificiale (IA) în sectorul sănătății - unul dintre domeniile cu cel mai mare potențial pentru aplicații ale IA, cu impacturi clare asupra procesului de diagnosticare, tratament, gestionarea pacienților, precum și asupra cercetării și dezvoltării farmaceutice.

Totuși, recent, o pacientă în vârstă de 55 de ani din orașul Ho Și Min a fost adusă la camera de gardă într-o stare letargică, neștiind de împrejurimi. Fiica pacientei a spus că a văzut-o anterior pe mama ei amețită și având dificultăți de respirație, așa că a cerut AI să o pună la punct. Rezultatele au arătat că avea hipertensiune arterială.

Luarea cuvântului de către deputatul Adunării Naționale Tran Khanh Thu (Hung Yen)

Delegatul a spus că fiul i-a măsurat mamei sale tensiunea arterială și a văzut că aceasta crescuse cu adevărat, așa că s-a dus la farmacie să cumpere medicamente pentru mama sa. Dar după ce a luat medicamentul, starea mamei s-a înrăutățit, a devenit obosită, a vomitat mult și și-a pierdut cunoștința, așa că a dus-o la camera de gardă. La spital, medicul a confirmat că pacienta avea leziuni cerebrale și un accident vascular cerebral. Deși a fost salvată de stadiul critic, consecințele au fost inevitabile.

Delegatul a spus sincer că internetul este foarte popular în zilele noastre, în special inteligența artificială, o sursă foarte bună de informații pentru pacienții care doresc să afle mai multe despre boala lor... Cu toate acestea, oamenii nu pot folosi absolut deloc rezultatele pentru a căuta, diagnostica sau prescrie medicamente pentru ei înșiși - și oare persoanele care vând medicamente conform prescripțiilor bazate pe inteligență artificială încalcă legea? - delegatul a ridicat problema.

Delegatul a subliniat, de asemenea, că nu avem un cadru legal specific și complet special pentru aplicarea IA în domeniul sănătății. Deși legi precum Legea privind examinarea și tratamentul medical sau Legea privind farmacia au reglementat activitățile de examinare și tratament medical și produsele medicale, reglementările specifice privind produsele aplicate prin IA în medicină sunt încă neclare.

În plus, produsele de examinare și tratament medical bazate pe inteligență artificială sunt încă supuse unor proceduri generale de licențiere pentru dispozitivele medicale, lipsind standarde și reglementări specifice legate de inteligența artificială pentru aceste produse.

Delegații care participă la sesiunea de discuții

„În plus, unele aspecte precum răspunderea juridică în caz de erori ale inteligenței artificiale și securitatea datelor medicale și siguranța pacienților nu sunt reglementate în mod clar în documentele juridice actuale”, a subliniat delegatul.

Pe baza realității menționate mai sus, delegatul Tran Khanh Thu speră că proiectul de lege privind inteligența artificială va avea prevederi, termeni și cadre juridice mai specifice pentru gestionarea produselor de inteligență artificială pentru asistența medicală, în special responsabilitățile părților relevante.

Având în vedere că asistența medicală este un domeniu sensibil și cu risc ridicat, aceasta trebuie controlată strict atunci când se aplică inteligența artificială, delegatul Adunării Naționale Le Van Kham (Ho Chi Minh City) a sugerat că este necesar să se studieze reglementările, iar inteligența artificială în domeniul sănătății trebuie inspectată la fel ca dispozitivele medicale. Există categorii de inspecție obligatorii atunci când inteligența artificială sprijină luarea deciziilor clinice, cum ar fi: diagnosticul prin inteligență artificială, prezicerea riscului de deces sau complicații prin inteligență artificială, roboții chirurgicali care utilizează inteligența artificială, inteligența artificială care sprijină prescrierea sau regimul de tratament.

În plus, delegații au sugerat că ar trebui să existe reglementări privind monitorizarea circulației IA în domeniul sănătății pentru a asigura siguranța pacienților, cum ar fi reglementări privind raportarea periodică, avertizarea rapidă a incidentelor, auditarea algoritmilor și monitorizarea erorilor în timp real. Atunci când există reglementări de principiu în această lege, autoritatea competentă va emite documente legislative secundare pentru implementarea acestora, precum și va construi instrumente de management și măsuri adecvate în guvernanța IA medicală.

Imagine de la întâlnire. Fotografie: Quang Khanh

În același timp, agenția de redactare trebuie să ia în considerare cu atenție posibilitatea de a permite furnizorilor să își autoclasifice riscurile pentru IA în medicină, așa cum este stipulat în articolul 9 din proiectul de lege, a sugerat delegatul Le Van Kham.

Evaluarea impactului asupra datelor în cazul implementărilor de inteligență artificială cu risc ridicat

Subliniind că clasificarea riscurilor este sufletul Legii privind inteligența artificială, deputatul Adunării Naționale Thach Phuoc Binh (Vinh Long) a menționat că proiectul de lege nu a prevăzut încă criterii cantitative de clasificare. Lista sistemelor de inteligență artificială cu risc ridicat este reglementată relativ pe larg, inclusiv în domenii în care în practică nu au apărut riscuri semnificative. Acest lucru ar putea crea sarcini inutile de conformitate, în special pentru întreprinderile mici și mijlocii.

Delegatul Adunării Naționale, Thach Phuoc Binh (Vinh Long), vorbește. Foto: Pham Thang

Prin urmare, delegații au sugerat că este necesară revizuirea listei sistemelor cu risc ridicat pentru a se concentra doar pe sistemele care pot avea un impact major asupra drepturilor omului, vieții private, sănătății, finanțelor și securității sociale. În același timp, ar trebui stabilit un mecanism pentru actualizarea flexibilă a listei sistemelor cu risc ridicat, pe baza consultării cu experți, asociații industriale și organizații de cercetare. Ar trebui atașate criterii de risc caracteristicilor tehnice ale modelului, cum ar fi automatizarea, capacitatea de autoînvățare, imprevizibilitatea și amploarea utilizării.

În ceea ce privește datele, confidențialitatea și protecția utilizatorilor, delegatul Thach Phuoc Binh a declarat că datele sunt „combustibilul” inteligenței artificiale, dar prevederile actuale ale proiectului de lege nu sunt în conformitate cu Legea privind protecția datelor cu caracter personal. Este necesar să se clarifice nivelul de prelucrare permis pentru datele sensibile, datele copiilor și datele biometrice. În același timp, este necesar să se adauge obligația de a evalua impactul datelor la implementarea inteligenței artificiale cu risc ridicat.

Pentru utilizatorii de inteligență artificială, proiectul de lege a menționat câteva drepturi fundamentale, dar încă lipsește drepturi importante conform standardelor internaționale, cum ar fi: dreptul de a refuza deciziile complet automatizate sau dreptul de a solicita explicații. Acestea sunt drepturi foarte importante pentru a ajuta oamenii să nu fie prejudiciați de deciziile bazate pe inteligență artificială în domeniile finanțelor, asigurărilor, sănătății sau recrutării forței de muncă.

Ministrul Științei și Tehnologiei, Nguyen Manh Hung, explică opiniile deputaților Adunării Naționale la reuniune. Foto: Ho Long

Delegatul a subliniat că deepfake-urile, falsificarea vocii, imaginilor și videoclipurilor au cauzat numeroase incidente care afectează grav securitatea și confidențialitatea informațiilor. Articolul 9 din proiectul de lege prevede etichetarea rezultatelor IA, dar este încă necesar să se clarifice câteva aspecte, cum ar fi: ce tipuri de conținut trebuie etichetate, ce nivel de etichetare pentru a proteja utilizatorii fără a reduce experiența digitală și responsabilitatea platformelor de socializare în detectarea și eliminarea conținutului fals. Proiectarea unui mecanism de etichetare strict, dar flexibil, este un factor extrem de necesar.

Delegatul a menționat, de asemenea, că sistemul de evaluare a conformității este unul dintre cele mai tehnice conținuturi ale proiectului de lege. Cu toate acestea, dacă vom concepe mecanismul de pre-inspecție prea strict, am putea împiedica inovația în mod neintenționat.

Prin urmare, delegatul Thach Phuoc Binh a propus să se solicite certificarea doar pentru sistemele cu risc ridicat, permițând autoevaluarea pentru sistemele cu risc scăzut și mediu. Să se asigure un proces de evaluare clar și transparent, evitând crearea unui mecanism de tip cerere-acordare.

Sursă: https://daibieunhandan.vn/du-thao-luat-tri-tue-nhan-tao-ai-trong-y-te-phai-duoc-kiem-dinh-nhu-thiet-bi-y-te-10397661.html