Szükséges szabályozni a tiltott viselkedéseket a mesterséges intelligencia kutatása és alkalmazása során.
A mesterséges intelligencia (MI) a 4.0 ipari forradalom élvonalbeli technológiájává válik, számos nagyszerű lehetőséget nyitva meg a társadalmi -gazdasági fejlődés számára. Ugyanakkor számos sürgető kihívást is jelent az irányítás, az etika és a biztonság terén, amelyeket a jelenlegi jogszabályok nem fednek le teljes mértékben.
Ezért a Nemzetgyűlés képviselői mindannyian egyetértettek abban, hogy szükség van egy mesterséges intelligenciáról szóló törvénytervezet kidolgozására, amely áttörést jelentő jogi folyosót hoz létre a mesterséges intelligencia számára, kedvező jogi környezetet teremt az innováció előmozdításához, fokozza a nemzeti versenyképességet, és egyidejűleg kezeli a kockázatokat, védi a nemzeti érdekeket és az emberi jogokat.
Aggódva a mesterséges intelligencia állami ügynökségekben való alkalmazása miatt, Tran Dinh Chung (Da Nang) nemzetgyűlési képviselő kijelentette, hogy ez segíteni fog az ügynökségeknek, a tisztviselőknek és a köztisztviselőknek abban, hogy sok időt takarítsanak meg, gyorsabban és szinkronikusabban dolgozzák fel a munkájukat, hozzájárulva a munka minőségének javításához.
Az állami szervekben a mesterséges intelligencia alkalmazásának költség- és időbeli előnyei mellett a küldöttek azt is megjegyezték, hogy jelenleg számos olyan kérdés van, amelyet tovább kell tanulmányozni és a törvénytervezetben pontosítani.
Az első a mesterséges intelligencia használatának biztonsága, mivel a tisztviselőknek és a köztisztviselőknek jelenleg bemeneti információkat kell szolgáltatniuk a mesterséges intelligencia képzéséhez, valamint a működési folyamat során is. Ezért, ha nem szigorúan kezelik, fennáll annak a kockázata, hogy belső adatok, érzékeny adatok vagy bizalmas állami információk kerülnek be a mesterséges intelligencia szoftverekbe, vagy az adatokat a mesterséges intelligencia képzésétől eltérő célokra használják fel. Az adatok akkor is aggodalomra adnak okot, ha nincsenek konkrét szabályozások a tárolásuk módjára, helyére és a hozzáférési jogokra vonatkozóan.
Másodszor, az állami szervektől származó nagy mennyiségű adat mesterséges intelligencia szoftverekbe történő koncentrálása szintén magában hordozza a hackerek támadásainak és adatlopásainak kockázatát. Ez a kockázat különösen azért növekszik, mert az állami szervek nem tudják maguk fejleszteni és üzemeltetni a mesterséges intelligencia szoftvereket, hanem gyakran külső vállalkozásokkal való együttműködésre támaszkodnak. Eközben a külföldi országokból származó kémprogramok is fejlődnek, így a mesterséges intelligencia használata az adatlopás és az elnyomás kockázatával is jár.
Harmadszor, egy másik kockázat a pontosság. Mivel a mesterséges intelligencia szoftverei pontatlan eredményeket is produkálhatnak a rendelkezésre álló adatokból való tanulás miatt, örökölhetik a köztisztviselők által a múltban hozott torzításokat vagy helytelen megoldásokat. „A pontatlan vagy hiányos adatok szintén nagymértékben befolyásolják a mesterséges intelligencia minőségét” – hangsúlyozta a küldött.
A tisztviselők, köztisztviselők vagy állampolgárok nem rendelkeznek a szükséges készségekkel ahhoz, hogy kérdéseket tegyenek fel a mesterséges intelligenciának, ami korlátozott válaszokhoz vezet. Eközben a mesterséges intelligenciának időre van szüksége az új jogi dokumentumok és az állami szervek új utasításainak frissítéséhez.
Negyedszer, a mesterséges intelligencia minősége jelenleg nem felel meg a követelményeknek. Egyes mesterséges intelligencia modellek nagyon összetettek, ami megnehezíti az elemzési folyamat irányítását, az adatfeldolgozást és a mesterséges intelligencia döntéseinek magyarázatát. Ezenkívül az algoritmusokban vagy a mesterséges intelligencia rendszerekben előforduló hibák problémája is hibákhoz vezet.
A mesterséges intelligencia állami szervekben történő alkalmazásához szükséges technikai infrastruktúrára és emberi erőforrásokra vonatkozó követelmények mellett Tran Dinh Chung küldött megjegyezte, hogy figyelmet kell fordítani a mesterséges intelligencia technológiájának visszaélésszerű alkalmazásának kockázatára is, amely csökkenti a köztisztviselők készségeit. A tisztviselők kevesebb kutatást fognak végezni, mert úgy gondolják, hogy csak szoftverekbe kell átültetniük a tudást, hogy a mesterséges intelligencia segíthessen megválaszolni a felmerülő kérdéseket.
„A mesterséges intelligencia technológia alkalmazása az állami szerveknél elkerülhetetlen trend. De felmerül a kérdés, hogy hogyan lehet ezt a munka hatékonyságának biztosítására, miközben az információbiztonságot is garantáljuk.” Ezért Tran Dinh Chung küldött beleegyezett a mesterséges intelligenciáról szóló törvény projektjének kidolgozásába, de azt is javasolta, hogy a felülvizsgálatot folytassák a kapcsolódó törvényekkel való összhang és következetesség biztosítása érdekében.
A küldöttek azt is javasolták, hogy tanulmányozzák és egészítsék ki a mesterséges intelligencia kutatása, alkalmazása és bevezetése során tiltott viselkedéseket és tevékenységeket szabályozó rendelkezést, ahelyett, hogy azokat a törvénytervezetben számos rendelkezésben szétszórva helyeznék el, mint jelenleg, ami megnehezíti a nyomon követést.
A küldött szerint a mesterséges intelligencia jogi felelősségének egyértelmű meghatározása nagyon fontos a jövőbeni jogi viták elkerülése, valamint a jogsértések kezelése érdekében. Másrészt a mesterséges intelligencia a gépekhez és a technológiához kapcsolódik, így az ember által okozott hibákon túl a gépekre, a technológiára vagy más tényezőkre is lehet fogni. Ezért kutatásokat kell végezni ezek pontos meghatározására, elkerülve a jogi felelősség elmosódását, különösen a mesterséges intelligencia állami szervekben történő alkalmazása és használata terén.
Világosan meg kell határozni, hogy melyik szerv felelős a kockázatkezelésért az adott területeken.
A törvénytervezet II. szakaszának II. fejezetében előírt magas kockázatú MI-rendszerek kezelése miatt aggodalommal tölti el Vuong Thi Huong (Tuyen Quang), a Nemzetgyűlés képviselője, aki szerint az egészségügyi szektort a mesterséges intelligencia alkalmazása során a magas kockázatú ágazatok közé kell sorolni, mivel közvetlenül befolyásolja az emberi életet és egészséget, az érzékeny személyes adatokat és a társadalmi bizalmat. A képalkotó diagnosztikát, a betegségkezelést, a műtéteket, a génanalízist stb. támogató MI-rendszerek ellenőrzés, biztonsági előírások be nem tartása vagy a betanítási adatok átláthatóságának hiánya súlyos, akár visszafordíthatatlan következményekkel járhat.
A törvénytervezet előírja a kockázatok osztályozását és kezelését, de nem tisztázza, hogy melyik szerv felelős az egyes területek kezeléséért. Eközben a küldöttek megállapították, hogy az egészségügyi szektorban, ha az általános koordinációt az informatikai menedzsment szervre bízzák anélkül, hogy egyértelműen meghatároznák az egészségügyi szektor szerepét, az átfedésekhez vezethet az értékelésben, a szakmai szabványok egységességének hiányához, valamint nehézségekhez az orvostechnikai eszközként használt vagy orvosi vizsgálatok és kezelések során alkalmazott mesterséges intelligencia termékek kezelésében.
Ezért javasoljuk a rendelet kiegészítését, amely az Egészségügyi Minisztériumot bízza meg az orvosi területen használt magas kockázatú mesterséges intelligencia rendszerek irányításának irányításával, valamint az Információs és Kommunikációs Minisztériummal, valamint az illetékes minisztériumokkal és ágazatokkal való együttműködéssel a következők terén: műszaki szabványok kihirdetése, klinikai értékelés és biztonsági ellenőrzés; az orvosi nyilvántartások adatbiztonságára és az orvosi információs rendszerek csatlakoztatására vonatkozó szabályok; valamint a használat során fellépő kockázatok nyomon követése.
„A fókuszpont egyértelmű meghatározása szilárd jogi alapot teremt, biztosítja a betegek biztonságát, és egyúttal megteremti a feltételeket a technológiai vállalkozások és az egészségügyi intézmények számára, hogy átlátható és ellenőrzött módon telepítsenek mesterséges intelligencia alkalmazásokat” – hangsúlyozta Vuong Thi Huong küldött.
Be Minh Duc (Cao Bang) nemzetgyűlési képviselő egyetértett a törvénytervezet 23. cikkében a Nemzeti Mesterséges Intelligencia Fejlesztési Alapról szóló rendelkezésekkel, és kijelentette, hogy ezt az alapot az országban a kutatási kapacitás, valamint a mesterséges intelligencia alkalmazásának előmozdítására és támogatására hozták létre. Jelenleg azonban létezik a Nemzeti Tudományos és Technológiai Fejlesztési Alap és a Nemzeti Technológiai Innovációs Alap, amelyek szintén a kutatás és a technológiai innováció, beleértve a mesterséges intelligenciát is, támogatását célozzák.
Bár az egyes alaptípusok hatóköre és célja eltérő, mindegyik a tudomány és a technológia területére összpontosít. Ezért ajánlott felülvizsgálni és meghatározni az alaptípusok közötti kapcsolatot az egyes alaptípusok hatékonyságának elősegítése, a funkciók megkettőzésének, az erőforrások szétszórásának és a költségvetési terhek növelésének elkerülése érdekében.
Annak ellenére, hogy ugyanazon minisztérium irányítása alatt állnak, a küldöttek felvetették, hogy meg kell fontolni e három alaptípus kombinálását, az erőforrások koncentrálását a tudomány és a technológia kedvezőbb fejlődését célzó támogatási politikák végrehajtására.
Be Minh Duc küldött emellett azt is javasolta, hogy a vonatkozó szakosodott törvényeknek is tartalmazniuk kellene a mesterséges intelligenciára vonatkozó külön szabályozásokat az egyes területeken. Ez egy olyan elv, amelyet szabályozni kell, mivel országunk belép a digitális korszakba. A mesterséges intelligenciát széles körben kutatták és alkalmazzák minden iparágban, minden társadalmi-gazdasági, védelmi és biztonsági területen. A fenti elv hozzáadása segít biztosítani a konkrét kérdések átfogó szabályozását, és megfelel a vezetési követelményeknek a napjainkban gyorsan fejlődő technológia kontextusában.
Forrás: https://daibieunhandan.vn/gop-3-quy-ve-khoa-hoc-cong-nghe-giup-tap-trung-nguon-luc-10396526.html
Hozzászólás (0)