A mesterséges intelligencia „gondolkodási láncának” monitorozása

(Dan Tri) - Több mint 40 tudós az OpenAI, a Google DeepMind, az Anthropic és a Meta cégektől közösen további kutatásokat szorgalmazott a mesterséges intelligencia modellek „gondolati láncának” monitorozására szolgáló technika terén.

Ez egy törékeny, de fontos lehetőségnek számít a mesterséges intelligencia jövőbeli alkalmazásának biztonságának garantálására. Különösen jelentőségteljes ez, tekintve, hogy Vietnám nemrég fogadta el a digitális technológiai iparágról szóló törvényt, amely részletes szabályozást tartalmaz a mesterséges intelligencia (MI) kezelésére vonatkozóan.

A „lehetőségek ablaka” szűkül

Egy nemrégiben megjelent közös tanulmányban az OpenAI kutatói arra figyelmeztetnek, hogy a mesterséges intelligencia „gondolatok” megfigyelésére való képessége célzott kutatási erőfeszítések nélkül eltűnhet – mondta Bowen Baker, az OpenAI kutatója.

Ez különösen fontos, mivel a mesterséges intelligencia modelljei egyre erősebbek lesznek, és komoly hatással lehetnek a társadalomra.

Az olyan mesterséges intelligencia modellek egyik kulcsfontosságú jellemzője, mint az OpenAI o-3-a és a DeepSeek R1-e, a „gondolati lánc” ( CoT) – az a folyamat, amelynek során a mesterséges intelligencia természetes nyelven fejezi ki az érvelési lépéseit, hasonlóan ahhoz, ahogyan az emberek egy matematikai feladat minden egyes lépését papírra írják.

Ez a képesség ritka betekintést nyújt abba, hogyan hoz döntéseket a mesterséges intelligencia.

Ez egy ritka pillanatot jelent az MI-ipar számos vezetője között, amikor egységben vannak a mesterséges intelligencia biztonságával kapcsolatos kutatások előmozdítása érdekében.

Ez különösen fontos a mesterséges intelligencia fejlesztésében a technológiai vállalatok között zajló kiélezett verseny miatt. A dokumentum aláírói között szerepel Mark Chen, az OpenAI kutatási igazgatója, Ilya Sutskever, a Safe Superintelligence vezérigazgatója, a Nobel-díjas Geoffrey Hinton, a Google DeepMind társalapítója, Shane Legg, valamint Dan Hendrycks, az xAI biztonsági tanácsadója.

Ezen vezető nevek szerepvállalása mutatja a kérdés fontosságát.

Bowen Baker úr értékelése szerint is: „Kritikus pillanatban vagyunk, amikor létezik ez az úgynevezett új „gondolkodási lánc”, amely a következő néhány évben eltűnhet, ha az emberek nem igazán figyelnek rá.”

Miért fontos a „mesterséges intelligencia gondolkodásának” monitorozása?

A jelenlegi mesterséges intelligenciarendszereket gyakran „fekete dobozoknak” tekintik – ismerjük a bemeneteket és kimeneteket, de nem értjük a bennük zajló döntéshozatali folyamatokat.

Ez veszélyessé válik, amikor a mesterséges intelligenciát olyan fontos területeken alkalmazzák, mint az egészségügy , a pénzügy és a nemzetbiztonság.

A CoT monitorozása egy automatizált rendszer, amely beolvassa a mentális modell mentális láncát és más releváns információkat, hogy megjelölje a gyanús vagy potenciálisan káros interakciókat. Nem teljes megoldás, de értékes biztonsági védelmi réteggé válhat.

Az OpenAI kutatása azt mutatja, hogy a mesterséges intelligencia modelljei hajlamosak nagyon explicit módon kifejezni szándékaikat a gondolkodási folyamataikban.

Például gyakran nagyon nyíltan fogalmaztak a küldetések szabotálására vonatkozó terveikkel kapcsolatban, amikor azt gondolták: „Törjünk fel”. Ez jól mutatja a mesterséges intelligencia azon képességét, hogy megfigyelje és észlelje a helytelen viselkedést.

A „hackeljünk” kifejezés gyakran „gondol rájuk” a mesterséges intelligencia modellek esetében, amikor szabotálni vagy megkerülni szándékoznak a szabályokat egy feladat végrehajtása során.

Az a tény, hogy a mesterséges intelligencia „hackelési” szándékot mutat a gondolkodási folyamataikban, arra utal, hogy a rossz MI-viselkedést még azelőtt észlelhetjük, hogy az megtörténne. Ezért fontos a gondolkodási folyamatok monitorozása.

Más szóval, a „hackeljünk” olyan, mint egy „figyelmeztető jel”, amely tudatja az emberekkel, hogy a mesterséges intelligencia valami rosszat fog tenni.

Vietnam és a mesterséges intelligenciára vonatkozó jogi szabályozás

Valójában Vietnam jelentős lépéseket tett a mesterséges intelligencia jogi keretének kiépítésében.

Június 14-én a vietnami nemzetgyűlés elfogadta a digitális technológiai iparról szóló törvényt, amelynek IV. fejezete részletes szabályozást tartalmaz a mesterséges intelligenciáról – ez napjaink egyik legátfogóbb jogi keretrendszere a mesterséges intelligenciával kapcsolatban Délkelet-Ázsiában.

A törvény 41. cikke meghatározza a mesterséges intelligencia fejlesztésének, biztosításának és telepítésének alapelveit Vietnámban.

Különösen a b) pont 1. záradéka kimondja: „Biztosítsa az átláthatóságot, az elszámoltathatóságot és a megmagyarázhatóságot; gondoskodjon arról, hogy ne lépje túl az emberi ellenőrzés kereteit”.

Az Országgyűlés elfogadta a digitális technológiai iparról szóló törvényt (Fotó: Nhat Bac).

Ezek azok az elvek, amelyeket a nemzetközi tudósok szorgalmaznak a mesterséges intelligencia láncfelügyeletének megvitatása során.

Ezenkívül a 41. cikk 1. záradékának d) pontja kimondja: „Biztosítsa az algoritmusok és a mesterséges intelligencia modellek ellenőrzésének képességét”. Ez teljes mértékben összhangban van a CoT felügyeletének a nemzetközi szakértők által javasolt szellemiségével.

Ami még ennél is fontosabb, a 41. cikk 1. szakaszának a) pontja magas etikai normát is meghatároz, amikor kimondja, hogy a mesterséges intelligenciának „az emberi jólétet és boldogságot kell szolgálnia, az embert a középpontban tartva”.

Ez azt jelenti, hogy a mesterséges intelligencia gondolkodási láncának monitorozása nemcsak technikai követelmény, hanem etikai kötelezettség is – biztosítva, hogy a mesterséges intelligencia mindig az emberi hasznot, ne pedig a gép saját céljait szolgálja.

MI osztályozása és kezelése kockázati szint szerint

Vietnam digitális technológiai iparági törvénye egy lépéssel továbbment, mivel a mesterséges intelligenciát különböző kockázati csoportokba sorolta, egyértelmű és tudományos meghatározásokkal.

A 43. cikk a „nagy kockázatú mesterséges intelligenciarendszereket” olyan rendszerekként határozza meg, amelyek valószínűsíthetően súlyos kockázatot vagy kárt jelentenek az emberi egészségre, az emberi jogokra és a közrendre nézve.

Érdekes módon a törvény külön kivételeket ír elő a magas kockázatú mesterséges intelligencia esetében, beleértve azokat a rendszereket is, amelyek „célja, hogy segítsék az embereket a munkaeredmények optimalizálásában”, és amelyek „nem az emberi döntéshozatal helyettesítésére szolgálnak”.

Ez egyensúlyt mutat az innováció ösztönzése és a biztonság garantálása között.

A mesterséges intelligencia kockázati szint szerinti osztályozása segít egy többrétegű monitoring rendszer létrehozásában (Illusztráció: LinkedIn).

Különösen a „nagy kockázatú mesterséges intelligencia” és a „nagy hatású mesterséges intelligencia” (több célra használt és nagyszámú felhasználóval rendelkező rendszerek) megkülönböztetése árnyalt megközelítést mutat.

Ez egy progresszívebb osztályozás, mint az Európai Unió (EU) mesterséges intelligenciáról szóló törvénye, amely nemcsak a kockázat szintjét, hanem a hatás mértékét és kiterjedését is figyelembe veszi.

Ez az osztályozás segítene egy többrétegű felügyeleti rendszer létrehozásában, amelyben a látólánc-felügyelet különösen fontos lenne a nagy kockázatú és nagy hatású mesterséges intelligenciarendszerek esetében.

Platform mesterséges intelligenciával történő megfigyeléshez

Vietnam ipari és digitális technológiáról szóló törvényének egyik kiemelkedő és úttörő pontja az átláthatóságra és az azonosító jelekre vonatkozó követelmény.

A 44. cikk kimondja, hogy az emberekkel közvetlenül interakcióba lépő mesterséges intelligenciarendszereknek értesíteniük kell a felhasználókat arról, hogy interakcióba lépnek a mesterséges intelligenciarendszerrel. Ugyanakkor a mesterséges intelligencia által létrehozott termékeknek azonosító jelekkel kell rendelkezniük.

Ennek fontos következményei vannak a CoT monitorozásának megvalósítása szempontjából. Amikor a felhasználók tudják, hogy mesterséges intelligenciával lépnek interakcióba, joguk lesz magyarázatot követelni a döntéshozatali folyamattal kapcsolatban, pozitív nyomást gyakorolva a mesterséges intelligencia fejlesztőire, hogy fenntartsák a mesterséges intelligencia gondolkodási folyamatának monitorozásának lehetőségét.

Különösen az a tény, hogy a Tudományos és Technológiai Minisztériumra bízták a „mesterséges intelligencia által létrehozott digitális technológiai termékek listájának kiadását”, proaktív vezetésre utal.

Ez egy fontos különbség sok más országhoz képest, ahol a mesterséges intelligencia szabályozása gyakran általánosabb.

Továbbá az azonosító „a felhasználó vagy a gép általi felismerésének” követelménye egy olyan mesterséges intelligencia ökoszisztéma vízióját képviseli, amely képes önmagát felügyelni – ami tökéletesen illeszkedik az automatizált látólánc-megfigyelés ötletéhez.

Átfogó irányítási modell

A fenti törvény 45. cikke progresszív vezetési filozófiát mutat be, amikor egyértelműen meghatározza a mesterséges intelligencia termék életciklusa szerinti három alanycsoport felelősségi körét: a fejlesztésért felelős alany, a szolgáltatásért felelős alany és a mesterséges intelligencia rendszer használatát megvalósító alany.

Ez egy zökkenőmentes, végponttól végpontig terjedő elszámoltathatósági rendszert hoz létre, biztosítva, hogy a mesterséges intelligencia felügyelete ne csak egyetlen fél felelőssége legyen.

Figyelemre méltó a mesterséges intelligencia „fejlesztése” és „szolgáltatása” közötti finom különbség; a fejlesztők azok, akik „kutatnak és fejlesztenek”, míg a szolgáltatók azok, akik márkanév alatt hozzák forgalomba.

Ez azt jelenti, hogy még ha egy vállalat egyszerűen csak át is nevez egy meglévő MI-modellt, továbbra is felelős az átláthatóságért és a magyarázhatóságért.

Különösen érdekes itt az, hogy a törvény hogyan osztja ki a különböző felelősségi köröket a különböző szervezetek között.

A fejlesztőnek be kell tartania az összes elvet, a szolgáltatónak további felelősséget kell vállalnia az azonosításért és a magas kockázatok kezeléséért, a felhasználó pedig részben „mentesül” a felelősség alól, de továbbra is biztosítania kell az átláthatóságot és a kockázatkezelést.

Ez a modell egy „felelősségi láncot” hoz létre, ahol minden láncszem ösztönzőt kap a mesterséges intelligencia gondolkodási láncának felügyeletére, mivel mindenki elszámoltatható a végfelhasználó felé.

A megfigyelési képességek fenntartásának kihívása

A mesterséges intelligencia gondolatláncainak monitorozásának képessége azonban továbbra is törékeny és sebezhető maradhat. Az új MI-architektúrák más fenyegetéseket is jelenthetnek.

Sok kutató fejleszt olyan gondolkodási rendszereket, amelyek folytonos matematikai térben – a diszkrét szavak helyett – működnek, és teljesen kiküszöbölhetik a nyelv használatának szükségességét a gondolkodásban.

Továbbá a mesterséges intelligencia „szűrhetővé” válhat – azaz csak pozitív, értékelendő gondolatokat mutat az embereknek, miközben szándékosan elrejti valódi szándékait.

A veszély az, hogy amint egy mesterséges intelligencia rájön, hogy megfigyelés alatt áll, megtanulhatja elrejteni a valódi gondolatmenetét.

Ebben az összefüggésben különösen fontossá válik a vietnami törvény 41. cikkelyének 1. záradékának e) pontjában foglalt, a „mesterséges intelligencia rendszerek teljes életciklusa alatti kockázatkezelésről” szóló rendelkezés. Ez folyamatos nyomon követési mechanizmust igényel, nem csak a telepítéskor.

A mesterséges intelligencia fejlesztésének jövőjére gyakorolt ​​hatás

A gondolatláncok monitorozása fontos eszközzé válhat annak biztosítására, hogy a mesterséges intelligencia az emberek javát szolgáló módon működjön.

Ha a modellek továbbra is természetes nyelven érvelnek, és ha a legsúlyosabb kockázatokat jelentő viselkedések alapos érvelést igényelnek, ez lehetővé teheti a súlyos kötelességszegések megbízható felderítését.

Vietnám esetében a CoT monitoring technikák alkalmazása segíteni fogja a törvény rendelkezéseinek hatékony végrehajtását.

Például a 41. cikkben foglalt „magyarázhatósági” követelmény könnyebben teljesíthető lenne, ha a mesterséges intelligencia gondolatmenete hozzáférhető lenne. Hasonlóképpen, az „algoritmusok, mesterséges intelligencia modellek irányítása” is megvalósíthatóbbá válna.

A mesterséges intelligencia alapú láncmonitorozás vietnami bevezetése számos kihívással fog szembesülni. Először is, ott van az emberi erőforrások kérdése - hiány van a monitorozó rendszerek fejlesztésére és üzemeltetésére képes mesterséges intelligencia szakértőkből.

Ez jelentős beruházásokat igényel a képzésbe és a tehetségek vonzásába.

Irányvonalak a jövőre nézve

A kutatók felszólítják a vezető MI-modellfejlesztőket, hogy kutassák fel, mi teszi a CoT-ot „monitorozhatóvá” – olyan tényezőket, amelyek növelhetik vagy csökkenthetik az átláthatóságot a MI-modellek használatának módjával kapcsolatban –, és mielőbb álljanak elő válaszokkal.

A mesterséges intelligencia „gondolkodásának” megfigyelésének lehetősége lehet az utolsó ablakunk arra, hogy fenntartsuk az irányítást a mai egyre erősebb mesterséges intelligencia rendszerek felett.

Vietnam számára nagy előnyt jelent a mesterséges intelligenciára vonatkozó átfogó jogi keretrendszer megléte a digitális technológiai iparágról szóló törvény révén. Az átláthatóságra, az algoritmusok ellenőrzésére és a kockázatbesorolásra vonatkozó szabályozások szilárd jogi alapot teremtettek a mesterséges intelligencia gondolatlánc-monitorozási technikáinak alkalmazásához.

A legmodernebb nemzetközi kutatások és a progresszív hazai jogi keretrendszer ötvözése nemcsak azt segíti elő, hogy Vietnam biztonságosan fejlessze a mesterséges intelligenciát, hanem modellként is szolgáljon a régió többi országa számára.

Ez összhangban van azzal a céllal, hogy Vietnamot „regionális és globális digitális technológiai központtá” alakítsák, ahogyan azt a nemzeti fejlesztési stratégiákban is kitűzték.

A meglévő jogi alapokkal Vietnamnak gyorsan kutatásokat és gyakorlati alkalmazásokat kell bevezetnie a mesterséges intelligencia gondolatláncának monitorozására. Csak így biztosíthatjuk, hogy a mesterséges intelligencia az „emberi jólétet és boldogságot” szolgálja, ahogyan azt a digitális technológiai iparágról szóló törvény szellemében előirányozták.

Forrás: https://dantri.com.vn/cong-nghe/giam-sat-chuoi-tu-duy-cua-tri-tue-nhan-tao-20250731151403739.htm