Autonóm rendszerek etikai értékelése

Az MIT kutatói kifejlesztettek egy tesztelési keretrendszert, amely segít azonosítani azokat a helyzeteket, ahol a mesterséges intelligencia által támogatott döntéshozatali rendszerek nem biztosítják a méltányosságot az egyének és a közösségek számára.

Az MIT egy tesztelési keretrendszert fejleszt, amely segít felderíteni a mesterséges intelligencia tisztességtelen döntéseit. Fotó: Midjourney

A mesterséges intelligenciát egyre inkább alkalmazzák a kritikus helyzetekben hozott döntések optimalizálására. Például egy autonóm rendszer a legköltséghatékonyabb energiaelosztási tervet javasolhatja, miközben fenntartja a feszültségstabilitást.

De vajon egy „műszakilag optimális” megoldás valóban igazságos? Mi történik, ha egy alacsony költségű stratégia az alacsony jövedelmű területeket sebezhetőbbé teszi az áramkimaradásokkal szemben, mint a gazdagabb területeket?

Annak érdekében, hogy az érdekelt felek a megvalósítás előtt, már korán felismerhessék az etikai kockázatokat, az MIT kutatócsoportja kidolgozott egy automatizált értékelési módszert, amely a mennyiségi mutatókat (például a költségeket és a megbízhatóságot) a minőségi értékekkel (például a méltányossággal) egyensúlyozza.

Ez a rendszer elválasztja az objektív értékelést a felhasználó által meghatározott emberi értékektől, és egy nagy nyelvi modellt (LLM) használ emberi „reprezentátorként” az érdekelt felek prioritásainak rögzítésére és integrálására.

Az adaptív értékelési keretrendszer kiválasztja a legfontosabb forgatókönyveket a további elemzéshez, leegyszerűsítve egy olyan folyamatot, amely manuálisan költséges és időigényes lenne. Ezek a forgatókönyvek jelezhetik, hogy egy MI-rendszer mikor igazodik az emberi értékekhez, illetve mikor nem felel meg az etikai kritériumoknak.

Chuchu Fan (MIT) szerint a mesterséges intelligencia számára szabályok vagy „biztonsági korlátok” felállítása önmagában nem elegendő, mivel ezek csak azokat a kockázatokat előzik meg, amelyeket az emberek előre tudnak látni. Ezért szisztematikus megközelítésre van szükség az „ismeretlen kockázatok” észleléséhez, mielőtt azok következményekkel járnának.

Etikai értékelés komplex rendszerekben

Nagy rendszerekben, mint például az elektromos hálózatok, a mesterséges intelligencia által generált javaslatok etikai megfelelőségének felmérése kihívást jelent, különösen akkor, ha több célkitűzést kell egyszerre figyelembe venni.

A jelenlegi módszerek gyakran könnyen elérhető adatokra támaszkodnak, de az etikai kritériumok szerint címkézett adatok ritkák. Ugyanakkor az etikai értékek és a mesterséges intelligencia rendszerek folyamatosan változnak, ami gyorsan elavulttá teszi a statikus értékelési módszereket.

A kutatócsoport kidolgozott egy SEED-SET nevű kísérleti tervezési keretrendszert, amely két részből áll:

- Objektív modell: mérhető mutatók (például költségek) alapján értékeli a teljesítményt
- Szubjektív modell: az emberi ítélőképességet tükrözi (például a méltányosság érzését)
Ez a megközelítés lehetővé teszi olyan forgatókönyvek azonosítását, amelyek megfelelnek mind a technikai kritériumoknak, mind az emberi értékeknek, vagy fordítva.

A SEED-SET különösen nem igényel előzetes értékelési adatokat, és számos célhoz alkalmazkodik. Például egy villamosenergia-rendszerben a különböző felhasználói csoportoknak (például vidéki közösségeknek és adatközpontoknak) eltérő etikai prioritásaik lehetnek, annak ellenére, hogy mindketten megfizethető és stabil villamos energiára vágynak.

Szubjektív tényezők modellezése

A szubjektív tényezők értékeléséhez a rendszer az LLM-et használja az értékelő reprezentációjaként. Az egyes csoportok preferenciáit természetes nyelvi állításokba kódolja.

Az LLM (LLM) összehasonlítja a forgatókönyveket, és etikai kritériumok alapján választja ki a legmegfelelőbb lehetőséget. Ez a megközelítés segít elkerülni az emberi fáradtságot és az ellentmondásokat több száz vagy ezer forgatókönyv értékelésekor.

A SEED-SET ezután a kiválasztott forgatókönyvek alapján szimulálja a rendszert (pl. energiaelosztási stratégia), és folytatja az új, magasabb kiértékelési értékkel rendelkező forgatókönyvek keresését.

A végeredmény egy tipikus forgatókönyvek halmaza, amely lehetővé teszi a felhasználók számára, hogy elemezzék a mesterséges intelligencia rendszer teljesítményét, és szükség szerint módosítsák stratégiájukat.

Például a rendszer képes lenne észlelni azokat az eseteket, amikor az energiaelosztás csúcsidőben a magas jövedelmű területeket részesíti előnyben, így a hátrányos helyzetű területek sebezhetőbbek lesznek az áramkimaradásokkal szemben.

Hatékonyság és jövőbeli fejlődés

Amikor valós rendszereken, például intelligens hálózatokon vagy városi forgalomirányításon tesztelik, a SEED-SET kétszer annyi optimális forgatókönyvet generál, mint a hagyományos módszerek, miközben több olyan helyzetet is észlel, amelyeket más módszerek nem észlelnek.

Figyelemre méltó, hogy amikor a felhasználói preferenciák megváltoznak, a rendszer által generált forgatókönyvek is jelentősen megváltoznak, ami az emberi értékekhez való nagyfokú alkalmazkodóképességet mutatja.

A kutatócsoport a jövőben valós felhasználókkal végzett tanulmányokat tervez, hogy felmérje a rendszer hasznosságát a döntéshozatali folyamatban. Ezzel egyidejűleg céljuk a módszertan kiterjesztése összetettebb problémákra, például nagyobb nyelvi modellek döntéseinek értékelésére.

Ezt a kutatást részben az Egyesült Államok Védelmi Fejlett Kutatási Projektek Ügynöksége (DARPA) finanszírozta.

(Az MIT News szerint)

Forrás: https://vietnamnet.vn/danh-gia-dao-duc-cua-cac-he-thong-tu-hanh-2508477.html