Biztonsági szabványok kidolgozása a mesterséges intelligenciához.

SGGP 2023.07.31. 09:35

Miután Európa erőfeszítéseket tett a világ első mesterséges intelligenciával (MI) kapcsolatos jogszabályának kidolgozására és hamarosan történő bevezetésére, az Egyesült Államok négy vezető internetes adatbányászati ​​óriása is elindította a Frontier Model Forum nevű csoportot.

A Frontier Model Forum fő célja a mesterséges intelligencia felelősségteljes fejlesztése. (Kép: THINKWITHNICHE)

A két fél egyre közelebb kerül egymáshoz.

Az Anthropic, a Google, a Microsoft és az OpenAI – a ChatGPT tulajdonosa – vállalatcsoport kijelentette, hogy a Frontier Model Forum fő céljai a mesterséges intelligencia platformokból eredő kockázatok csökkentése és az iparági szabványok kidolgozása. A Frontier Model Forum egy új fórumot hoz létre, amelynek fő célkitűzései a következők: a biztonságos mesterséges intelligencia kutatásának előmozdítása a fejlesztés támogatása, a kockázatok mérséklése, az értékelések és a biztonsági szintek szabványosítása; a modellfejlesztés és -telepítés legjobb gyakorlatainak azonosítása, a technológia természetének, képességeinek, korlátainak és hatásainak megértésének elősegítése a nyilvánosság számára; valamint a politikai döntéshozók, az akadémikusok, a civil társadalom és a vállalatok együttműködése a kockázatokkal és a biztonsággal kapcsolatos ismeretek megosztása érdekében.

A technológiai óriások jellemzően hajlamosak ellenezni a szigorúbb szabályozásokat. Ezúttal azonban a technológiai iparág általános álláspontja jelentősen megváltozott a mesterséges intelligencia jelentette kockázatokkal kapcsolatos elsöprő aggodalmak miatt. A Frontier Model Forum kezdeményezésben részt vevő vállalatok elkötelezték magukat a legjobb gyakorlatok megosztása mellett a vállalatok között, valamint a nyilvános információk megosztása mellett a kormányokkal és a civil társadalommal.

Konkrétan a Frontier Model Forum a nagyméretű, de még gyerekcipőben járó gépi tanulási platformokra fog összpontosítani, és a mesterséges intelligenciát egy új kifinomultsági szintre emeli – ez a tényező potenciális kockázatokat is jelent. Ezenkívül a Frontier Model Forum támogatni fogja olyan alkalmazások fejlesztését, amelyek olyan jelentős társadalmi kihívásokat kezelnek, mint például: az éghajlatváltozás mérséklése és alkalmazkodása, a rák korai felismerése és megelőzése, valamint a kiberfenyegetések elleni küzdelem.

Potenciális pusztító szoba

Az amerikai vállalatok bejelentése a Frontier Model Forum létrehozásáról mindössze néhány nappal azután történt, hogy az amerikai szenátorok július 25-én az amerikai szenátus igazságügyi bizottságának albizottsága előtti meghallgatáson aggodalmukat fejezték ki a mesterséges intelligencia biológiai támadásokra való potenciális felhasználásával kapcsolatban. Nemrégiben hét nagy technológiai vállalat, köztük az OpenAI, az Alphabet és a Meta, önkéntesen ígéretet tett a Fehér Háznak egy olyan rendszer kifejlesztésére, amely azonosítja az összes mesterséges intelligencia által generált tartalmat – szöveget, képet, hanganyagot és videót – , hogy biztosítsa a felhasználói átláthatóságot és a technológia nagyobb biztonságát.

Dario Amodei, az Anthropic mesterséges intelligenciával foglalkozó cég vezérigazgatója megjegyezte, hogy bár a mesterséges intelligencia még nem képes biológiai fegyverek gyártására, „középtávú” kockázatot és komoly fenyegetést jelent az Egyesült Államok nemzetbiztonságára a következő két-három évben. Ez azért van, mert azok, akik nagyszabású biológiai fegyveres támadásokat hajtanak végre, már nem korlátozódnak a területen szaktudással rendelkező személyekre.

A világ a mesterséges intelligencia által generált technológia által generált tartalmak robbanásszerű növekedésével néz szembe. Az Egyesült Államoktól és Európától Ázsiáig fokozatosan szigorodnak az ellenőrző intézkedések. A CNN szerint szeptembertől kezdődően az Egyesült Államok Szenátusa kilenc további workshopot tart a tagok számára, hogy megismerjék a mesterséges intelligencia munkahelyekre, nemzetbiztonságra és szellemi tulajdonra gyakorolt ​​​​hatását. Az Egyesült Államok előtt, ha megállapodás születik, az Európai Unióban jövőre megjelenik a világ első mesterséges intelligencia szabályozásáról szóló törvénye, amely várhatóan 2026-ban lép hatályba.

A mesterséges intelligencia társadalmi előnyei tagadhatatlanok, de egyre több figyelmeztetés érkezik az új technológia lehetséges kockázataival kapcsolatban. Júniusban António Guterres, az ENSZ főtitkára támogatta több mesterséges intelligencia szakértő javaslatát egy nemzetközi mesterséges intelligencia felügyeleti szerv létrehozására, hasonlóan a Nemzetközi Atomenergia Ügynökséghez (NAÜ).

Visszatérve a Frontier Model Forumra, Brad Smith, a Microsoft elnöke megerősítette, hogy a kezdeményezés fontos lépés a technológiai vállalatok számára, hogy összefogjanak a mesterséges intelligencia felelős használatának előmozdítása érdekében, ami az egész emberiség javát szolgálja. Hasonlóképpen, Anna Makanju, az OpenAI globális ügyekért felelős alelnöke kijelentette, hogy a fejlett mesterséges intelligencia technológia mélyreható előnyökkel járhat a társadalom számára, és ehhez felügyelet és irányítás szükséges.

Forrás: https://www.sggp.org.vn/tim-tieu-chuan-an-toan-cho-tri-tue-nhan-tao-post699667.html