Biztonsági szabványok kidolgozása a mesterséges intelligenciához

SGGP 2023. július 31. 09:35

Miután Európa elkezdte kidolgozni és hamarosan el is indította a világ első mesterséges intelligenciáról (MI) szóló törvényét, a négy vezető amerikai internetes adatbányászati ​​óriás nemrégiben elindította a Frontier Model Forum nevű csoportot.

A Frontier Model Forum fő célja a mesterséges intelligencia felelősségteljes népszerűsítése. Fotó: THINKWITHNICHE

A felek közelebb kerülnek egymáshoz

Az Anthropic, a Google, a Microsoft és a ChatGPT tulajdonosát, az OpenAI-t is magában foglaló csoport szerint a Frontier Model Forum fő céljai a mesterséges intelligencia platformok jelentette kockázatok csökkentése és az iparági szabványok kidolgozása. A Frontier Model Forum egy új fórumot hoz létre a következő fő célokkal: a mesterséges intelligencia biztonsági kutatásának előmozdítása a fejlesztés támogatása, a kockázatok mérséklése, valamint a biztonsági értékelések és szintek szabványosítása érdekében; a modellfejlesztés és -telepítés legjobb gyakorlatainak azonosítása; a technológia természetének, képességeinek, korlátainak és hatásainak megértésének elősegítése a nyilvánosság számára; valamint együttműködés a politikai döntéshozókkal, az akadémikusokkal, a civil társadalommal és a vállalatokkal a kockázatokkal és a biztonsággal kapcsolatos ismeretek megosztása érdekében.

A technológiai óriások hagyományosan ellenálltak a szigorúbb szabályozásnak, de ezúttal a technológiai iparág általánosságban megváltoztatta álláspontját a mesterséges intelligencia jelentette kockázatokkal kapcsolatos növekvő aggodalmakkal kapcsolatban. A Frontier Model Forum kezdeményezésben részt vevő vállalatok ígéretet tettek arra, hogy megosztják a legjobb gyakorlatokat a vállalatok között, és hogy az információkat nyilvánosan elérhetővé teszik a kormányok és a civil társadalom számára.

Konkrétan a Frontier Model Forum a nagyméretű, de még gyerekcipőben járó gépi tanulási platformokra fog összpontosítani, amelyek a mesterséges intelligenciát új kifinomultsági szintre emelik – ami szintén potenciális kockázati tényező. Ezenkívül a Frontier Model Forum olyan alkalmazások fejlesztését is támogatni fogja, amelyek olyan jelentős társadalmi kihívásokat kezelnek, mint az éghajlatváltozás mérséklése és alkalmazkodása, a rák korai felismerése és megelőzése, valamint a kiberfenyegetések elleni küzdelem.

Hely a potenciális pusztításnak

Az amerikai vállalatok általi Frontier Model Forum bejelentése néhány nappal azután történt, hogy az amerikai szenátorok július 25-én az amerikai szenátus igazságügyi bizottságának albizottsága előtti meghallgatáson figyelmeztettek a mesterséges intelligencia biológiai támadásokhoz való felhasználásának kockázatára. Nemrégiben hét nagy technológiai vállalat, köztük az OpenAI, az Alphabet és a Meta, önkéntesen elkötelezte magát a Fehér Ház előtt, hogy kidolgoznak egy olyan rendszert, amely azonosítja a mesterséges intelligencia által létrehozott összes tartalmat – szövegtől, képtől, hanganyagtól videóig – , hogy biztosítsa az átláthatóságot a felhasználók számára, és ezáltal a technológia biztonságosabbá tételét.

Dario Amodei, az AI Anthropic vezérigazgatója megjegyezte, hogy bár a mesterséges intelligencia még nem képes biológiai fegyverek létrehozására, ez „középtávú” kockázatot jelent, és komoly fenyegetést jelent az Egyesült Államok nemzetbiztonságára a következő két-három évben. Ennek az az oka, hogy a nagyszabású biológiai fegyveres támadásokat végrehajtó alanyok már nem korlátozódnak azokra, akik speciális ismeretekkel rendelkeznek ebben a kérdésben.

A világ a generatív mesterséges intelligencia által létrehozott tartalom robbanásszerű növekedésével néz szembe. Az Egyesült Államoktól Európán át Ázsiáig az ellenőrzések fokozatosan szigorodnak. A CNN szerint szeptembertől kezdődően az amerikai szenátus kilenc további workshopot tart a tagok számára, hogy megismerjék a mesterséges intelligencia munkahelyekre, nemzetbiztonságra és szellemi tulajdonra gyakorolt ​​​​hatását. Az Egyesült Államok előtt, ha megállapodás születik, az Európai Unióban jövőre elfogadják a világ első mesterséges intelligencia kezeléséről szóló törvényét, amely várhatóan 2026-tól lép hatályba.

A mesterséges intelligencia társadalmi előnyei tagadhatatlanok, de egyre több figyelmeztetés érkezik az új technológia lehetséges kockázataival kapcsolatban. Júniusban António Guterres, az ENSZ főtitkára támogatta több mesterséges intelligencia vezetőjének javaslatát egy nemzetközi mesterséges intelligencia-felügyeleti szerv létrehozására, hasonlóan a Nemzetközi Atomenergia-ügynökséghez (NAÜ).

A Frontier Model Forumon Brad Smith, a Microsoft elnöke azt mondta, hogy a kezdeményezés fontos lépés a technológiai vállalatok összefogásában, hogy előmozdítsák a mesterséges intelligencia felelős használatát az egész emberiség javára. Hasonlóképpen, Anna Makanju, az OpenAI globális ügyekért felelős alelnöke azt mondta, hogy a fejlett mesterséges intelligencia technológiája mélyreható előnyökkel járhat a társadalom számára, és ehhez felügyeletre és irányításra van szükség.

Forrás: https://www.sggp.org.vn/tim-tieu-chuan-an-toan-cho-tri-tue-nhan-tao-post699667.html