Biztonsági szabványok kidolgozása a mesterséges intelligenciához

[hirdetés_1]

SGGP 2023.07.31. 09:35

Miután Európa elkezdte kidolgozni és hamarosan elindította a világ első mesterséges intelligenciáról (MI) szóló törvényét, a négy vezető amerikai internetes adatbányászati „óriás” nemrégiben elindított egy Frontier Model Forum nevű csoportot.

A Frontier Model Forum fő célja a felelős mesterséges intelligencia előmozdítása. Fotó: THINKWITHNICHE

A felek összefognak

Az Anthropic, a Google, a Microsoft és a ChatGPT tulajdonosát, az OpenAI-t magában foglaló csoport szerint a Frontier Model Forum fő céljai a mesterséges intelligencia platformok jelentette kockázatok csökkentése és az iparági szabványok kidolgozása. A Frontier Model Forum egy új fórumot hoz létre a következő fő célokkal: a mesterséges intelligencia biztonsági kutatásának előmozdítása a fejlesztés támogatása, a kockázatok csökkentése, valamint a biztonsági értékelések és szintek szabványosítása érdekében; a modellfejlesztés és -telepítés legjobb gyakorlatainak azonosítása, valamint a nyilvánosság segítése a technológia természetének, képességeinek, korlátainak és hatásainak megértésében; valamint együttműködés a politikai döntéshozókkal, az akadémikusokkal, a civil társadalommal és a vállalatokkal a kockázatokkal és a biztonsággal kapcsolatos ismeretek megosztása érdekében.

A technológiai óriások hagyományosan ellenálltak a szigorúbb szabályozásnak, de ezúttal a technológiai iparág nagyrészt megváltoztatta álláspontját a mesterséges intelligencia jelentette kockázatokkal kapcsolatban. A Frontier Model Forum kezdeményezésben részt vevő vállalatok ígéretet tettek arra, hogy megosztják a legjobb gyakorlatokat a vállalatok között, és nyilvánosan elérhetővé teszik az információkat a kormányok és a civil társadalom számára.

Konkrétan a Frontier Model Forum a nagyméretű, még gyerekcipőben járó gépi tanulási platformokra fog összpontosítani, amelyek a mesterséges intelligenciát új kifinomultsági szintre emelik – ami szintén potenciális kockázati tényező. Ezenkívül a Frontier Model Forum olyan alkalmazások fejlesztését is támogatni fogja, amelyek olyan jelentős társadalmi kihívásokat kezelnek, mint az éghajlatváltozás mérséklése és alkalmazkodása, a rák korai felismerése és megelőzése, valamint a kiberfenyegetések elleni védelem.

Hely a potenciális pusztításnak

Az amerikai vállalatok általi Frontier Model Forum bejelentése néhány nappal azután történt, hogy az amerikai szenátorok július 25-én az amerikai szenátus igazságügyi bizottságának albizottsága előtti meghallgatáson figyelmeztettek a mesterséges intelligencia biotámadásokhoz való felhasználásának kockázatára. Nemrégiben hét nagy technológiai vállalat, köztük az OpenAI, az Alphabet és a Meta, önkéntesen elkötelezte magát a Fehér Ház előtt, hogy kidolgoznak egy olyan rendszert, amely a mesterséges intelligencia által létrehozott összes tartalmat – szöveget, képet, hangot és videót – címkézi, hogy a felhasználók számára átláthatóságot biztosítson a technológia biztonságosabbá tétele érdekében.

Bár a mesterséges intelligencia még nem képes biológiai fegyverek létrehozására, ez egy „középtávú” kockázat, amely komoly fenyegetést jelenthet az Egyesült Államok nemzetbiztonságára a következő két-három évben – jegyezte meg Dario Amodei, az AI Anthropic vezérigazgatója. Ez azért van, mert a nagyszabású biológiai támadásokat végrehajtó szereplők már nem korlátozódnak a témában speciális ismeretekkel rendelkezőkre.

A világ a generatív mesterséges intelligencia által létrehozott tartalom robbanásszerű növekedésével néz szembe. Az Egyesült Államoktól Európán át Ázsiáig a szabályozási lépések fokozatosan szigorodnak. A CNN szerint szeptembertől kezdődően az Egyesült Államok Szenátusa kilenc további workshopot szervez a tagok számára, hogy megismerjék a mesterséges intelligencia munkahelyekre, nemzetbiztonságra és szellemi tulajdonra gyakorolt hatását. Az Egyesült Államok előtt, ha megállapodás születik, az Európai Unióban jövőre elfogadják a világ első mesterséges intelligencia kezeléséről szóló törvényét, amely várhatóan 2026-ban lép hatályba.

A mesterséges intelligencia társadalmi előnyei tagadhatatlanok, de egyre több figyelmeztetés érkezik az új technológia lehetséges kockázataival kapcsolatban. Júniusban António Guterres, az ENSZ főtitkára támogatta több mesterséges intelligencia vezetőjének javaslatát egy nemzetközi mesterséges intelligencia-felügyeleti szerv létrehozására, hasonlóan a Nemzetközi Atomenergia-ügynökséghez (NAÜ).

A Frontier Model Forumon Brad Smith, a Microsoft elnöke azt mondta, hogy a kezdeményezés fontos lépés a technológiai vállalatok összefogásában, hogy előmozdítsák a mesterséges intelligencia felelős használatát az egész emberiség javára. Hasonlóképpen, Anna Makanju, az OpenAI globális ügyekért felelős alelnöke azt mondta, hogy a fejlett mesterséges intelligencia technológiája mélyreható előnyökkel járhat a társadalom számára, és ehhez felügyeletre és irányításra van szükség.

[hirdetés_2]
Forrás