Valójában nem ez az első alkalom, hogy a tudósok figyelmeztetnek a mesterséges intelligencia emberiségre leselkedő potenciális veszélyeire. 2014-ben a neves brit elméleti fizikus, Stephen Hawking kijelentette: "A mesterséges intelligencia teljes kifejlődése elpusztíthatja az emberiséget." Azt is megjósolta, hogy az emberiséget 500 éven belül teljesen felváltja a mesterséges intelligencia, ha nem lennének óvatosak e veszélyes technológia kutatása és fejlesztése során. Nyolc évvel ezelőtt, 2015 júliusában több mint 1000 mesterséges intelligencia technológiai szakértő, köztük Stephen Hawking, Elon Musk, Noam Chomsky és mások, aláírtak egy petíciót, amely a katonai MI területén zajló fegyverkezési verseny kockázatára figyelmeztet, és az autonóm fegyverek (mesterséges intelligencia és halálos fegyverek kombinációja) teljes betiltását szorgalmazta. Az OpenAI 2022 novemberében elindított Chat GPT alkalmazásának újabb vészharangot adott a mesterséges intelligencia inherens veszélyeivel kapcsolatban. Valójában az, amit a Chat GPT tesz, azt mutatja, hogy a MI bizonyos mértékig sokkal veszélyesebbé vált, mint azt az emberek korábban gondolták.
A mesterséges intelligencia lehetséges kockázatai attól függenek, hogyan használják. A mesterséges intelligenciát kezdetben az emberek munkájának segítésére fejlesztették ki, különösen az olyan fárasztó, ismétlődő feladatok elvégzésében, mint a képosztályozás és az információk áttekintése. Az MI gyors fejlődésével azonban az utóbbi időben a tudósok és a technológiai szakértők aggódnak amiatt, hogy ha ellenőrizetlenül fejlesztik, vagy rossz célokra programozzák, a mesterséges intelligencia súlyos következményekkel járhat az emberiség és a társadalom számára.
A bizonytalanság kockázata
A mesterséges intelligencia fenyegetést jelenthet a nemzetbiztonságra és a személyes biztonságra. Elon Musk figyelmeztetett, hogy a mesterséges intelligencia félelmetes eszközzé válhat a hadviselésben. Ha egy nemzet képes kifejleszteni egy kiváló mesterséges intelligencia rendszert, akkor azt más nemzetek megtámadására használhatja. Stuart Russell professzor, a Kaliforniai Egyetem számítástechnikai professzora, aki évtizedeket töltött a mesterséges intelligencia kutatásával, a mesterséges intelligencia jelentette biztonsági fenyegetésre figyelmeztet, kijelentve, hogy ma már autonóm fegyvereket tudunk előállítani a meglévő technológiák integrálásával és miniatürizálásával.
A Stuart Russell professzor és a Future Life Research Institute (FLI) által végzett kísérletben egy mészárlóbotot használtak – egy mikroszkopikus repülő eszközt, amely kamerákkal, érzékelőkkel, képfeldolgozó szoftverrel, arcfelismerővel, egy 3 grammos robbanótöltettel és egy nagy sebességű mikroprocesszorral volt felszerelve, amely lehetővé teszi az adatelemzést és a reakciókat 100-szor gyorsabban, mint az emberi agy. A programozott paramétereknek megfelelően a mészárlóbot folyamatosan hozzáfér a felhőadatokhoz, hogy információkat keressen a célpontjáról, és megtalálja a módját a megközelítésére. Miután megtalálta, nagy sebességgel a célpont felé száguld, felrobbantja a 3 grammos robbanótöltetet, és mélyen behatol a koponyába, azonnal megölve az áldozatot.
Ez csak egy kísérlet volt a mesterséges intelligenciával a legegyszerűbb szintjén. Ha a mesterséges intelligenciát új, kifinomultabb támadási módszerek fejlesztésére használják, az növelheti a támadók támadási képességeit, és súlyosabb következményekkel járhat, mint a hagyományos támadások. Amikor a mesterséges intelligencia eljut arra a pontra, hogy képes önállóan döntéseket hozni a változó környezettel való megbirkózásról, vagy önállóan alternatív célpontokat keresni, vagy kiterjeszteni a célpontok körét, akkor talán az emberiség már nem lesz biztonságban. Számos kolléga ezen a területen egyetért Stuart Russell professzorral, és úgy véli, hogy még mindig van esély megakadályozni egy ilyen komor jövőt, de valójában már nincs sok időnk hátra.
A kockázat az, hogy a mesterséges intelligencia szervezettté, autonómmá válik, és irányítja a rendszert.
A mesterséges intelligencia rosszul tervezhető vagy nem megfelelően „képezhető” gépi tanulás révén, ami potenciálisan nem szándékos cselekvésekhez vezethet, amelyek károsítják az embereket és a környezetet. Például a gépi tanulásnak köszönhetően a mesterséges intelligencia egyre intelligensebbé válik. Amikor a mesterséges intelligencia eléri azt az intelligenciaszintet, amely lehetővé teszi olyan kritikus rendszerek támogatását, mint az energiaellátás, a közlekedés, az egészségügy és a pénzügy, képes elsajátítani és irányítani ezeket a teljes rendszereket, saját döntéseket hozni és végrehajtani vészhelyzetekben. Amikor azonban a mesterséges intelligenciát rosszindulatú szándékkal „szerelik fel” (rosszul tervezik), súlyos következményekkel járhat, például a közlekedési rendszerek megzavarásával a közlekedési lámpák letiltásával vagy a városi vasúti rendszerek áramtalanításával, láncbaleseteket és széles körű áramkimaradásokat okozva.
Számos hollywoodi és nemzetközi film készült ezen a forgatókönyvön. A jelenlegi mesterséges intelligencia technológiával azonban ez már nem távoli kilátás, hanem teljesen lehetséges. Elon Musk úgy véli, hogy ha a mesterséges intelligencia ellenőrizetlenül fejlődhet, odáig, hogy emberi beavatkozás nélkül automatizálhatja a döntéseket, az veszélyt jelenthet az emberiség túlélésére. Ezért több ezer technológiai szakértővel együtt levelet írt alá, amelyben a mesterséges intelligencia fejlesztésének leállítását és szigorú, átlátható ellenőrzését követelték. Elon Musk szerint a mesterséges intelligencia rendszerek összetettek, nehezen érthetők, és irányításuk nagyon kihívást jelent. Átláthatóság nélkül a mesterséges intelligencia etikátlan célokra való felhasználása, amely kárt okoz az emberiségnek, elkerülhetetlen.
Munkahely elvesztésének kockázata, a személyiségi jogok megsértése.
Amikor személyes adatok gyűjtésére használják, a mesterséges intelligencia technológiát felhasználhatják a magánélet megsértésére, dezinformációs kampányok lebonyolítására és a társadalmi rendet és a politikai stabilitást befolyásoló félretájékoztatás terjesztésére. Az Egyesült Államok Személyzeti Igazgatóságának (OPM) hálózatának feltörése komoly aggodalomra ad okot minden ország vagy szervezet számára, mivel 21,5 millió jelenlegi és nyugdíjas amerikai tisztviselő részletes és rendkívül érzékeny személyes adatai kerültek veszélybe, beleértve a házastársaikra vonatkozó információkat, valamint a kormányzati álláspályázatokra vonatkozó adatokat, például egészségi állapotukat, lakcímüket, foglalkozásukat, ujjlenyomataikat és pénzügyi adataikat. Még riasztóbb tény azonban kiderült, amikor a CIA felfedezte, hogy az OPM adatlopásának elkövetői mesterséges intelligenciát használtak személyes adatok meghamisítására és virtuális ügynökök létrehozására az adatok ellopására. Az ellopott információkat elemzik, kategorizálják és meghatározott célokra felhasználják a Big Data technológia segítségével. A mesterséges intelligencia segít az információtolvajoknak lerövidíteni az adatok felhasználásához szükséges időt, mivel az emberek nem képesek ilyen hatalmas mennyiségű információt ilyen rövid idő alatt feldolgozni.
A fent említett inherens veszélyeken kívül a mesterséges intelligencia technológia más kockázatokat is teremt, mint például a túlzott támaszkodás rá, ami a helyzetek feletti kontroll elvesztéséhez és a döntéshozatali képesség csökkenéséhez vezet. A mesterséges intelligencia több millió, sőt több százmillió ember munkahelyének elvesztését is okozhatja, különösen a tisztán fizikai munkát igénylő, alacsony tudástartalmú munkakörökben. Ennek következtében olyan súlyos társadalmi problémák, mint a munkanélküliség, a bűnözés, valamint a gazdagok és szegények közötti szakadék még hangsúlyosabbá válnak. Továbbá a megbízhatóság is kulcsfontosságú kérdés. A döntések megbízhatósága rendkívül fontos az olyan magasan specializált területeken, mint az egészségügy és a büntető igazságszolgáltatás. Amikor a mesterséges intelligenciát használják a döntéshozatal segítésére ezeken a területeken, ha a technológia nem kellően megbízható, olyan adatokon alapul, amelyek általában egy vagy egy embercsoportot részesítenek előnyben, vagy szándékosan torzítják, ezek a döntések súlyos következményekkel járhatnak.
Hogyan előzhetjük meg ezt?
A fent említett kockázatok miatt aggódik Elon Musk és a technológiai szakértők a mesterséges intelligencia ellenőrizetlen fejlődése miatt, és leveleket írtak, amelyekben sürgetik az Egyesült Nemzetek Szervezetét és a nemzetközi szervezeteket, hogy szigorúan ellenőrizzék, biztosítsák a mesterséges intelligencia fejlesztésének biztonságát és etikáját; és erősítsék meg a nemzetközi együttműködést annak biztosítása érdekében, hogy a mesterséges intelligencia technológiáját az emberiség és a társadalom javára használják. Néhány konkrét intézkedés, amelyet meg lehetne említeni, a következők:
- Rendszer megbízhatóságának ellenőrzése: A mesterséges intelligenciát úgy kell megtervezni és fejleszteni, hogy szigorú, gyakori és folyamatos minőségellenőrzési, monitorozási és felügyeleti módszerek révén garantálja a biztonságot és a megbízhatóságot, biztosítva ezzel, hogy a mesterséges intelligencia rendszer az emberek által elvárt módon működjön, és elkerülje a megbízhatatlanságából eredő nemkívánatos hatásokat.
A mesterséges intelligencia (MI) technológiát úgy kell programozni, hogy az etikai értékek és a társadalmi normák szerint működjön. Ezeket a szabályozásokat és szabványokat egyértelműen meg kell határozni és ellenőrizni kell annak biztosítása érdekében, hogy ne okozzanak káros vagy hátrányos hatásokat az emberekre vagy a szervezetekre nézve. Az MI-rendszer teljesítményének elemzését, értékelését és ellenőrzését rendszeresen el kell végezni annak biztosítása érdekében, hogy etikusan működjön, ne sértse vagy erodálja a társadalom közös értékeit, ne okozzon negatív hatásokat, és biztosítsa a tudás és az értékek pontos átadását.
    |
| Az újságírás az egyik olyan iparág, amelyet a mesterséges intelligencia leginkább érint. A jövőben nem lesz szükség képernyőn kívüli műsorvezetőkre a rádióműsorokban, sőt, a televíziós műsorokban a virtuális műsorvezetők válnak dominánssá. |
- Legalább hat hónapra ideiglenesen le kell állítani a mesterséges intelligencia rendszerek „képzését”, hogy újraértékeljék a teljes kérdést. Ennek a szüneteltetésnek nyilvánosnak és ellenőrzöttnek kell lennie, és a képzésben részt vevő összes kulcsfontosságú érdekelt félnek be kell tartania azt. Szükség esetén a kormányoknak ideiglenes tilalmakat kell elrendelniük. Ez nem jelenti a mesterséges intelligencia fejlesztésének teljes leállítását, hanem csupán egy átmeneti szünetet abban a veszélyes versenyben, amely az MI-rendszereket pontosabbá, biztonságosabbá, érthetőbbé, átláthatóbbá, relevánsabbá, megbízhatóbbá és lojálisabbá tevő más fejlesztési modellekre való áttérésért küzd. Ez egy átfogó megoldás, amelyet Elon Musk és kollégái nyílt levelükben szorgalmaztak, de megvalósíthatósága alacsony. Nagyon nehéz minden független laboratórium számára, hogy megfeleljen egy ilyen nem kötelező érvényű és transznacionális felhívásnak.
- Az országok és a független mesterséges intelligencia-kutató szervezetek közötti együttműködés és információmegosztás megerősítése kulcsfontosságú annak biztosításához, hogy a mesterséges intelligencia fejlesztése és használata a jövőben biztonságos legyen. Az együttműködés és az információmegosztás lehetővé teszi a felmerülő kockázatok időben történő figyelmeztetését és megelőzését is.
Általánosságban elmondható, hogy a mesterséges intelligencia már mindenhol jelen van körülöttünk, és az olyan történetek, mint a mesterséges intelligencia által írt versek, zenék és cikkek, valósággá váltak, már nem sci-fi. A cikk szerzője számítógépeken és telefonokon használt mesterséges intelligencia technológiát az írás segítésére, így a folyamat zökkenőmentesebb és gyorsabb lett. Pontosabban, a bevezető bekezdést (chapeau) és néhány ötletet a mesterséges intelligencia javasolta, és ami még figyelemreméltóbb, hogy a cikkben használt összes képet is a mesterséges intelligencia készítette. A mesterséges intelligencia technológia nagyon hasznos az emberek munka- és életminőségének javításában, de szigorúan ellenőrizni kell, hogy megakadályozzuk, hogy kicsússzon az irányítás alól, és a jövőben az emberek potenciális helyettesítőjévé váljon, ahogy azt Stephen Hawking elméleti fizikus megjósolta.
Szöveg és fotók: HUU DUONG[hirdetés_2]
Forrás
Hozzászólás (0)