MI-eszközök használata MI-alapú termékhibák javítására

Az álhírek egyre kifinomultabbak a mesterséges intelligencia manipulációjának köszönhetően

A közelmúltban, a Vietnami Újságírók Szövetsége és a Thai Újságírók Szövetsége Hanoiban tartott találkozóján a két szövetség vezetői idejük nagy részét az „álhírek” problémájának megemlítésével töltötték, és kijelentették, hogy ez már nem nemzeti, hanem nagy probléma, amely kiszámíthatatlan hatásokat okoz a régióban és a világban.

A Google DeepMind kutatása szerint az embereknek utánzott képek, videók és hanganyagok létrehozása közel kétszer olyan gyakori, mint a félretájékoztatás olyan eszközökkel, mint a mesterséges intelligencia által vezérelt chatbotok.

Az elmúlt hónapokban Rishi Sunak brit miniszterelnök és más globális vezetők deepfake-jei jelentek meg a TikTokon, az X-en és az Instagramon, ami azzal az aggodalommal tölt el, hogy a közösségi hálózatok erőfeszítései ellenére a tartalom címkézésére vagy eltávolítására a közönség esetleg nem ismeri fel hamisítványként, és terjesztése befolyásolhatja a szavazókat.

Rishi Sunak brit miniszterelnököt ábrázoló kamufotók jelentek meg a TikTokon és az Instagramon az általános választások előtt. (Fotó: AFP)

A technológiai korszakban az álhírek hatását vizsgálva Luong Dong Son MSc, az Újságírás és Propaganda Akadémia Újságírás és Kommunikáció Intézetének előadója elmondta, hogy a mesterséges intelligencia és a félretájékoztatás kombinációjának terméke, más néven szürreális álhírek, torzíthatják a közvélemény észlelését az eseményekről és a társadalmi kérdésekről, ezáltal befolyásolva a helyzetértékelést és a döntéshozatalt. Ennek súlyos következményei lehetnek, az apró személyes döntésektől kezdve a közösséget és az országot érintő fontos döntésekig.

A hiper-álhírek eszközként használhatók a közvélemény manipulálására, erőszakra való felbujtásra, megosztottság szítására és a társadalmi stabilitás aláásására. A politikai színtéren a hiper-álhírek alááshatják a demokratikus intézményekbe vetett bizalmat, befolyásolhatják a választási eredményeket, sőt konfliktusokat is szíthatnak.

Az újságírók és sajtószervezetek előtt álló kihívásokkal kapcsolatban Luong Dong Son mesterszakértő elmondta, hogy a szürreális álhírek, különösen a deepfake kifinomultsága egyre nehezebbé teszi a valódi és a hamis hírek megkülönböztetését, még a tapasztalt újságírók számára is.

„Az információrobbanás korában a közvélemény egyre inkább elvárja az újságíróktól és a hírszervezetektől, hogy gyorsan és pontosan szolgáltassanak információkat. Ez a nyomás azonban oda vezethet, hogy az újságírók elhamarkodottan, gondos ellenőrzés nélkül tesznek közzé információkat, lehetőséget teremtve a szürreális álhírek terjedésére. Ezenkívül az újságírók és a hírszervezetek jogi és etikai kockázatokkal néznek szembe, ha nem körültekintően ellenőrzik és teszik közzé az információkat” – mondta Mr. Son.

Mesterséges intelligencia segítségével ellenőrizheti az információkat

Luong Dong Son mesterképzéses hallgató szerint az ilyen típusú álhírek kezeléséhez rendkívül fontos a modern technológiai megoldások alkalmazása.

„Ezek a megoldások nemcsak az álhírek felderítésére és megszüntetésére összpontosítanak, hanem már a gyártásuk korai szakaszában megelőzik is őket” – mondta Dong Son, MSc.

Először is, Mr. Son szerint napjaink egyik legfontosabb technológiája a mesterséges intelligencia rendszerek használata az álhírek észlelésére. A modern MI-rendszerek képesek a kontextus elemzésére, a több forrásból származó információk összehasonlítására és az információtartalom rendellenességeinek észlelésére. Tipikus példa erre a MI használata videók és képek elemzésére a deepfake technológia használatával történő szerkesztés vagy gyártás jeleinek észlelése érdekében.

Ezután a közösségi média platformok és a keresőmotorok is aktívan alkalmazzák a gépi tanulási algoritmusokat, hogy automatikusan osztályozzák és kiszűrjék az álhíreket, mielőtt azok virálissá válnának. Ezek az algoritmusok felismerik a megosztási mintákban, a terjedés sebességében vagy akár a bejegyzések hangvételében mutatkozó anomáliákat, ezáltal felmérve annak valószínűségét, hogy az információ hamis.

Emellett a blokklánc technológia használata az információk eredetének kezelésére szintén egy lehetséges megoldás. A blokklánc képes egy átlátható és megváltoztathatatlan hitelesítési rendszer létrehozására, ezáltal segítve az összes információ eredetének és előzményeinek nyomon követését, biztosítva a pontosságot és a megbízhatóságot.

A mesterséges intelligencia képes hamis tartalmakat vagy félrevezető információkat és képeket létrehozni, amelyeket nehéz megkülönböztetni, ami nagy kárt okozhat az egyének és szervezetek hírnevében, sőt akár a nemzeti és etnikai érdekeket is sértheti.

Phan Van Tu úr, a Ho Si Minh-városi Társadalomtudományi és Bölcsészettudományi Egyetem Újságírás és Kommunikáció Karának Újságírás Tanszékének vezetője – Luong Dong Son mesterképzéses hallgatóval egyetértve – hangsúlyozta, hogy a mesterséges intelligencia újságírásban való erősségeinek kiaknázásához szükséges készségek biztosítása mellett a mesterséges intelligencia eszközeit az információk ellenőrzésére is fel kell használnunk.

A forrásellenőrzés, ami lényegében egy forrás megbízhatóságának felmérése, egy fontos készség, amely magában foglalja az információforrás ellenőrzését, összehasonlítását más forrásokkal, és tényellenőrző eszközök használatát a megbízhatóság ellenőrzésére.

Az érdekes az, hogy jelenleg számos mesterséges intelligenciával integrált eszköz létezik, amelyek támogatják az újságírókat az ellenőrzési folyamatban, a tényellenőrzőket támogató hagyományos eszközök mellett, mint például a Google Image, a Tineye fordított képkereső, a Whopostedwhat.com, a Waybackmachine, a Webarchive.org, az InVID, a WeVerify, az ExifTool, a Metapicz...

Phan Van Tu úr elmondta, hogy az újságírók szakmai képzése a jelenlegi időszakban megköveteli, hogy figyelmet fordítsunk az információk ellenőrzésére való képesség biztosítására a mesterséges intelligencia által manipulált álhírek támadásaival szemben. „A mesterséges intelligencia eszközeinek használata a mesterséges intelligenciával kapcsolatos hibák kezelésére a leggyorsabb módja annak, hogy segítsük az újságírókat és a sajtóügynökségeket nemcsak abban, hogy jól ellássák szerepüket, hanem hozzájáruljanak az információk minőségének javításához és a nyilvánosság védelméhez a hamis információktól és a média negatív hatásaitól” – mondta Tu úr.

Tu úr ugyanakkor arra is rámutatott, hogy az újságírók információelemzési képessége nem támaszkodhat kizárólag eszközökre. Rögtön le kell szögezni, hogy a mesterséges intelligencia támogathatja a hírek tartalmának elemzését, de nem képes minden típusú álhírt és manipulált információt felderíteni. A mesterséges intelligencia szoftvereit továbbra is becsaphatják a felderítéshez használt mesterséges intelligencia technikák.

„Egyetlen eszköz sem varázspálca, de a hamis fényképeket/videókat észlelő mesterséges intelligencia eszközök továbbra is értékes erőforrást jelentenek az ellenőrzési folyamat vagy az átvilágítási módszer részeként” – mondta Phan Van Tu.

Hoa Giang

Forrás: https://www.congluan.vn/tin-gia-trong-thoi-ky-tri-tue-nhan-tao-dung-cac-cong-cu-ai-de-tri-cac-san-pham-loi-tu-ai-post308981.html