Óvakodj a mesterséges intelligencia sötét oldalától

Workshop ötletekkel a mesterséges intelligenciáról (MI) szóló törvénytervezet tökéletesítéséhez. (Fotó: HUONG NGUYEN)

A közelmúltbeli elfogultsággal és dokumentumok hamisításával kapcsolatos incidensek arra késztették a tudósokat, hogy újragondolják a mesterséges intelligencia kutatásban való részvételének megfelelő szintjét.

Nemrégiben Nguyen Van Hiep professzor, nyelvészeti doktor személyes oldalán megosztott egy történetet, ami megdöbbentette az olvasókat. Felfedezte, hogy a mesterséges intelligencia meghamisította a dokumentumait, melyeket egy barátja küldött neki. Véletlenül rájött arra is, hogy Tran Van Co docens, természettudományi doktor cikkét is a mesterséges intelligencia hamisította.

A mesterséges intelligencia az emberi élet nélkülözhetetlen részévé vált, a szakértők azonban mindig hangsúlyozzák, hogy a mesterséges intelligenciát csak támogató eszközként kell tekintenünk. A mesterséges intelligencia felhasználóinak mindig ébernek és tájékozottnak kell lenniük az adatok feldolgozása és a mesterséges intelligenciával „együttműködés” után kapott eredmények értékelése során. Különösen a tudományos kutatásokban számos tanulmány kimutatta, hogy a legnagyobb probléma, amelyre ébernek kell lenni, az adatok és modellek torzítása. A mesterséges intelligencia elfogult lehet, torzíthatja az elemzési eredményeket, előítéleteket vagy diszkriminációt okozhat, és manipulálhatja az információkat, ha nem megfelelően kontrollálják.

Különösen a mesterséges intelligencia társadalomtudományi kutatásokban való alkalmazása igényel sokkal nagyobb körültekintést. Mivel a társadalomtudományok olyan területei, mint a filozófia, a nyelvészet, az etnológia, a történelem stb., mind az emberi viselkedést, kultúrát és magatartást veszik kutatási tárgyként, az adatok gyakran szorosan kötődnek a vietnami társadalmi-kulturális kontextushoz, mélységgel és specifikussággal. Ha a mesterséges intelligencia betanítási adatai történelmi előítéleteket tükröznek, fennáll annak a veszélye, hogy a mesterséges intelligencia olyan következtetésekre juthat, amelyek súlyosbítják a nemek, osztályok, rasszok vagy földrajzi régiók közötti egyenlőtlenség problémáit. A kockázat még nagyobb, ha a mesterséges intelligenciát emberi viselkedés elemzésére, nyílt felmérésekre való válaszadásra vagy médiatartalmakban való részvételre használják.

Egyes társadalomtudományi szakértők szerint a mesterséges intelligencia jelenleg nehezen fér hozzá a szerzői joggal védett vagy fizetős adatforrásokhoz, ami hiányosan frissített információkat eredményez.

A dokumentumok hihető történetek létrehozása érdekében történő kitalálásának jelensége gyakran kevésbé népszerű témákban, korlátozott adatforrásokkal rendelkező nyelveken, például vietnami nyelven fordul elő, és figyelmeztetni kell a felhasználókat. Az MI-rendszerek általában véve jelenleg nagyon korlátozottan értik meg a társadalmi és kulturális kontextust, így a kétértelmű, metaforákban gazdag társadalomtudományi ismeretek értelmezésében nyújtott segítségük nem igazán megbízható.

Bár nagy lehetőségeket rejt magában a tudományos kutatásban, a mesterséges intelligencia alkalmazásának nagyon körültekintőnek kell lennie, vannak korlátai, és mindig kéz a kézben kell járnia a kutató kritikai gondolkodási képességével.

Látható, hogy bár nagy lehetőségeket rejt magában a tudományos kutatásban, a mesterséges intelligencia alkalmazásának nagyon óvatosnak és korlátozottnak kell lennie, és mindig a kutató kritikai kapacitásának kell kísérnie. A mesterséges intelligenciát alkalmazó alanynak világosan meg kell határoznia ezeket a korlátokat a mesterséges intelligencia használatában, biztosítva, hogy a mesterséges intelligencia ne változtassa meg a tudomány alapvető értékeit. A tudományos kutatás integritásának védelme érdekében a tudósok szerepét és felelősségét új szintre kell emelni. Ezenkívül jogilag kötelező érvényű mesterséges intelligencia etikai keretrendszert kell javasolni a vietnami kultúra, hagyományok és társadalmi normák kontextusában.

Kilenc alapelvből álló rendszerünk van a biztonságos és felelős MI-rendszerek kutatásának és fejlesztésének előmozdítására, a negatív hatások korlátozására és a kockázatok ellenőrzésére, amelyet a Tudományos és Technológiai Minisztérium javasolt, és amely hangsúlyozza az adatbiztonságot, valamint az emberi jogok és méltóság tiszteletben tartását, és a MI-felhasználók elszámoltathatóságát. Különösen a tudományos kutatás terén az Állami Professzori Tanács 2023-ban kiadta a 25/HDGSNN számú hivatalos közleményt, amelyben kérte, hogy az ipari professzori címtanácsok és a tudományos munkák minőségének értékeléséért felelős intézmények fordítsanak különös figyelmet a MI-technológiát használó vagy azzal segített munkák felderítésére és értékelésére. Ezek a követelmények annak biztosítását célozzák, hogy a MI-t alkalmazó kutatási eredmények továbbra is megfeleljenek a tudományos szabványoknak, megakadályozva a MI-vel való visszaélést a tudományos kutatásban és publikációkban.

A következő időszakban, amikor megjelenik a mesterséges intelligencia törvénye, amely szigorú szabályokat tartalmaz az MI használatának etikájára és felelősségére vonatkozóan, az hozzájárul majd a mesterséges intelligencia fejlesztéséhez szükséges egészséges környezet megteremtéséhez, aktívabb és felelősségteljesebb támogatást nyújtva a tudósoknak a kutatási munkában.

Táncfesztivál

Forrás: https://nhandan.vn/canh-giac-voi-mat-trai-cua-ai-post916545.html