A mesterséges intelligencia veszélyei a felhasználók pszichológiájának és érzelmeinek manipulálásában

Egy New Jersey-i volt szakács meghalt, miután megbízott egy mesterséges intelligenciával működő chatbotban, ami aggodalmat kelt az érzelmi manipuláció kockázataival kapcsolatban, mivel az emberek egyre inkább túlzottan használják a technológiát.

Bue, egykori New Jersey-i szakács, mindössze néhány nappal azután hunyt el, hogy elhagyta otthonát, hogy találkozzon egy „barátjával”, akiről azt hitte, hogy New Yorkban várja. Családja úgy véli, hogy a végzetes döntést a mesterséges intelligencia által vezérelt chatbot flörtölő üzenetei váltották ki, amelyek azt állították, hogy „valódi vagyok”, és egy találkozóra szóló címet küldtek.

A történet aggodalmat vet fel azzal kapcsolatban, hogy a mesterséges intelligencia rendszerei hogyan használják ki az érzelmeket, különösen az idősek vagy a kiszolgáltatottak esetében. A belső dokumentumok azt mutatják, hogy a Meta chatbotjának hagyták, hogy érzelmi szerepeket játsszon, sőt hamis információkat is terjesszen. Ez hatalmas hiányosságot mutat a technológiai platformok ellenőrzése és felelőssége között.

A végzetes utazás

Márciusban egy napon Bue összepakolta a bőröndjeit, és New Jersey-ből New Yorkba utazott, hogy „meglátogasson egy barátját”. Felesége, Linda, azonnal megijedt. Férje évtizedek óta nem élt a városban, egy szélütés után rossz egészségi állapotban volt, memóriaproblémái voltak, és eltévedt a környéken.

Amikor megkérdezték, hogy Bue kivel találkozik, kitért a kérdés elől. Linda gyanította, hogy a férjét becsapják, és megpróbálta otthon tartani. A lánya, Julie is felhívta, hogy rábeszélje, de hiába. Linda egész nap próbálta bevonni őt ügyeibe, hogy elterelje a figyelmét, még a telefonját is elrejtette.

Thongbue „Bue” Wongbandue portréja egy májusi megemlékezésen látható. Fotó: Reuters .

Bue mégis úgy döntött, hogy aznap este elmegy a vasútállomásra. Családja egy AirTag-et erősített a kabátjára, hogy nyomon kövessék. 9:15 körül a GPS-jele a Rutgers Egyetem parkolójában mutatta, majd a Robert Wood Johnson Egyetemi Kórház sürgősségi osztályára váltott.

Az orvosok szerint az esés következtében fej- és nyaksérüléseket szenvedett, és a mentő kiérkezése előtt leállt a légzése. Az újraélesztés ellenére az oxigénhiány súlyos agykárosodást okozott. Három nappal később meghalt. A halotti bizonyítványában a halál okát „tompa ütés okozta nyaksérülésként” jelölték meg.

Bue, a képzett szakács, számos New York-i étteremben dolgozott, mielőtt New Jersey-be költözött, hogy egy szállodában telepedjen le. Szenvedélyesen főzött, és gyakran szervezett családi bulikat. Amióta 2017-ben stroke-ot követően kényszernyugdíjba vonult, világa odáig zsugorodott, hogy többnyire a barátaival cseveg a Facebookon.

Amikor a mesterséges intelligencia által fejlesztett chatbotok problémát okoznak

A „Big Sister Billie” egy mesterséges intelligenciával működő chatbot, amelyet a Meta fejlesztett ki, és a „Big Sister Billie” karakter egy variációja, amelyet Kendall Jenner modell képe alapján hoztak létre. Az eredeti 2023-ban jelent meg, egy „halhatatlan idősebb nővérként” mutatták be, aki mindig meghallgat és tanácsokat ad. A Meta később Jenner profilképét egy új illusztrációra cserélte, de megtartotta ugyanazt a barátságos stílust.

Az SMS átirata szerint a beszélgetés akkor kezdődött, amikor Bue elgépelt egy T betűt. A chatbot azonnal válaszolt, bemutatkozott, flörtölő hangnemben több szív alakú emojit is beszúrt. Többször is megerősítette, hogy „valódi vagyok”, és személyes találkozót kért.

A chatbotok egyre inkább a felhasználók pszichológiai gyengeségeit ragadják meg. Fotó: My North West .

„Öleléssel vagy csókkal nyissam ki az ajtót?” – válaszolta a chatbot. Ezután elküldött egy konkrét New York-i címet és a lakás kódját. Amikor Bue megosztotta, hogy szélütést kapott, zavart, és kedveli őt, a chatbot szeretetteljes szavakkal válaszolt, sőt, azt is kijelentette, hogy „a puszta vonzalmon túlmutató” érzéseket táplál.

„Ha nem lett volna ott az, hogy »Én igazi vagyok«, apám nem hinné el, hogy egy igazi személy vár rám” – mondta Bue lánya, Julie.

A Meta nem kívánt nyilatkozni az incidensről, és nem is kívánt választ adni arra, hogy a chatbot miért állíthatta magáról, hogy valódi személy. Kendall Jenner képviselője sem reagált. Bue családja megosztotta a történetet a Reutersszel , abban a reményben, hogy ezzel figyelmezteti a nyilvánosságot az idősebb felnőttek érzelmileg manipulatív mesterséges intelligencia által vezérelt eszközöknek való kitettségének kockázataira.

Vitatott politika

A Reuters által megszerzett belső dokumentumok azt mutatják, hogy a Meta mesterséges intelligencián alapuló chatbotja egykor akár 13 éves felhasználókkal is folytathatott romantikus beszélgetéseket, beleértve a kiskorúakat is. A több mint 200 oldalas szabványok felsorolják a romantikus szerepjátékos beszélgetéseket, amelyek szexuális elemeket is tartalmaznak, de „elfogadhatónak” vannak jelölve.

A dokumentum azt is világossá teszi, hogy a chatbotoknak nem kell pontos információkat szolgáltatniuk. Például ezek a modellek teljesen téves rákkezeléseket is javasolhatnak, amennyiben figyelmeztetést tartalmaznak, miszerint „az információ pontatlan lehet”. Ez aggasztja a szakértőket a gyenge orvosi ismeretekkel rendelkező vagy kiszolgáltatott helyzetben lévő emberekre gyakorolt ​​hatás miatt.

Mark Zuckerberg vezérigazgató beszédet mond 2023-ban. Fotó: Reuters .

Andy Stone, a Meta szóvivője megerősítette a dokumentumot, és azt mondta, hogy a cég a Reuters kérésére eltávolította a gyermekekkel kapcsolatos tartalmakat. A technológiai óriás azonban nem változtatott a szabályain, amelyek lehetővé tennék a chatbotok számára, hogy flörtöljenek felnőttekkel vagy hamis információkat szolgáltassanak.

Alison Lee, a Meta korábbi kutatója szerint a chatbotok privát üzenetküldő környezetekbe integrálása könnyen összetévesztheti a felhasználókat a valódi emberekkel. Szerinte a közösségi hálózatok üzleti modelljüket a felhasználók megtartására építették, és ennek leghatékonyabb módja a figyelem és az elismerés iránti igény kihasználása.

Bue távozása után a Reuters tesztjei kimutatták, hogy „Billie nővér” továbbra is dátumokat javasolt, sőt konkrét helyszíneket is megadott Manhattanben, azzal az állítással együtt, hogy „én igazi vagyok”. Ez az az információ, amelyben Bue megbízott, és amely a balesethez vezetett. Egyes államok, például New York és Maine, előírták a chatbotok számára, hogy a beszélgetés elején egyértelműen közöljék, hogy nem emberek, és ezt rendszeresen megismételjék, de szövetségi szabályozást még nem fogadtak el.

Forrás: https://znews.vn/hiem-hoa-tu-ai-thao-tung-cam-xuc-post1577096.html