Zorgen dat AI gedachten kan lezen en menselijke beslissingen kan manipuleren

(CLO) Het meest recente onderzoek van de Universiteit van Cambridge heeft een alarmerende waarheid aan het licht gebracht: AI is niet alleen een hulpmiddel, maar heeft ook het vermogen om onze gedachten te manipuleren en ons te veranderen in marionetten in een technologisch toneelstuk.

Onderzoekers hebben een nieuw concept bedacht: de 'intentie -economie '. In deze economie kunnen bedrijven grote hoeveelheden data over ons gedrag, onze voorkeuren en onze gewoonten verzamelen en analyseren om te voorspellen wat we vervolgens zullen doen.

Deze informatie kunnen ze vervolgens verkopen aan andere bedrijven die hun reclame gerichter op ons willen richten.

AI heeft het vermogen om onze gedachten en acties vorm te geven. Illustratie: AI

Stel je voor dat je op zoek bent naar een nieuwe telefoon. AI volgt je online gedrag, de zoekwoorden waarop je zoekt en zelfs je gesprekken om je behoeften beter te begrijpen. Telefoonproviders kunnen deze informatie vervolgens gebruiken om je advertenties te tonen over telefoons die het meest geschikt voor je zijn.

Dr. Jonnie Penn, technologiehistoricus aan de Universiteit van Cambridge, waarschuwde: "Als we de intentie-economie niet in de hand houden, kan deze een instrument worden om onze beslissingen te manipuleren. Bedrijven zouden AI kunnen gebruiken om ons producten te laten kopen die we niet nodig hebben, of zelfs onze stembeslissingen te beïnvloeden."

De auteurs stelden ook dat een AI-model gesprekken zou kunnen sturen ten behoeve van adverteerders, bedrijven en andere derde partijen. Adverteerders zouden de resulterende AI-tools kunnen gebruiken om online advertenties op maat te maken.

In het rapport wordt het voorbeeld aangehaald van een AI-model van Meta, genaamd Cicero, dat het bordspel Diplomacy op ‘menselijk niveau’ kon spelen. Volgens de auteurs is dit spel afhankelijk van het afleiden en voorspellen van de intenties van tegenstanders.

Vooraanstaande experts op het gebied van technologie waarschuwen voor de mogelijkheid van AI om menselijk gedrag te voorspellen en te beïnvloeden.

Nvidia CEO Jensen Huang deelde vorig jaar een opmerkelijke visie in een toespraak. Hij betoogde dat geavanceerde AI-modellen "kunnen achterhalen wat je intenties zijn, wat je wensen zijn, wat je probeert te doen, en je die informatie op de best mogelijke manier kunnen presenteren."

Hoang Anh (volgens CUN, Nvidia, Guardian)

Bron: https://www.congluan.vn/moi-lo-ai-co-the-doc-suy-nghi-va-thao-tung-quyet-dinh-cua-con-nguoi-post328850.html