Oro för att AI kan läsa tankar och manipulera mänskliga beslut

(CLO) Den senaste forskningen från Cambridge University har avslöjat en alarmerande sanning: AI är inte bara ett stödverktyg utan har också förmågan att manipulera våra tankar och förvandla oss till marionetter i en teknologisk pjäs.

Forskare har myntat ett nytt koncept som kallas ”intention economy ”. I denna ekonomi kan företag samla in och analysera stora mängder data om vårt beteende, preferenser och vanor för att förutsäga vad vi kommer att göra härnäst.

De kan sedan sälja denna information till andra företag som vill rikta sin annonsering mer exakt mot oss.

AI har förmågan att forma våra tankar och handlingar. Illustration: AI

Låt oss till exempel säga att du letar efter en ny telefon. AI kommer att spåra ditt onlinebeteende, de sökord du söker efter och till och med dina konversationer för att bättre förstå dina behov. Telefonföretag kan sedan använda denna information för att visa dig annonser om telefoner som passar dig bäst.

Dr Jonnie Penn, teknikhistoriker vid University of Cambridge, har varnat: ”Om intentionsekonomin kontrolleras kan den bli ett verktyg för att manipulera våra beslut. Företag kan använda AI för att få oss att köpa produkter vi inte behöver, eller till och med påverka våra röstningsbeslut.”

Författarna sa också att en AI-modell skulle navigera konversationer för att betjäna annonsörer, företag och andra tredje parter. Annonsörer skulle kunna använda de resulterande AI-verktygen för att skapa anpassade onlineannonser.

Rapporten citerar exemplet med en AI-modell skapad av Meta, kallad Cicero, som uppnådde förmåga på "mänsklig nivå" att spela brädspelet Diplomacy – ett spel som författarna säger bygger på att dra slutsatser och förutsäga motståndarnas avsikter.

Ledande experter inom teknikområdet har varnat för AI:s förmåga att förutsäga och påverka mänskligt beteende.

Mer specifikt delade Nvidias VD Jensen Huang en anmärkningsvärd åsikt i ett tal förra året. Han menade att avancerade AI-modeller kommer att kunna "ta reda på vad dina avsikter är, vad dina önskningar är, vad du försöker göra och presentera information för dig på bästa möjliga sätt".

Hoang Anh (enligt CUN, Nvidia, Guardian)

Källa: https://www.congluan.vn/moi-lo-ai-co-the-doc-suy-nghi-va-thao-tung-quyet-dinh-cua-con-nguoi-post328850.html