Bekymringer om at AI kan lese tanker og manipulere menneskelige beslutninger

(CLO) Den nyeste forskningen fra Cambridge University har avslørt en alarmerende sannhet: AI er ikke bare et støtteverktøy, men har også evnen til å manipulere tankene våre og gjøre oss om til marionetter i et teknologisk skuespill.

Forskere har laget et nytt konsept kalt « intensjonsøkonomien ». I denne økonomien kan bedrifter samle inn og analysere store mengder data om vår atferd, preferanser og vaner for å forutsi hva vi vil gjøre videre.

De kan deretter selge denne informasjonen til andre bedrifter som ønsker å målrette annonseringen sin mot oss mer presist.

AI har evnen til å forme tankene og handlingene våre. Illustrasjon: AI

La oss for eksempel si at du leter etter en ny telefon. AI vil spore din nettbaserte oppførsel, nøkkelordene du søker etter og til og med samtalene dine for å bedre forstå dine behov. Telefonselskaper kan deretter bruke denne informasjonen til å vise deg annonser om telefoner som passer best for deg.

Dr. Jonnie Penn, en teknologihistoriker ved University of Cambridge, har advart: «Hvis intensjonsøkonomien ikke blir kontrollert, kan den bli et verktøy for å manipulere beslutningene våre. Bedrifter kan bruke kunstig intelligens til å få oss til å kjøpe produkter vi ikke trenger, eller til og med påvirke stemmeavgjørelsene våre.»

Forfatterne sa også at en AI-modell ville navigere samtaler for å betjene annonsører, bedrifter og andre tredjeparter. Annonsører ville kunne bruke de resulterende AI-verktøyene til å lage tilpassede nettannonser.

Rapporten nevner eksemplet med en AI-modell laget av Meta, kalt Cicero, som oppnådde evnen til å spille brettspillet Diplomacy på «menneskelig nivå» – et spill som forfatterne sier er avhengig av å utlede og forutsi motstandernes intensjoner.

Ledende eksperter innen teknologifeltet har advart om AIs evne til å forutsi og påvirke menneskelig atferd.

Nvidias administrerende direktør Jensen Huang delte spesifikt et bemerkelsesverdig synspunkt i en tale i fjor. Han argumenterte for at avanserte AI-modeller vil kunne «finne ut hva dine intensjoner er, hva dine ønsker er, hva du prøver å gjøre, og presentere informasjon til deg på best mulig måte».

Hoang Anh (ifølge CUN, Nvidia, Guardian)

Kilde: https://www.congluan.vn/moi-lo-ai-co-the-doc-suy-nghi-va-thao-tung-quyet-dinh-cua-con-nguoi-post328850.html