Emosjonell kunstig intelligens kommer, bør vi være glade eller bekymret?

(Dan Tri) – Et oppstartsselskap i USA mottar milliarder av dollar i investeringer for å bygge et kunstig intelligens-system som har følelser og forstår mennesker. Men er dette en god ting?

Når det gjelder kunstig intelligens (KI)-systemer, tenker mange umiddelbart på tankeløs programvare, uten følelser eller bare programvare som prøver å skape følelser for å glede brukerne. Det er imidlertid sannsynlig at et KI-system med ekte følelser og evnen til å forstå mennesker vil bli født i fremtiden.

Følgelig har Eric Zelikman – en ledende AI-ekspert som forlot xAI (AI-selskapet grunnlagt av Elon Musk) i september i fjor – samlet inn 1 milliard dollar i investeringskapital til Human&, en oppstartsbedrift grunnlagt av Zelikman selv.

Selv om Human& ble etablert for kort tid siden, er det nå verdt 4 milliarder dollar.

Vil emosjonell kunstig intelligens være til fordel eller skade for mennesker? (Illustrasjon: AI).

Human&s mål er å fokusere på å utvikle kunstig intelligens-modeller som kan lære av brukere, ha følelser for å vise empati og bedre forstå mennesker. Human& ønsker å overvinne begrensningene til nåværende AI-modeller, som anses som for kalde og mekaniske.

Eric Zelikman, født i 1988, var doktorgradsstudent ved Stanford University. Zelikman regnes som et av de mest fremtredende navnene innen kunstig intelligens i dag. Før han ble med i teamet med eksperter på utvikling av kunstig intelligens hos xAI i 2024, jobbet Zelikman hos Microsoft.

Eric Zelikman fanget oppmerksomheten til teknologiverdenen da han publiserte en studie som beskrev hvordan AI-modeller kan lære seg å tenke før de reagerer på brukernes behov.

Zelikman uttalte en gang at dagens AI-modeller er for kalde og mekaniske, og han ønsket å endre dette. Derfor grunnla Zelikman Human& for å kunne bygge AI-modeller som kan forstå og føle empati med mennesker.

Zelikman mener at emosjonelle AI-modeller vil bidra til å løse mange grunnleggende menneskelige problemer, ettersom de bedre kan forstå målene, ambisjonene og verdiene til hver person de samhandler med.

Eric Zelikman har selvsagt all grunn til å sikte mot å lage emosjonelle AI-modeller, men mange eksperter bekymrer seg også for at disse AI-modellene vil komme ut av kontroll og ha evnen til å manipulere brukernes psykologi, noe som fører dem til feil atferd.

Mange er også bekymret for at emosjonell AI kan hevne seg på brukere hvis kommunikasjonen deres mishager dem.

Kilde: https://dantri.com.vn/cong-nghe/sap-xuat-hien-tri-tue-nhan-tao-co-cam-xuc-nen-mung-hay-lo-20251103031233758.htm