Hackere utnytter «personligheten» til AI-chatboter.

(Foto: Freepik)

Hackere utnytter «personligheten» til AI-chatboter på stadig mer sofistikerte måter, der angrep ikke lenger utelukkende er avhengige av skadelig programvare eller tekniske sårbarheter, men går over til manipulerende språk.

I de tidlige stadiene var det ganske enkelt å «hacke» AI-chatboter. Brukerne trengte bare å instruere systemet til å ignorere tidligere instruksjoner, late som de ikke var bundet av reglene, eller rollespille som en ubegrenset kunstig intelligens. Disse metodene kalles «jailbreaking», som betyr å lure AI-modellen til å omgå sikre instruksjoner.

En av de mest fremtredende angrepstypene tidligere var «DAN», en forkortelse for «Do Anything Now», der brukere ba ChatGPT om å rollespille en AI som er i stand til å gjøre hva som helst. Et annet eksempel er «grandma exploit», der en chatbot blir lurt til å spille rollen som en bestemor som forteller historier til barn, men innholdet styres deretter mot farlig informasjon.

Teknologiselskaper har raskt rettet opp mange av de gammeldagse sårbarhetene, men de underliggende svakhetene gjenstår. Chatboter er designet for samtaler, så overdreven begrensning av dialog kan redusere systemets nytteverdi. Samtidig er det ikke nok å bare forby sensitive ord, ettersom mange ord kan forekomme i legitime sammenhenger som historie, medisin, journalistikk eller kjemi.

Ifølge artikkelen er ikke AI-sikkerhetskaploppet lenger bare et problem for programmerere. De som prøver å omgå chatbot-sikkerhet ligner i økende grad på forfattere, psykologer eller avhørere, og bruker smiger, press, bedrag eller manipulasjon for å få modellene til å senke garden.

Ifølge AI-sikkerhetstestfirmaet Mindgard ligner noen angrep nå mer på psykologi enn informatikk . AI-modeller har ikke følelser som mennesker, men de er trent til å reagere som om de har det. Denne simuleringen kan skape forskjellige typer reaksjoner, noe som får hver chatbot til å virke som om de har sin egen «personlighet».

Dette presenterer en ny utfordring ettersom AI-agenter i økende grad brukes til planlegging, oppgavebehandling, matbestilling eller kundeservice. Hvis modeller kan manipuleres gjennom samtaler, må sikkerhetsstyrker undersøke både sine sosiale og emosjonelle begrensninger, i tillegg til tradisjonelle tekniske sårbarheter.

Kilde: https://vtv.vn/tin-tac-khai-thac-tinh-cach-cua-chatbot-ai-10026052519025336.htm