Google: Gemini AI-programvare misbrukes til å lage falskt terrorinnhold.

I en uttalelse sendt til australske myndigheter opplyser Google at de i løpet av det siste året har mottatt 258 klager globalt angående bruk av programvaren Gemini for kunstig intelligens (KI) til å lage falskt terror- eller voldelig ekstremistisk innhold, og 86 brukerrapporter advarer om at Gemini misbrukes til å produsere innhold med overgrep mot barn.

Den australske kommisjonen for elektronisk sikkerhet (ESSC) vurderte at Googles rapport gir verdens første innsikt i hvordan brukere kan utnytte teknologi til å lage skadelig og ulovlig innhold.

Kommissær Julie Inman Grant fra Cybersecurity Commission uttalte at dette understreker viktigheten av at selskaper som utvikler AI-produkter bygger og tester effektiviteten av sikkerhetstiltak for å forhindre produksjon av skadelig, falskt innhold.

Google brukte en samsvarsfunksjon – et automatisert system som matcher nylig opplastede bilder med kjente bilder – for å identifisere og fjerne innhold med overgrep mot barn laget av Gemini. Den australske kommisjonen for elektronisk sikkerhet uttalte imidlertid at Google ikke brukte det samme systemet for å fjerne terroristisk eller voldelig ekstremistisk innhold laget av Gemini.

I henhold til gjeldende australsk lov må teknologiselskaper regelmessig gi Electronic Security Commission informasjon om sine tiltak for å redusere skadene, ellers risikerer de straffer.

Senest ble selskaper pålagt å rapportere informasjon til denne kommisjonen for perioden april 2023 til februar 2024. Den australske kommisjonen for elektronisk sikkerhet ga Telegram og Twitter – senere omdøpt til X – bøtelegg for mangler i rapporteringen.

X har allerede anket boten på 610 500 AUD (382 000 USD) én gang, men det er forventet at den sosiale medieplattformen vil anke igjen. Telegram planlegger også å anke boten som ble ilagt kanalen.

Siden den «sensasjonelle» chatboten ChatGPT fra det amerikanske selskapet OpenAI eksploderte i offentlighetens bevissthet sent i 2022, har reguleringsorganer over hele verden etterlyst mer effektive tiltak for å sikre at ondsinnede aktører ikke misbruker AI til å oppfordre til terrorisme, begå svindel, lage falskt pornografisk innhold og delta i annen krenkende virksomhet.

Kilde: https://nhandan.vn/google-phan-mem-ai-gemini-bi-lam-dung-de-tao-noi-dung-khung-bo-gia-mao-post863325.html