Google: Gemini AI-programvara missbrukas för att skapa falskt terroristinnehåll.

I ett uttalande som skickats till australiska myndigheter uppgav Google att de under det senaste året har mottagit 258 klagomål globalt gällande användningen av deras programvara för artificiell intelligens (AI), Gemini, för att skapa falskt terrorist- eller våldsamt extremistiskt innehåll; och 86 användarrapporter varnar för att Gemini missbrukas för att producera innehåll med barnpornografi.

Den australiska kommissionen för elektronisk säkerhet (ESSC) bedömde att Googles rapport ger världens första inblick i hur användare kan utnyttja teknik för att skapa skadligt och olagligt innehåll.

Kommissionär Julie Inman Grant från cybersäkerhetskommissionen uppgav att detta understryker vikten av att företag som utvecklar AI-produkter bygger och testar effektiviteten av skyddsåtgärder för att förhindra produktion av skadligt, falskt innehåll.

Google använde en matchningsfunktion – ett automatiserat system som matchar nyligen uppladdade bilder med kända bilder – för att identifiera och ta bort innehåll med barnpornografi som skapats av Gemini. Den australiska säkerhetskommissionen för elektronisk säkerhet uppgav dock att Google inte använde samma system för att ta bort terroristiskt eller våldsamt extremistiskt innehåll som skapats av Gemini.

Enligt gällande australisk lag måste teknikföretag regelbundet förse Electronic Security Commission med information om sina skademinskningsinsatser, annars riskerar de böter.

Senast var företag skyldiga att rapportera information till denna kommission för perioden april 2023 till februari 2024. Den australiska kommissionen för elektronisk säkerhet bötfällde Telegram och Twitter – senare omdöpt till X – för brister i deras rapportering.

X har redan överklagat sin böter på 610 500 AUD (382 000 USD) en gång, men den sociala medieplattformen förväntas överklaga igen. Telegram planerar också att överklaga böterna som ålagts kanalen.

Sedan den "sensationella" chatboten ChatGPT från det amerikanska företaget OpenAI exploderade i allmänhetens medvetenhet i slutet av 2022 har tillsynsmyndigheter runt om i världen efterlyst effektivare åtgärder för att säkerställa att illvilliga aktörer inte missbrukar AI för att uppvigla till terrorism, begå bedrägerier, skapa falskt pornografiskt innehåll och delta i andra kränkande aktiviteter.

Källa: https://nhandan.vn/google-phan-mem-ai-gemini-bi-lam-dung-de-tao-noi-dung-khung-bo-gia-mao-post863325.html