Google: AI-software van Gemini wordt misbruikt om nep-terroristische content te creëren.

In een verklaring aan de Australische autoriteiten meldde Google dat het het afgelopen jaar wereldwijd 258 klachten heeft ontvangen over het gebruik van zijn AI-software Gemini voor het creëren van nep-terroristische of gewelddadige extremistische content, en 86 meldingen van gebruikers dat Gemini wordt misbruikt voor het produceren van kinderpornografisch materiaal.

De Australische Commissie voor Elektronische Veiligheid (ESSC) heeft geconcludeerd dat het rapport van Google als eerste ter wereld inzicht biedt in hoe gebruikers technologie kunnen misbruiken om schadelijke en illegale inhoud te creëren.

Commissaris Julie Inman Grant van de Cybersecurity Commission verklaarde dat dit het belang onderstreept van bedrijven die AI-producten ontwikkelen en de effectiviteit van beveiligingsmaatregelen testen om de productie van schadelijke, valse inhoud te voorkomen.

Google gebruikte een vergelijkingsfunctie – een geautomatiseerd systeem dat nieuw geüploade afbeeldingen vergelijkt met bekende afbeeldingen – om kinderpornografisch materiaal van Gemini te identificeren en te verwijderen. De Australische Commissie voor Elektronische Veiligheid stelde echter dat Google hetzelfde systeem niet gebruikte om terroristisch of gewelddadig extremistisch materiaal van Gemini te verwijderen.

Volgens de huidige Australische wetgeving moeten technologiebedrijven periodiek informatie verstrekken aan de Electronic Security Commission over hun inspanningen om de schadelijke gevolgen van technologie te beperken, anders riskeren ze sancties.

Recentelijk moesten bedrijven informatie aan deze commissie rapporteren over de periode van april 2023 tot februari 2024. De Australische Commissie voor Elektronische Veiligheid legde Telegram en Twitter – later omgedoopt tot X – een boete op vanwege tekortkomingen in hun rapportage.

X heeft al een keer beroep aangetekend tegen de boete van 610.500 Australische dollar (382.000 Amerikaanse dollar), maar het socialemediaplatform zal naar verwachting opnieuw in beroep gaan. Telegram is ook van plan om in beroep te gaan tegen de boete die aan het kanaal is opgelegd.

Sinds de "sensationele" chatbot ChatGPT van het Amerikaanse bedrijf OpenAI eind 2022 plotseling veel aandacht kreeg, hebben regelgevende instanties wereldwijd opgeroepen tot effectievere maatregelen om te voorkomen dat kwaadwillenden AI misbruiken voor het aanzetten tot terrorisme, het plegen van fraude, het creëren van nep-pornografisch materiaal en andere vormen van misbruik.

Bron: https://nhandan.vn/google-phan-mem-ai-gemini-bi-lam-dung-de-tao-noi-dung-khung-bo-gia-mao-post863325.html