Google: Oprogramowanie Gemini AI jest wykorzystywane do tworzenia fałszywych treści o charakterze terrorystycznym.

W oświadczeniu wysłanym do władz australijskich firma Google poinformowała, że ​​w ciągu ostatniego roku otrzymała 258 skarg z całego świata dotyczących wykorzystywania oprogramowania opartego na sztucznej inteligencji (AI) Gemini do tworzenia fałszywych treści o charakterze terrorystycznym lub ekstremistycznym. Ponadto 86 zgłoszeń użytkowników ostrzega, że ​​oprogramowanie Gemini jest wykorzystywane do produkcji treści o charakterze pedofilskim.

Australijska Komisja ds. Bezpieczeństwa Elektronicznego (ESSC) oceniła, że ​​raport Google’a jako pierwszy na świecie dostarcza informacji na temat tego, w jaki sposób użytkownicy mogą wykorzystywać technologię do tworzenia złośliwych i nielegalnych treści.

Komisarz Julie Inman Grant z Komisji Cyberbezpieczeństwa stwierdziła, że ​​podkreśla to wagę tworzenia przez firmy opracowujące produkty oparte na sztucznej inteligencji i testowania skuteczności zabezpieczeń w celu zapobiegania produkcji szkodliwych, fałszywych treści.

Google wykorzystało funkcję dopasowywania – zautomatyzowany system, który dopasowuje nowo przesłane obrazy do znanych obrazów – do identyfikowania i usuwania treści o charakterze znęcania się nad dziećmi tworzonych przez Gemini. Australijska Komisja Bezpieczeństwa Elektronicznego stwierdziła jednak, że Google nie korzystało z tego samego systemu do usuwania treści terrorystycznych lub o charakterze brutalnego ekstremizmu tworzonych przez Gemini.

Zgodnie z obowiązującym obecnie prawem australijskim firmy technologiczne muszą okresowo przekazywać Komisji ds. Bezpieczeństwa Elektronicznego informacje na temat swoich działań na rzecz ograniczania szkód, w przeciwnym razie grożą im kary.

Ostatnio firmy miały obowiązek zgłaszania informacji tej komisji za okres od kwietnia 2023 r. do lutego 2024 r. Australijska Komisja Bezpieczeństwa Elektronicznego nałożyła grzywnę na Telegram i Twittera (później przemianowanego na X) za niedociągnięcia w raportowaniu.

X już raz odwołał się od grzywny w wysokości 610 500 AUD (382 000 USD), ale oczekuje się, że platforma społecznościowa odwoła się ponownie. Telegram również planuje odwołać się od grzywny nałożonej na kanał.

Od czasu, gdy pod koniec 2022 r. opinia publiczna dowiedziała się o „sensacyjnym” chatbocie ChatGPT amerykańskiej firmy OpenAI, agencje regulacyjne na całym świecie apelują o skuteczniejsze środki, które zapewnią, że osoby o złych zamiarach nie będą wykorzystywać sztucznej inteligencji do podżegania do terroryzmu, popełniania oszustw, tworzenia fałszywych treści pornograficznych ani angażowania się w inne nadużycia.

Źródło: https://nhandan.vn/google-phan-mem-ai-gemini-bi-lam-dung-de-tao-noi-dung-khung-bo-gia-mao-post863325.html