Google: Software-ul de inteligență artificială Gemini este utilizat în mod abuziv pentru a crea conținut terorist fals.

Într-o declarație trimisă autorităților australiene, Google a declarat că, în ultimul an, a primit 258 de reclamații la nivel global cu privire la utilizarea software-ului său de inteligență artificială (IA), Gemini, pentru a crea conținut fals cu caracter terorist sau extremist violent; și 86 de rapoarte de la utilizatori care avertizează că Gemini este utilizat în mod abuziv pentru a produce conținut care abuzează copiii.

Comisia Australiană pentru Siguranță Electronică (ESSC) a evaluat că raportul Google oferă prima perspectivă la nivel mondial asupra modului în care utilizatorii pot exploata tehnologia pentru a crea conținut rău intenționat și ilegal.

Comisarul Julie Inman Grant din cadrul Comisiei pentru Securitate Cibernetică a declarat că acest lucru subliniază importanța ca firmele care dezvoltă produse de inteligență artificială să construiască și să testeze eficacitatea măsurilor de siguranță pentru a preveni producerea de conținut fals și dăunător.

Google a folosit o funcție de potrivire – un sistem automat care potrivește imaginile nou încărcate cu imagini cunoscute – pentru a identifica și elimina conținutul cu abuzuri asupra copiilor creat de Gemini. Cu toate acestea, Comisia Australiană pentru Siguranță Electronică a declarat că Google nu a folosit același sistem pentru a elimina conținutul terorist sau extremist violent creat de Gemini.

Conform legislației australiene actuale, companiile de tehnologie trebuie să furnizeze periodic Comisiei pentru Securitate Electronică informații despre eforturile lor de reducere a riscurilor, altfel riscând sancțiuni.

Cel mai recent, companiile au fost obligate să raporteze informații către această comisie pentru perioada aprilie 2023 - februarie 2024. Comisia australiană pentru siguranța electronică a amendat Telegram și Twitter – redenumite ulterior X – pentru deficiențe în raportarea lor.

X a făcut deja apel o dată împotriva amenda de 610.500 AUD (382.000 USD), dar se așteaptă ca platforma de socializare să facă apel din nou. Telegram intenționează, de asemenea, să facă apel împotriva amenda impusă canalului.

De când „senzaționalul” chatbot ChatGPT de la compania americană OpenAI a explodat în atenția publicului la sfârșitul anului 2022, agențiile de reglementare din întreaga lume au solicitat măsuri mai eficiente pentru a se asigura că actorii rău intenționați nu utilizează în mod abuziv inteligența artificială pentru a incita la terorism, a comite fraude, a crea conținut pornografic fals și a se angaja în alte activități abuzive.

Sursă: https://nhandan.vn/google-phan-mem-ai-gemini-bi-lam-dung-de-tao-noi-dung-khung-bo-gia-mao-post863325.html