Mii de rapoarte despre conținut de abuz asupra copiilor generat de inteligența artificială

În ultimele luni, experții și cercetătorii în siguranța copiilor au avertizat că inteligența artificială creativă ar putea exacerba abuzurile online.

CEO-ul Meta, Mark Zuckerberg, vorbește la o audiere a Comisiei Judiciare a Senatului SUA pe 31 ianuarie 2024, în fața unei mulțimi de participanți care purtau imagini generate de inteligență artificială. Foto: Reuters

NCMEC nu a publicat încă numărul total de raportări privind conținutul abuziv asupra copiilor din toate sursele primite în 2023. Însă, în 2022, a primit raportări despre aproximativ 88,3 milioane de fișiere despre această problemă.

„Primim rapoarte de la companiile inovatoare de inteligență artificială, de la platforme (online) și de la membri ai publicului”, a declarat John Shehan, vicepreședinte al NCMEC.

Directorii generali ai Meta, X, TikTok, Snap și Discord au depus mărturie miercuri (31 ianuarie) la o audiere în Senatul SUA privind siguranța copiilor pe platformele online. Legislatorii americani au întrebat companiile de socializare despre eforturile lor de a proteja copiii de „prădătorii online”.

Inteligența artificială generativă ar putea fi folosită de răufăcători pentru a face rău în mod repetat copiilor din viața reală prin crearea de imagini false cu aceștia, au declarat cercetătorii de la Observatorul de Internet Stanford într-un raport din iunie anul trecut.

Fallon McNulty, directorul CyberTipline al NCMEC, care preia rapoarte despre exploatarea online a copiilor, a declarat că conținutul generat de inteligența artificială devine „din ce în ce mai fotorealist”, ceea ce face dificilă determinarea dacă victimele sunt persoane reale.

McNulty a declarat că OpenAI, compania care a creat ChatGPT, a instituit un proces de trimitere a rapoartelor către NCMEC, iar organizația este în discuții cu alte companii de inteligență artificială.

Hoang Hai (conform Reuters, FT)

Sursă: https://www.congluan.vn/my-hang-nghin-bao-cao-ve-noi-dung-lam-dung-tre-em-do-ai-tao-ra-post283237.html