Chatbot AI menimbulkan risiko bagi anak-anak, sehingga memicu seruan untuk regulasi yang mengatur para pengembangnya.

Perdana Menteri Jepang Fumio Kishida mengatakan ia akan mengusulkan rencana kepada kelompok G7 untuk mengatur pengembang kecerdasan buatan (AI).

Tujuan dari aturan-aturan ini adalah untuk mencegah penyebaran informasi yang salah dengan meningkatkan kesadaran publik untuk membedakan antara gambar dan informasi yang dihasilkan oleh AI dan informasi yang tidak dihasilkan oleh algoritma.

Pedoman yang diusulkan diharapkan akan diajukan paling cepat pada musim gugur ini, dalam pertemuan virtual tujuh ekonomi terbesar dunia (G7).

Snap Inc. dituduh gagal menilai risiko privasi data anak secara memadai dan akurat ketika meluncurkan chatbot AI-nya.

Laporan tersebut menyatakan bahwa Jepang prihatin dengan citra dan informasi kompleks yang dihasilkan oleh AI, yang dapat menyesatkan publik dan mengancam stabilitas ekonomi.

Sementara itu, badan pengawas data Inggris menyatakan bahwa chatbot AI dapat menimbulkan risiko privasi bagi anak-anak, dalam hal ini, chatbot "My AI" yang dikembangkan oleh perusahaan teknologi Amerika, Snapchat.

Pihak berwenang mengatakan Snapchat mungkin telah meremehkan risiko privasi terhadap anak-anak yang ditimbulkan oleh chatbot AI yang diluncurkannya April lalu. Kantor Komisioner Informasi (ICO) menyatakan bahwa jika perusahaan AS tersebut tidak dapat mengatasi kekhawatiran regulator secara memadai, mereka akan mempertimbangkan untuk melarang aplikasi AI tersebut secara nasional.

"Temuan awal dari penyelidikan menunjukkan bahwa Snap tidak secara memadai dan akurat menilai risiko privasi terhadap anak-anak dan pengguna lain sebelum meluncurkan aplikasi AI," kata seorang perwakilan ICO.

Namun, pernyataan badan pengatur tersebut tidak berarti bahwa Snapchat, aplikasi perpesanan yang banyak digunakan oleh anak muda di Inggris, telah melanggar undang-undang perlindungan data.

Snap mengatakan pihaknya sedang meninjau pengumuman ICO dan berkomitmen untuk melindungi privasi pengguna. “AI kami telah menjalani proses peninjauan privasi dan hukum yang ketat sebelum dipublikasikan,” kata perusahaan teknologi Amerika itu. “Kami akan terus bekerja secara konstruktif dengan ICO untuk mengatasi kekhawatiran tentang proses penilaian risiko kami.”

ICO sedang menyelidiki bagaimana "My AI" menangani data pribadi sekitar 21 juta pengguna Snapchat di Inggris, termasuk anak-anak berusia 13-17 tahun.

Aplikasi ini, yang dikembangkan oleh Snapchat, didukung oleh ChatGPT dari OpenAI – contoh AI generatif yang paling terkenal yang sedang diupayakan oleh para pembuat kebijakan di seluruh dunia untuk dikelola di tengah kekhawatiran tentang privasi dan keamanan.

Jaringan media sosial, termasuk Snapchat, mewajibkan penggunanya berusia 13 tahun atau lebih, tetapi mereka tidak selalu berhasil mencegah anak di bawah umur menggunakan platform mereka.

Sebelumnya, pada Agustus 2023, Reuters melaporkan bahwa regulator sedang mengumpulkan informasi untuk menentukan apakah aplikasi perpesanan tersebut secara efektif menghapus pengguna di bawah umur dari platformnya.

(Menurut Bloomberg dan Reuters)

Meta menggunakan data pengguna Facebook dan Instagram untuk melatih chatbot AI-nya.

Meta menyatakan bahwa mereka menggunakan unggahan Facebook dan Instagram yang dibagikan secara publik oleh pengguna untuk melatih asisten virtual kecerdasan buatan (AI) baru mereka, tetapi tidak termasuk konten yang hanya dibagikan dengan keluarga dan teman.

Microsoft meluncurkan asisten virtual chatbot AI bernama Copilot.

Microsoft Copilot akan tersedia di Windows 11, Microsoft 365, peramban Edge, dan mesin pencari Bing.

Tiga fitur baru akan hadir di chatbot AI Google, Bard.

Memverifikasi keakuratan jawaban, mengimpor data pengguna antar aplikasi, dan mengundang orang lain untuk mengobrol dengan chatbot adalah beberapa fitur baru yang akan hadir di Google Bard.

Sumber