Chatbot AI menimbulkan risiko kepada kanak-kanak, mendorong peraturan pembangun

Perdana Menteri Jepun Fumio Kishida berkata beliau akan mencadangkan rancangan kepada kumpulan G7 untuk mengawal selia pemaju kecerdasan buatan (AI).

Tujuan peraturan ini adalah untuk mencegah penyebaran maklumat salah dengan meningkatkan kesedaran orang ramai untuk membezakan antara imej dan maklumat yang dihasilkan oleh AI dan maklumat yang tidak dihasilkan oleh algoritma.

Garis panduan yang dicadangkan itu dijangka diserahkan seawal musim gugur ini, pada mesyuarat maya tujuh ekonomi terbesar dunia (G7).

Snap Inc. dituduh gagal menilai dengan secukupnya dan tepat risiko privasi data kepada kanak-kanak apabila melancarkan chatbot AInya.

Laporan itu menyatakan bahawa Jepun bimbang tentang imej dan maklumat kompleks yang dihasilkan oleh AI, yang boleh mengelirukan orang ramai dan mengancam kestabilan ekonomi.

Sementara itu, badan pemerhati data UK telah menyatakan bahawa chatbots AI boleh menimbulkan risiko privasi kepada kanak-kanak, dalam kes ini, chatbot "AI Saya" yang dibangunkan oleh syarikat teknologi Amerika Snapchat.

Pihak berkuasa berkata Snapchat mungkin telah memandang rendah risiko privasi kepada kanak-kanak yang ditimbulkan oleh AI chatbot yang dilancarkan April lalu. Pejabat Pesuruhjaya Maklumat (ICO) menyatakan bahawa jika syarikat A.S. tidak dapat menangani kebimbangan pengawal selia dengan secukupnya, mereka akan mempertimbangkan untuk mengharamkan aplikasi AI di seluruh negara.

"Penemuan awal daripada penyiasatan menunjukkan bahawa Snap tidak menilai dengan secukupnya dan tepat risiko privasi kepada kanak-kanak dan pengguna lain sebelum melancarkan aplikasi AI," kata wakil ICO.

Bagaimanapun, kenyataan badan kawal selia itu tidak bermakna Snapchat, aplikasi pemesejan yang digunakan secara meluas oleh golongan muda di UK, telah melanggar undang-undang perlindungan data.

Snap berkata ia sedang menyemak pengumuman ICO dan komited untuk melindungi privasi pengguna. "AI kami telah menjalani proses semakan privasi dan undang-undang yang ketat sebelum didedahkan kepada umum," kata syarikat teknologi Amerika itu. "Kami akan terus bekerja secara konstruktif dengan ICO untuk menangani kebimbangan mengenai proses penilaian risiko kami."

ICO sedang menyiasat cara "AI Saya" mengendalikan data peribadi kira-kira 21 juta pengguna Snapchat di UK, termasuk kanak-kanak berumur 13-17 tahun.

Aplikasi ini, yang dibangunkan oleh Snapchat, dikuasakan oleh OpenAI's ChatGPT – contoh AI generatif yang paling terkenal yang ingin diuruskan oleh pembuat dasar di seluruh dunia di tengah-tengah kebimbangan privasi dan keselamatan.

Rangkaian media sosial, termasuk Snapchat, memerlukan pengguna berumur 13 tahun atau lebih, tetapi mereka tidak selalu berjaya menghalang kanak-kanak bawah umur daripada menggunakan platform mereka.

Sebelum ini, pada Ogos 2023, Reuters melaporkan bahawa pengawal selia sedang mengumpulkan maklumat untuk menentukan sama ada apl pemesejan itu berkesan mengalih keluar pengguna bawah umur daripada platformnya.

(Menurut Bloomberg, Reuters)

Meta menggunakan data pengguna Facebook dan Instagram untuk melatih chatbot AInya.

Meta mengatakan ia menggunakan siaran Facebook dan Instagram yang dikongsi secara terbuka oleh pengguna untuk melatih pembantu maya kecerdasan buatan (AI) baharunya, tetapi tidak termasuk kandungan yang dikongsi hanya dengan keluarga dan rakan.

Microsoft melancarkan Copilot pembantu maya chatbot AI.

Microsoft Copilot akan tersedia pada Windows 11, Microsoft 365, pelayar Edge dan enjin carian Bing.

Tiga ciri baharu akan datang ke chatbot AI Google, Bard.

Mengesahkan ketepatan jawapan, mengimport data pengguna merentas apl dan menjemput orang lain untuk bersembang dengan bot sembang ialah beberapa ciri baharu yang datang ke Google Bard.

Sumber