OpenAI melancarkan ciri pemantauan kanak-kanak di ChatGPT selepas banyak kontroversi

Selepas banyak kontroversi mengenai keselamatan kecerdasan buatan dengan kanak-kanak di bawah umur, OpenAI secara rasmi menambah alat kawalan kanak-kanak di ChatGPT.

Ciri pemantauan kanak-kanak di ChatGPT juga membantu ibu bapa berasa lebih selamat apabila membenarkan anak mereka menggunakan kecerdasan buatan.

Alat pemantauan kanak-kanak ChatGPT yang akan datang dilihat sebagai perubahan keselamatan daripada OpenAI berikutan tuntutan mahkamah berprofil tinggi. Ciri ini bertujuan untuk mengurangkan risiko kanak-kanak berbual dengan chatbots, sambil turut menimbulkan persoalan tentang tanggungjawab sosial syarikat kecerdasan buatan.

Daripada tuntutan mahkamah yang mengejutkan

Ogos lalu, keluarga Adam Raine, seorang budak lelaki California berusia 16 tahun, memfailkan saman terhadap OpenAI, mendakwa bahawa ChatGPT memberikan arahan mencederakan diri sendiri dan penderaan lisan yang menyebabkan anak lelaki mereka berasa putus asa sebelum dia membunuh diri.

Tuntutan itu dengan cepat menimbulkan kekecohan dan membuka perdebatan tentang keselamatan kecerdasan buatan untuk pengguna muda.

Ini menimbulkan persoalan penting: patutkah kanak-kanak di bawah umur menggunakan ChatGPT tanpa pengawasan, dan bagaimanakah tanggungjawab pembangun AI harus ditentukan apabila produk itu secara langsung mempengaruhi psikologi pengguna muda?

Sebagai tindak balas kepada tekanan itu, OpenAI mengumumkan penambahan kawalan ibu bapa, langkah pertama ke arah menunjukkan komitmennya untuk melindungi kanak-kanak dan memberi isyarat bahawa syarikat itu bersedia mengutamakan keselamatan dalam fasa seterusnya pembangunan ChatGPT.

Ciri pemantauan pada ChatGPT

Menurut pengumuman rasmi, OpenAI akan melancarkan alat yang membolehkan ibu bapa memautkan akaun mereka ke akaun ChatGPT anak-anak mereka. Setelah diaktifkan, ibu bapa boleh mengurus tetapan penting seperti mematikan storan sembang, mengawal sejarah penggunaan dan melaraskan tahap interaksi yang bersesuaian dengan umur.

Kemuncak inovasi ini ialah sistem amaran. ChatGPT akan dilatih untuk mengenali apabila pengguna muda menunjukkan tanda-tanda krisis psikologi, seperti tekanan, kemurungan atau kecederaan diri. Dalam kes tersebut, ibu bapa akan menerima pemberitahuan untuk campur tangan dengan segera. OpenAI menegaskan bahawa matlamatnya bukan untuk memantau keseluruhan perbualan, tetapi untuk memberi tumpuan kepada situasi kecemasan untuk melindungi keselamatan kanak-kanak.

Selain itu, apabila kandungan sensitif dikesan, ChatGPT akan beralih kepada beroperasi dengan model penaakulan mendalam, yang direka bentuk untuk memberikan respons yang lebih bernas dan menyokong. Secara selari, syarikat itu juga bekerjasama dengan pakar perubatan dan lembaga penasihat antarabangsa untuk terus memperhalusi perlindungannya pada masa akan datang.

Cabaran yang ditimbulkan

Walaupun OpenAI telah menekankan bahawa ciri baharu itu direka untuk memberi manfaat kepada keluarga, respons antarabangsa telah bercampur-campur. Alat ini dijangka menambah lapisan perlindungan untuk ibu bapa apabila anak-anak mereka berinteraksi dengan kecerdasan buatan, tetapi ia juga telah menimbulkan kebimbangan yang telah lama wujud, daripada had penggunaan kepada privasi data kanak-kanak.

Malah, kebimbangan mengenai privasi data kanak-kanak telah dibangkitkan oleh pakar selama bertahun-tahun. Amaran ini menyerlahkan bahawa menyimpan dan menganalisis sejarah sembang kanak-kanak, tanpa perlindungan yang ketat, boleh meningkatkan risiko mendedahkan maklumat sensitif. Kemunculan alat pemantauan di ChatGPT telah membawa isu itu kembali menjadi perhatian.

Perkara lain yang dibincangkan ialah ambang amaran sistem. OpenAI berkata ChatGPT akan mengesan tanda-tanda tekanan yang teruk dan menghantar amaran kepada ibu bapa.

Walau bagaimanapun, pembelajaran mesin sentiasa membawa risiko berat sebelah. Jika sistem memberikan penggera palsu, ibu bapa mungkin keliru. Sebaliknya, jika ia terlepas isyarat, kanak-kanak mungkin menghadapi risiko yang keluarga tidak dapat campur tangan dalam masa.

Organisasi perlindungan kanak-kanak antarabangsa juga telah memerhatikan langkah OpenAI dengan teliti, mengakui alat kawalan ibu bapa sebagai petanda positif, tetapi memberi amaran bahawa kekurangan pengesahan umur yang ketat dan perlindungan lalai bermakna kanak-kanak masih boleh menghadapi risiko, walaupun dengan pengawasan ibu bapa.

Perbahasan ini menunjukkan bahawa pembangunan kecerdasan buatan bukan sahaja cerita teknologi, tetapi juga berkait rapat dengan tanggungjawab sosial dan keselamatan generasi muda.

THANH KHAM

Sumber: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm