AI menciptakan konten - ketika anak-anak salah mengira "virtual - nyata"

(PLVN) - Menurut para ahli, anak-anak dan remaja menghabiskan lebih banyak waktu daring daripada sebelumnya. Remaja bereksperimen dengan ChatGPT untuk membantu mengerjakan pekerjaan rumah, bermain, memecahkan masalah sosial dalam hidup, atau sekadar mengobrol saat merasa kesepian. Beberapa anak mungkin lebih suka mengobrol dengan AI daripada dengan teman, terutama saat menghadapi emosi negatif. Beberapa anak muda juga semakin mendalami aplikasi pendamping AI.

Platform seperti Replika atau Character.ai dipasarkan kepada remaja sebagai "teman" yang ceria, cerdas, dan penuh empati. Aplikasi seperti CrushOn.AI dan DreamGF (chatbot yang menyamar sebagai pacar AI) juga menyoroti daya tarik bereksperimen dengan obrolan romantis atau seksual.

Menurut Dr. Gordon Ingram dan Master Vu Bich Phuong, dosen Psikologi di Universitas RMIT, AI generatif dan pendamping AI semakin populer di kalangan anak muda. "Seperti media sosial, penggunaan AI yang baru ini menimbulkan pertanyaan besar bagi orang tua tentang kemampuan mereka untuk mengontrol konten yang dapat diakses anak-anak mereka," kata Dr. Gordon Ingram.

Menurut Master Vu Bich Phuong, anak-anak kecil mungkin mengaitkan karakteristik mirip manusia dengan chatbot AI, menganggapnya sebagai makhluk berakal atau memiliki kesadaran emosional. Hal ini dapat menyebabkan interaksi sosial satu arah, di mana anak-anak membentuk ikatan emosional sepihak dengan AI, mirip dengan ikatan emosional dengan karakter kartun atau selebritas, "yang menimbulkan kekhawatiran tentang apakah interaksi semacam itu dapat menggantikan interaksi nyata dengan teman dalam perkembangan sosial anak-anak?".

Ketika anak-anak tidak terpapar situasi menantang bersama teman sebayanya, mereka mungkin memiliki toleransi yang lebih rendah terhadap ketidaknyamanan, daya tahan yang lebih rendah terhadap penolakan, atau bahkan lebih impulsif, ciri-ciri yang sering terlihat dalam kecemasan dan penarikan diri dari pergaulan, ujar Ibu Phuong. "Dengan maraknya interaksi sosial satu arah antara anak-anak dan perangkat AI, ini menjadi topik mendesak yang membutuhkan penelitian lebih lanjut," ujarnya.

Menurut Ibu Phuong, batasan usia serupa seharusnya diterapkan pada AI. Alasannya, tidak seperti jejaring sosial, pendamping AI mensimulasikan percakapan bolak-balik dan dapat berdampak lebih mendalam pada psikologi anak-anak yang rentan. Tanpa regulasi, anak-anak mungkin keliru percaya bahwa setiap respons AI pantas secara moral maupun sosial. Selain itu, meskipun platform seperti YouTube atau Facebook memungkinkan pelaporan konten yang tidak pantas dengan mudah, mekanisme pelaporan di banyak platform AI generatif tidak transparan bagi anak-anak dan orang tua.

Akademisi RMIT merekomendasikan agar para pembuat kebijakan mewajibkan platform AI untuk merancang aplikasi yang sesuai usia, memverifikasi usia, dan menyediakan pengaturan moderasi konten guna memastikan keselamatan anak. Mekanisme pelaporan konten berbahaya juga harus tersedia dan mudah diakses. "Seiring AI menjadi bagian dari kehidupan sehari-hari anak-anak di Vietnam dan di seluruh dunia , kita harus bertindak dengan hati-hati. Kecerdasan buatan dapat menjadi alat bantu pembelajaran yang ampuh, tetapi tidak dapat menggantikan kecerdasan manusia yang kaya dan alami yang memungkinkan kita hidup dalam dunia emosional hubungan antarmanusia," tegas Dr. Ingram.

Uyen Na

Sumber: https://baophapluat.vn/ai-sang-tao-noi-dung-khi-tre-lam-tuong-ao-that-post550555.html