전문가들은 인공지능이 어린이에게 미치는 위험에 대해 경고합니다.

[광고_1]
인공지능이 어린이에게 미치는 위험을 최소화하기 위해, 어린이의 인공지능 사용을 금지할 필요는 없습니다. 하지만 가장 중요한 것은, 어린이에게 온라인 환경에서 자신을 보호하기 위한 위험에 대한 인식을 제고하도록 교육하는 것입니다 .

딘 티 누 호아(Dinh Thi Nhu Hoa) 씨는 인공지능(AI)을 통합한 애플리케이션이 점점 더 인기를 얻고 있으며, 어린이들에게 상당한 영향을 미치고 있다고 말했습니다. (사진: NVCC)

이는 정보통신부 정보보안 국 베트남 사이버 비상 대응 센터(VNCERT/CC) 검사부장인 딘티누호아 여사와 The World 및 베트남 신문이 인공지능의 영향으로부터 어린이를 보호하기 위한 위험과 해결책에 대해 내린 의견입니다.

아이들이 AI에 의존할 때 많은 위험

최근 인공지능(AI)을 통합한 애플리케이션이 점점 더 인기를 얻고 있습니다. 특히 어린이들은 AI 도구에 취약합니다. 이 문제에 대한 경고가 있나요?

요즘 인공지능(AI)을 통합한 애플리케이션이 점점 더 인기를 얻고 있으며, 많은 사람들이 이를 공유하고 사용하고 있습니다. 대표적인 예로 사진 편집 애플리케이션, 채팅 애플리케이션(챗봇) 등이 있습니다. 하지만 많은 사람들이 AI 도구로 인해 장기적인 피해를 입을 수 있는 주체가 바로 어린이라는 사실을 잊고 있습니다. 모든 연령대의 어린이가 AI 도구에 쉽게 접근할 수 있지만, 이러한 도구는 사용 전에 특별한 약속이 필요하지 않습니다.

요즘 아이들은 AI 도구에 쉽게 접근할 수 있지만, 사용하기 위한 요건은 거의 없습니다. 아이들이 직면하는 위험은 무엇이라고 생각하시나요?

통계에 따르면 12세에서 17세 사이의 아동의 인터넷 이용률은 매우 높아 도시 지역에서는 93%, 농촌 지역에서는 88%를 차지합니다. 특히 스마트폰을 통해 인터넷에 접속하는 아동의 비율은 98%에 달합니다.

제 생각에는 AI가 어린이에게 영향을 미칠 위험이 있습니다. 첫째 , 부적절한 정보에 접근할 위험이 있습니다. ChatGPT와 같은 AI 통합 애플리케이션이 사용자에게 제공하는 정보는 인터넷의 여러 출처에서 수집된 정보입니다. 여기에는 정확한 정보와 부정확한 정보가 모두 포함됩니다. 또한, 이러한 정보는 사용자의 연령에 따라 선별, 평가 또는 필터링되지 않습니다. 따라서 검색 결과에 허위 정보, 부적절한 콘텐츠 또는 폭력적인 콘텐츠가 표시될 수 있습니다.

둘째 , 아동의 개인 정보 유출, 사생활 침해, 개인정보 유출 위험이 있습니다. 아동은 온라인에서 실수로 개인 정보를 공유하고, 사진 편집 앱이나 채팅 앱(챗봇)을 사용할 때 불법적인 데이터 침해의 피해자가 되기 쉽습니다.

셋째 , 위험한 도전에 참여하도록 유도하고 유도합니다. 실제로 미성년 소녀들이 건강 정보와 식단 계획을 위해 ChatGPT를 이용하는 놀라운 사례가 있었습니다. AI는 자세한 계획과 구체적인 조언을 통해 정보를 신속하게 제공할 수 있습니다. 그러나 이 정보는 실제 데이터를 참조하지 않으며 인터넷에서 무작위로 수집된 정보일 뿐입니다.

동시에, 어린 나이부터 챗봇에 노출된 아이들은 인공 지능을 진정한 친구로 착각하고 AI의 조언에 따라 행동하게 되는데, 이러한 조언에는 편향적이거나 부정확하거나 해롭거나 오해의 소지가 있는 내용이 포함될 수 있습니다.

넷째, 아동의 심리, 생리, 행동에 미치는 영향입니다. AI 도구를 통해 사용자는 단 하나의 질문으로 모든 주제에 대한 정보를 찾을 수 있습니다. AI 챗봇 덕분에 수십 개의 웹사이트를 열거나 수많은 글을 읽어 정보를 수집할 필요 없이 정보를 더 쉽게 탐색할 수 있게 되었습니다.

따라서 기술 기계와의 과도한 상호작용은 타인과의 상호작용 감소로 인해 우울증, 불안 또는 사회성 저하로 이어질 수 있습니다. 더욱이, 아이들이 AI에 과도하게 의존하면 학습 능력과 능동적인 업무 수행 능력이 저하됩니다.

아이들이 AI에 지나치게 의존하면 학습 능력과 능동적인 학습 능력이 저하됩니다. (출처: 인터넷)

아이들이 온라인에서 예의 바르고 친절하게 행동하도록 도와주세요

당신은 AI 도구가 어린이에게 미치는 영향을 최소화하기 위한 지속 가능한 해결책이 무엇이라고 생각하십니까?

2022년 유니세프 보고서에 따르면, 어린이의 23%가 온라인에서 광고되는 민감한 이미지나 동영상을 우연히 보게 된다고 답했습니다. 실제로 음란물은 어디에나 존재하기 때문에 음란물 웹사이트를 차단하는 것만으로는 충분하지 않고 효과도 없습니다. 어린이들에게는 온라인 콘텐츠를 걸러내고 유해하고 해로운 정보에 "노출"되지 않도록 도와주는 강력하고 효과적인 도구가 필요합니다.

AI가 어린이에게 미치는 위험을 최소화하기 위해, 어린이의 AI 사용을 금지할 필요는 없습니다. 하지만 가장 중요한 것은 어린이들이 온라인 환경에서 위험을 인식하고 스스로를 보호할 수 있도록 교육하는 것입니다. 제 생각에는 어린이들이 온라인 환경에서 안전하게 지낼 수 있도록 돕는 몇 가지 원칙이 있는데, 바로 4T 원칙, 즉 준수(Compliance), 지능(Intelligence), 주의(Caution), 친절(Kindness)입니다.

첫째, 서비스 제공업체와 학교가 정한 인터넷 이용 규칙을 준수해야 합니다. 13세 미만 어린이를 대상으로 하지 않는 일부 AI 애플리케이션의 커뮤니티 규칙을 준수하는 등 관련 법률을 준수해야 합니다.

둘째, 네트워크 환경에서 개인정보를 제공하는 기술, 소셜 네트워크를 안전하게 이용하는 기술, 안전을 확보하기 위한 비밀번호 관리 등 스마트한 네트워크 환경에 참여하기 위한 지식과 기술을 갖추세요.

셋째, 온라인 친구를 조심하세요. 누군가 당신에게 접근하는 척할 수도 있고, 이상한 링크에 접속할 때, 엄청나게 매력적인 제안에 접할 때, 채팅창을 포함한 온라인 정보를 제공할 때 등 온라인 사기 관련 위험을 최소화하기 위해 주의하세요. 마지막으로, 온라인 환경에서는 예의 바르고 친절하게 행동하세요. 부적절한 내용이나 타인에게 불쾌감을 주는 메시지를 보내거나 답장하지 마세요.

부모는 자녀를 위해 사이버 공간에서 "문지기" 역할을 어떻게 해야 할까요?

부모는 Cyberpurify kid, safe gate family, BKAV safe kid, mobile guard for kids, safe zone 등과 같이 자녀에게 부적절한 정보를 차단하는 데 도움이 되는 몇 가지 기술 도구를 적용할 수 있습니다.

또한, 부모는 자녀의 컴퓨터 및 네트워크 기기 사용에 대한 규칙을 정해야 합니다. 규칙은 연령대별로 다릅니다. 자녀가 소셜 네트워크 플랫폼의 권장 커뮤니티 가이드라인을 준수할 수 있는 나이가 되었을 때만 소셜 네트워크를 사용하도록 허용하세요.

특히 부모는 자녀가 인터넷에서 접속하는 온라인 콘텐츠에 항상 세심한 주의를 기울여야 합니다. 맬웨어 방지 및 바이러스 백신 소프트웨어, 유해 정보 필터링 솔루션, 그리고 자녀가 유해 정보에 접속할 때 이를 모니터링하고 차단하는 제품 등 정보 보안 솔루션을 가족에게 제공하십시오.

감사합니다!

베트남과 다른 ASEAN 국가들은 2019년에 ASEAN에서 모든 형태의 온라인 착취와 학대로부터 아동을 보호하는 선언문을 채택하기로 합의했고, 2021년에는 온라인 괴롭힘을 포함한 ASEAN 내 괴롭힘 근절 선언문을 채택했습니다.

[광고_2]
원천