부모가 온라인에 사진을 게시하면 아이들이 AI 피해자가 될 위험이 있다

특히 소셜 네트워크와 인터넷 전반에서 정보가 폭발적으로 늘어나고 서로 연결되면서 많은 사람이 사이버 공간에서 개인적인 삶의 모든 감정과 사건을 공유하는 습관을 갖게 되었는데, 그럴 경우 위험이 따를 것이라는 점을 예상하지 못한 것입니다. 성인들이 온라인에 자신의 사진과 영상을 게시하는 것뿐만 아니라, 많은 성인들이 허가 없이 어린이의 얼굴이나 목소리가 담긴 콘텐츠를 게시하기도 합니다. 이러한 이미지와 비디오가 온라인에 공개되면, 이에 접근할 수 있는 사람은 누구든지 아무런 제한 없이 사용할 수 있습니다.

작년 7월, 독일의 네트워크 운영사인 도이체텔레콤은 온라인에 게시된 아동 이미지를 AI(인공지능)를 다양한 목적으로 사용하여 어떻게 악용할 수 있는지를 보여주는 가상 광고를 공개했습니다. '엘라의 메시지 '라는 제목의 이 영상은 AI와 딥페이크 기술을 활용해 엘라의 부모가 온라인에 게시한 어린 시절의 사진과 영상을 바탕으로 성인 버전의 엘라를 만들어냈습니다.

도이체텔레콤 경고 영상 속 9세 엘라의 소셜 미디어 이미지를 활용해 AI가 만든 '어른 엘라'

"AI 엘라"는 실제 사람처럼 움직이고 말할 수 있어, 딸의 모습이 영화관 대형 스크린에 나오자 부모님은 큰 충격을 받았습니다. 그녀는 심지어 사람처럼 울고, 자신을 표현할 수도 있습니다.

"당신에게는 이 사진들이 추억일 뿐이라는 걸 알아요. 하지만 다른 이들에게는 데이터일 뿐이죠. 그리고 저에게는 제 신원이 도용당하고, 제가 하지도 않은 일로 감옥에 갈 수도 있는 끔찍한 미래의 시작일 수도 있어요... 당신이 온라인에 공유하는 것들은 제 남은 인생 동안 저를 따라다닐 디지털 이정표예요." AI 캐릭터 엘라가 말했습니다.

AI는 단 한 장의 사진을 공유함으로써 9살 소녀의 성인 버전을 만들어낼 수 있다. 딥페이크는 영상에서 음성을 추출해 성인의 음성으로 바꾸는 기술입니다. 이미지와 비디오는 완전히 위조될 수 있으며, 개인 식별 데이터는 불법적인 목적으로 도용될 수 있는 귀중한 정보가 됩니다. 거기서 멈추지 않고, 나쁜 놈들은 온라인에서 수집한 이미지를 복사해서 붙여넣고, AI를 이용해 아동 포르노나 진실을 조롱, 명예훼손, 왜곡하는 일련의 사진을 만들 수도 있습니다.

도이체 텔레콤의 커뮤니케이션 및 마케팅 책임자인 크리스티안 뢰페르트는 "최근 연구에 따르면 평균 5세 아동이 동의 없이 온라인에 게시한 사진이 약 1,500장인 것으로 나타났으며, 이는 아동이 가장 신뢰하는 사람, 즉 어머니나 아버지가 게시한 것으로 나타났습니다."라고 말했습니다.

뉴요커 에 따르면 전문가들은 2030년까지 신원 도용의 3분의 2가 소셜 미디어에서의 무분별한 사진 공유로 인해 발생할 것으로 추정합니다. 도이체 텔레콤은 또한 부모의 75% 이상이 현재 소셜 네트워크에서 자녀에 대한 데이터를 공유하고 있다는 보고서를 인용했습니다. 한편, 부모 10명 중 8명은 실제로 만난 적이 없는 자녀의 소셜 미디어 계정을 팔로우하고 있는 것으로 나타났습니다.

최근 들어 AI 도구의 개발이 점점 더 "대중화"되어 모바일 기기의 다양한 애플리케이션을 통해 일반 사용자에게 다가가고 있습니다. 많은 사람들이 이러한 프로그램에 주의를 기울이는 대신, 부주의하게 개인 사진이나 가족 사진을 소셜 네트워크에 게시합니다. 이러한 행동은 의도치 않게 AI에게 사람에 대한 얼굴 구조부터 주변 환경까지 학습할 수 있는 막대한 양의 무료 데이터를 제공하게 됩니다.

많은 보안 전문가들은 새로운 트렌드가 등장하더라도 어떤 상황에서든 사용자는 여전히 신중해야 하며 소셜 네트워크에서 몇 분간의 즐거움을 위해 개인 데이터, 특히 자신과 사랑하는 사람의 얼굴 데이터를 거래해서는 안 된다고 경고합니다.

소스 링크: https://thanhnien.vn/rui-ro-tre-em-thanh-nan-nhan-cua-ai-khi-cha-me-dang-hinh-len-mang-185230911090311966.htm