AI 남용의 어두운 면

2024년 지압틴(Giap Thin) 음력 설에는 AI 기술을 활용한 수많은 뗏 인사 애플리케이션이 온라인에 폭발적으로 증가할 것으로 예상됩니다. Microsoft Copilot, Google Bard, OpenAI의 ChatGPT와 같은 "기술 대기업"의 애플리케이션 외에도 베트남어 애플리케이션도 많이 있습니다.

텍스트로 된 인사말뿐만 아니라, 사용자는 AI에게 사진과 영상을 넣어 설날 카드를 만들어 달라고 요청할 수도 있습니다.

AI가 생성한 용의 해를 위한 설날 인사말 카드.

하지만 많은 사람들은 새해 소원을 "로봇"이 직접 썼다는 사실을 알면 "우울"해집니다. 보내는 사람의 진심 어린 감정이 담겨 있지 않기 때문입니다.

오랫동안 사람들은 삶의 모든 영역에서 AI의 남용에 대해 경고해 왔습니다. 이러한 남용은 사람들이 두뇌를 사용하는 것을 게을리하게 만듭니다. 이전에는 기계에 의한 자동화 혁명이 사람들이 육체 노동과 수작업을 줄이는 데 도움이 되었지만, 남용될 경우 사람들을 게으르고 약하게 만들 것입니다. 오늘날 AI 기술은 인간의 정신 활동에 영향을 미치고 있습니다. AI가 가져오는 이점은 부인할 수 없지만, AI를 적절한 시기에 적절한 장소에 효과적으로 적용하는 방법은 중요합니다. 나쁜 목적이 아니더라도 AI를 남용하는 것은 여전히 ​​사용자에게 유익하지 않습니다.

전문가들은 AI 애플리케이션 폭발적인 성장세를 고려할 때, 올해 설 연휴에는 사용자 이미지를 기반으로 개인 사진 편집 애플리케이션이 더 많이 등장할 것이라고 전망합니다. 재미있지만, 사용자는 신중해야 하며 신뢰할 수 있는 공급업체의 애플리케이션만 사용해야 합니다. "얼굴 변경" 애플리케이션을 악용하면 악의적이거나 심지어 유해한 목적으로 사용자의 "신원 도용"을 당할 수 있습니다.

정보보안부( 정보통신부 )는 대부분의 온라인 얼굴 편집 활동이 개인 얼굴 이미지 제공을 요구하며, 이는 정보 보안에 여러 잠재적 위험을 초래한다고 경고했습니다. 정보보안부 담당자 응우옌 주이 키엠(Nguyen Duy Khiem) 씨는 "대부분의 애플리케이션은 사용자에게 이미지 제공을 요구할 뿐만 아니라 사진 라이브러리, 휴대폰 카메라, 이메일 주소, 전화번호 등에 대한 접근 권한도 요구합니다. 이를 바탕으로 서비스 제공업체는 사용자의 개인 정보를 수집하고 다양한 목적으로 처리할 수 있습니다."라고 말했습니다.

사실, 사용자가 제공한 개인 인물 사진을 이용해 애플리케이션 소유자는 다른 이미지를 만들 수 있으며, 심지어 딥페이크 데이터로 인해 예측할 수 없는 많은 결과가 발생할 수도 있습니다.

출처: https://nld.com.vn/mat-trai-cua-viec-lam-dung-ai-19624010921563478.htm