인공지능: 속삭임 도구의 어두운 면

청각 장애인을 위한 자막을 만드는 데 위스퍼를 사용하는 것 역시 심각한 문제입니다. 수백만 개의 단어가 생성되면서 숨겨진 거짓 정보를 감지할 방법이 없기 때문입니다.

일러스트 사진. (출처: Voicegain)

인공지능(AI)이 일상생활에 없어서는 안 될 부분이 되어가는 시대에, OpenAI가 개발한 Whisper라는 도구는 거의 "사람과 같은 정확도"로 자동으로 메모를 작성할 수 있는 기능 덕분에 큰 주목을 받고 있습니다.

그러나 찬사 이면에는 Whisper가 심각한 결함으로 인해 엄청난 비난을 받고 있습니다. 즉, 아무도 작성한 적이 없는 텍스트나 진술을 자동으로 생성하여 정보를 조작할 수 있는 기능입니다.

소프트웨어 엔지니어와 연구자들에 따르면, 허구적인 세부 사항은 혼란을 야기할 뿐만 아니라 인종 차별적 발언, 폭력적인 언어, 비현실적인 의학적 치료법을 포함할 수도 있습니다.

OpenAI는 이 도구를 "고위험 지역"에서 사용해서는 안 된다고 경고했지만, 많은 의료 시설에서는 여전히 의사와 환자의 상담을 기록하기 위해 Whisper를 적극적으로 도입하고 있습니다.

실제로 최근 연구에 따르면 공개 회의 조사에서 녹음 파일의 최대 80%에 이러한 허구적인 내용이 포함되어 있는 것으로 나타났습니다. 한 머신러닝 엔지니어는 또한 100시간 이상의 위스퍼 녹취록을 분석한 결과, 그중 약 50%에 심각한 오류가 포함되어 있다고 지적하며, 이는 점점 더 많이 사용되고 있는 위스퍼 기술의 신뢰성에 대한 우려를 불러일으켰습니다.

전문가들은 특히 의료 분야에서 실수는 "정말 심각한 결과"로 이어질 수 있다고 경고합니다.

백악관 과학 기술정책실 전 국장인 알론드라 넬슨은 누구도 잘못된 진단을 원하지 않는다고 강조하며, 이 기술을 적용하는 데 더 높은 기준을 요구했습니다.

청각 장애인을 위한 자막을 만드는 데 위스퍼를 사용하는 것 역시 심각한 문제입니다. 수백만 개의 단어가 생성되면서 숨겨진 거짓 정보를 감지할 방법이 없기 때문입니다.

허구적 텍스트의 증가로 인해 많은 전문가, 활동가, 전 OpenAI 직원들은 연방 정부 에 AI 규제를 고려할 것을 촉구했습니다.

샌프란시스코의 연구 엔지니어인 윌리엄 손더스는 OpenAI가 이 문제를 처리하는 것을 우선시한다면 이 문제는 완전히 해결될 수 있다고 믿습니다.

OpenAI는 허구적 세부 사항을 최소화하기 위해 끊임없이 노력하고 있으며 연구 커뮤니티의 피드백을 감사히 여긴다고 밝혔습니다.

하지만 많은 엔지니어들은 Whisper만큼 허구적인 수준의 기능을 갖춘 AI 노트 작성 도구를 본 적이 없다고 여전히 주장합니다.

(베트남+)

출처: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp