아부다비(UAE)에 있는 모하메드 빈 자이드 인공지능 대학(MBZUAI)의 연구진은 인간의 필체를 모방하고 자신의 필체와 유사한 텍스트를 생성할 수 있는 AI 시스템을 개발했습니다.

HWT라 불리는 이 시스템은 텍스트, 단어, 이미지를 포함한 시스템 내 데이터의 맥락과 의미를 이해하는 기능을 갖춘 컴퓨터 비전 변환기를 기반으로 개발되었습니다.

연구팀의 일원인 파하드 칸은 "AI가 누군가의 필체를 모방하려면 전체 텍스트를 살펴봐야 하고, 그런 다음에야 작성자가 문자, 글자, 단어 사이의 공백을 어떻게 연결하는지 이해하기 시작합니다."라고 말했습니다.

hwt 3 8654 1705569788.png
HWT가 GAN 기술이 적용된 펜과 데이비스의 프로토타입(맨 왼쪽)을 비교하고 있다. 사진: MBZUAI

이 연구는 펜 없이도 부상을 입은 사람들이 글을 쓸 수 있도록 돕는 도구에 대한 특허를 미국 특허상표청으로부터 받았습니다.

컴퓨터 비전 조교수이자 발명가 중 한 명인 라오 무하마드 안워는 블룸버그와의 인터뷰에서 이 시스템을 사용하면 의사의 악명 높게 어려운 필적을 읽고 심지어 개인화된 광고를 만드는 데도 사용할 수 있다고 말했습니다.

이 도구는 아직 널리 사용 가능하지 않으며 현재 영어와 일부 프랑스어 텍스트를 생성할 수 있지만, 아랍어로 손으로 쓴 텍스트를 생성하는 것은 더 어려운 작업으로 판명되고 있습니다.

발명자들은 이 도구가 사람의 필체를 위조하는 데 "오용"될 수 있기 때문에 "매우 조심"한다고 밝혔습니다.

Anwer는 보도자료를 통해 "필기는 개인의 정체성을 나타내므로, 이를 구현하기 전에 신중하게 고려하고 있습니다."라고 밝혔습니다.

MBZUAI의 컴퓨터 비전 조교수인 히샴 촐라칼은 블룸버그와의 인터뷰에서 "스푸핑에 맞서기 위한 대중의 인식을 높이고 도구를 개발해야 합니다."라고 말했습니다. "마치 바이러스에 대한 백신 프로그램을 개발하는 것과 같습니다."

AI는 다양한 방식으로 남용되고 있습니다. 예를 들어, AI 이미지 생성 도구인 Midjourney와 Stable Diffusion이 유명인의 딥페이크 이미지를 만드는 데 사용되고 있습니다.

한편, AI가 사람의 목소리를 흉내 내는 것 또한 우려되는 부분입니다. 지난 9월, 배우 스티븐 프라이는 AI 시스템이 다큐멘터리를 불법 더빙하기 위해 7권짜리 해리포터 시리즈에서 자신의 목소리를 모방했다고 밝혔습니다.

(BI에 따르면)

인공지능(AI)으로 인한 선거 방해가 2024년 가장 큰 위험으로 꼽혔다 . 세계 경제 포럼(WEF)의 최신 보고서에 따르면, 인공지능(AI)이 만들어내는 허위 정보가 2024년 가장 큰 위험 목록에서 가장 높은 순위를 차지했다.