기술 9/13: 인터넷 형사, AI 남용해 최악의 AI 상 발표

인터넷 형사, AI를 활용해 범죄 해결

FBI는 최근 우익 활동가 찰리 커크 총격 사건과 관련된 "요주의 인물"의 흐릿한 사진 두 장을 공개했습니다. 이 사진들은 X 플랫폼(구 트위터)에 공유되었습니다.

사진이 공개된 직후, 많은 인터넷 사용자들이 AI 도구를 사용하여 흐릿한 사진을 선명한 사진으로 "업그레이드"했습니다. 일부는 X의 Grok 봇을, 다른 일부는 ChatGPT 또는 기타 AI 도구를 사용했습니다. 그러나 AI는 실제 이미지를 정확하게 재현할 수 없으며, 이용 가능한 데이터를 기반으로 추측할 뿐입니다.

AI가 생성한 이미지는 원본과 너무 달라 FBI가 혼란스러워하고 있습니다. (출처: Thevegre)

AI가 생성한 이미지 중 일부는 다른 셔츠나 비현실적인 "기가차드" 턱을 가진 얼굴처럼 명백한 결함을 가지고 있습니다. 이는 오해의 소지가 있을 뿐만 아니라 조사에도 영향을 미칠 수 있습니다.

과거에는 AI가 버락 오바마 대통령 사진을 픽셀을 제거하여 백인 남성으로 표현하거나, 도널드 트럼프 대통령 사진에 가짜 정보를 추가하기도 했습니다. 이러한 사례들은 AI가 오용될 경우 허위 정보를 만들어낼 수 있음을 보여줍니다.

유용해 보일 수는 있지만, AI로 강화된 이미지는 수사에서 결정적인 증거로 간주되어서는 안 됩니다. FBI는 편향을 피하기 위해 여전히 원본 사진을 사용할 것을 권고하고 있습니다.

AI 다윈 어워드, 최악의 AI 애플리케이션에 '영예'

인공지능(AI)의 악하고 위험하며 무분별한 활용을 "칭송"하기 위해 "AI 다윈 어워드"라는 새로운 상이 발표되었습니다. 이 상은 인간이 AI를 어떻게 부주의하게 사용하고 있는지 대중의 인식을 제고하는 것을 목표로 합니다.

후보로 지명되려면 개인이나 단체는 AI 구축 과정에서 명백한 경고 신호를 무시하고 "엄청난 실패"를 보여야 합니다. 긴급 대응을 유발하거나, 언론의 주목을 받거나, AI 안전 연구의 새로운 영역을 창출한 사례에 대해 점수가 부여됩니다.

AI 애플리케이션은 품질이 좋지 않을 경우 사용자 평가를 받고, 심지어 "칭찬"을 받기도 합니다. (출처: AP)

흥미로운 점은 주최측이 AI를 직접 사용하여 후보작을 검증한다는 것입니다. ChatGPT, Claude, Gemini와 같은 주요 언어 모델을 사용하여 기사의 진위 여부를 평가합니다. 평균 점수가 10점 만점에 5점을 넘으면 후보작이 유효한 것으로 간주됩니다.

맥도날드는 채용 챗봇 "올리비아"의 기본 비밀번호가 123456으로 설정되어 6,400만 명의 데이터가 노출되었기 때문에 첫 번째 잠재적 수상 후보로 거론되었습니다. OpenAI 역시 GPT-5가 악의적인 요청을 의도치 않게 실행할 수 있다는 점에서 수상 후보로 거론되었습니다.

우승자는 1월 공개 투표 후 2월에 발표됩니다. 유일한 상은 AI를 사용하지 않는 방법의 대표적인 사례인 "불멸의 인터넷 명성"입니다.

알리바바, 차세대 AI 모델 출시

2025년 9월 12일, 알리바바는 최신 Qwen3-Next 아키텍처를 기반으로 구축된 새로운 인공지능 모델인 Qwen3-Next를 공식 발표하고 오픈소스화했습니다. 이 모델은 기존 모델보다 10배 더 강력하지만 학습 비용은 이전 버전보다 1/10에 불과합니다.

Qwen 개발팀에 따르면, 새로운 모델은 성능 최적화 및 연산 비용 절감을 위해 다양한 아키텍처 개선을 적용했습니다. Hugging Face 플랫폼을 기반으로 800억 개의 매개변수를 가진 Qwen3-Next-80B-A3B 버전이 발표되었으며, 이는 4월에 출시된 Qwen3-32B보다 10배 빠른 처리 속도를 달성했습니다.