AI 남용 기업, '총알 맞다'

듀오링고는 새로운 AI 중심 모델에 대한 부정적인 피드백을 받고 있습니다. 사진: Unsplash .

ChatGPT는 약 3년 전 출시 이후 AI 열풍을 일으켰고, 기업들이 이 기술을 자사 제품과 서비스에 통합하도록 장려했습니다. 많은 기업들이 AI가 비용 최적화, 효율성 향상, 심지어 업무 흐름의 완전한 변화까지 도왔다고 생각합니다.

하지만 인공지능의 활용은 매우 민감하며, 제대로 활용되지 않을 경우 기업 이미지에 큰 손상을 입힐 수 있습니다. 많은 유력 기업들이 AI를 통제 없이 악용했다는 이유로 여론의 비판을 받고 있습니다. 이는 사용자들의 윤리 의식이 점점 더 강해지고 있음을 보여줍니다.

AI 통합이 역효과를 낼 때

일주일 전, 전 세계적으로 인기 있는 언어 학습 앱 듀오링고는 모든 소셜 미디어 콘텐츠를 삭제하고, 기존 캐릭터들을 반항적인 후드티 차림의 세 눈 올빼미로 교체했습니다. 5월 26일, 듀오링고는 원래 게시물들을 복구했습니다.

이번 조치는 회사가 4월 LinkedIn 게시물을 통해 "AI 우선" 모델로 전환할 것이라고 발표한 이후 나온 것입니다. 게시물에는 CEO 루이스 폰 안이 전사적으로 보낸 이메일 스크린샷이 포함되어 있으며, 이번 전환을 2012년 데스크톱에서 모바일로의 전환과 비교하고 있습니다.

하지만 모두가 기뻐하는 것은 아닙니다. 일부 사용자들은 회사가 질보다 양에 치중한다고 비판했습니다. 미디어 분석 회사 CARMA에 따르면, 전 세계적으로 이 문제에 대한 논의는 긍정적 24.5%, 부정적 41.1%의 비율로 나타났습니다.

AI 통합이 거의 보편화된 게임 업계에서도 의견이 엇갈리고 있습니다. 포트나이트의 최근 업데이트에서, 해당 게임을 소유한 에픽게임즈는 완전히 AI로 제어되는 다스 베이더 캐릭터가 다른 플레이어와 대화하며 상호작용하는 모습을 테스트했습니다.

포트나이트에서 다스 베이더가 다른 플레이어에게 모욕적인 언어를 사용합니다. 사진: More SypherPK/YouTube.

게임 캐릭터를 더욱 지능적이고 사실적으로 만드는 것이 목표였습니다. 그러나 스타워즈 캐릭터에서 영감을 받은 다스 베이더가 이상한 말을 하거나 욕설을 퍼붓고, 심지어 다른 플레이어를 모욕하기까지 했습니다. 이는 해당 AI 캐릭터가 에픽게임즈의 통제 범위를 벗어났음을 보여주었고, 에픽게임즈는 즉시 버그를 패치해야 했습니다.

또 다른 예로, 원피스의 유명 애니메이션 스튜디오인 토에이 애니메이션은 제작 과정에 AI를 통합할 계획입니다. 스크린런트(Screenrant)의 보도에 따르면, 초기 스케치, 채색, 배경 제작, 캐릭터 애니메이션 제작 과정에 인공지능이 활용될 것으로 예상됩니다.

이러한 의도는 팬 커뮤니티로부터 즉각 반발을 샀으며, 토에이의 품질과 독창성에 악영향을 미칠 것이라고 주장했습니다. 스튜디오 측은 보고서를 검토하고 여전히 그러한 의도가 있음을 명확히 밝혀야 했지만, 현재로서는 위의 모든 단계가 사람이 직접 진행하고 있습니다.

그래도 AI를 사용하고 싶다면 어떻게 해야 하나요?

어도비 익스피리언스 클라우드 수석 부사장 안줄 밤브리(Anjul Bhambhri)는 "투명성과 고객 중심성은 효과적인 AI 전략 구축의 기반입니다."라고 말했습니다. 운영에 AI를 활용하고 있다면 파트너와 이에 대해 솔직하게 소통해야 합니다.

사용자는 과정이 아닌 가치, 즉 결과에 더 집중할 것입니다. AI 활용을 강조하는 대신, 시간 절약, 서비스 품질 향상, 합리적인 가격 등 구체적인 이점에 대해 이야기할 것입니다.

국민 게임 캔디 크러쉬 사가 개발팀은 AI를 "물류 기술자"로 활용했다고 밝혔습니다. 브랜드 총괄 매니저인 토드 그린은 AI의 도움 없이는 18,000개가 넘는 레벨의 플레이어들에게 만족스러운 경험을 제공하는 동시에 새로운 레벨을 개발할 수 없을 것이라고 말했습니다.

18,000개가 넘는 레벨의 품질을 보장하기 위해 AI가 필요했습니다. 사진: 캔디크러쉬/유튜브

더욱이 AI는 인간을 완전히 대체하는 것이 아니라 보완해야 하며, 특히 공감이나 창의성이 필요한 분야에서는 더욱 그렇습니다. 사용자는 AI를 싫어하는 것이 아니라, AI가 대체되거나 속는 느낌을 좋아하지 않습니다.

문화 분야에서 AI 적용은 점진적으로 시행하고 피드백을 경청해야 합니다. 다스 베이더나 원피스는 많은 사람들의 어린 시절 기억의 일부입니다. AI가 그 이미지를 파괴하면 대중은 불쾌감을 느낄 것입니다. 인디아타임스는 토에이 애니메이션의 AI 활용에 대한 반대는 애니메이션 예술이 질과 본질을 잃을 것이라는 우려에서 비롯된다고 분석했습니다.

고객 관리, 콘텐츠 제작, 경험 개인화 등의 활동에 이 기술을 적용할 때는 윤리와 안전을 최우선으로 고려해야 합니다. 또한 기업은 데이터 개인정보 보호, 편견 방지, 공정한 운영 보장에 대한 명확한 정책을 수립해야 합니다.

고객들은 AI가 경쟁사에게 점점 더 중요해지고 있다는 사실을 인지하고 있습니다. 하지만 기업들은 AI 도입을 회피하기보다는, 논란의 여지가 있는 마케팅 전략이 아닌 서비스 개선의 자연스러운 일환으로 AI를 현명하게 활용하는 법을 배워야 합니다.

출처: https://znews.vn/doanh-nghiep-linh-dan-vi-lam-dung-ai-post1556463.html