AI 남용 기업, '총알 맞다'

Duolingo는 새로운 AI 우선 모델에 대해 부정적인 피드백을 받았습니다. 사진: Unsplash .

ChatGPT는 출시된 지 약 3년이 지난 지금까지 AI 열풍을 일으켰고, 기업들이 이 기술을 자사 제품과 서비스에 통합하도록 촉진했습니다. 많은 회사에서는 AI가 비용을 최적화하고, 효율성을 높이고, 심지어 업무 흐름을 완전히 바꾸는 데 도움이 되었다고 말합니다.

하지만 인공지능의 활용은 매우 민감한 분야이며, 제대로 활용하지 않으면 평판에 큰 피해를 입힐 수 있습니다. 영향력 있는 기업 중 다수가 AI를 통제되지 않게 사용함으로써 대중의 비난을 받았습니다. 이는 사용자들의 윤리적 견해가 점점 더 강경해지고 있음을 보여줍니다.

AI 통합이 역효과를 낼 때

일주일 전, 전 세계적으로 인기 있는 언어 학습 앱 Duolingo가 모든 소셜 미디어 콘텐츠를 삭제하고, 기존 캐릭터를 반항적인 스타일의 세 눈과 후드티를 입은 올빼미로 대체했습니다. 5월 26일 현재 해당 브랜드는 원래 게시물을 복원했습니다.

이러한 움직임은 회사가 4월에 LinkedIn 게시물을 통해 "AI 우선" 모델로 전환할 것이라고 발표한 이후에 나온 것입니다. 게시물에는 CEO 루이스 폰 안이 회사 전체에 보낸 이메일의 스크린샷이 포함되어 있으며, 이번 변화를 2012년 데스크톱에서 모바일로의 전환과 비교하고 있습니다.

하지만 모든 사람이 기뻐하는 것은 아니다. 일부 사용자는 회사가 품질보다는 양에 집중하고 있다고 비판합니다. 미디어 분석 회사 CARMA에 따르면, 이 문제에 대한 전 세계 토론의 감정 비율은 긍정적 24.5%, 부정적 41.1%입니다.

AI 통합이 거의 보편화된 게임 산업 내에서도 의견은 엇갈린다. 포트나이트의 최근 업데이트에서, 해당 게임을 소유한 회사인 에픽 게임즈는 대화에서 다른 플레이어와 상호 작용하는 완전한 AI 제어 다스 베이더 캐릭터를 테스트했습니다.

포트나이트에서 다스 베이더는 다른 플레이어에게 모욕적인 언어를 사용합니다. 사진: More SypherPK/YouTube.

목표는 게임 캐릭터가 더욱 지적이고 사실적인 대화를 할 수 있도록 하는 것입니다. 하지만 스타워즈의 캐릭터에 영감을 받은 다스 베이더는 이상한 말을 하거나 욕설을 하며, 심지어 다른 플레이어를 모욕하기까지 했습니다. 이는 AI 캐릭터가 에픽의 통제를 벗어났고 회사가 즉시 버그를 패치해야 했다는 것을 보여줍니다.

또 다른 예로는 원피스를 만든 유명 애니메이션 스튜디오인 토에이 애니메이션이 제작에 AI를 통합할 계획을 세우고 있다는 것입니다. Screenrant의 보고서에 따르면 인공지능이 초기 스케치, 채색, 배경 생성, 캐릭터 애니메이션 등에 활용될 것으로 보입니다.

이러한 의도는 토에이의 품질과 독창성에 영향을 미칠 것이라며 팬 커뮤니티로부터 즉각 반대에 부딪혔다. 스튜디오는 보고서를 검토하여 여전히 그렇게 할 의향이 있지만, 위에 나열된 모든 단계는 이제 사람이 수행한다는 점을 명확히 해야 했습니다.

아직도 AI를 사용하고 싶다면 어떻게 해야 할까?

Adobe Experience Cloud의 수석 부사장인 안줄 밤브리(Anjul Bhambhri)는 "투명성과 고객 중심성은 효과적인 AI 전략을 구축하는 기반입니다."라고 말했습니다. 기업이 운영에 AI를 사용한다면 파트너에게 이에 대해 공개적으로 밝혀야 합니다.

사용자는 과정이 아닌 가치, 즉 창출된 결과에 더 집중하게 될 것입니다. AI 활용을 강조하기보다는 시간 절약, 서비스 품질 향상, 보다 합리적인 가격 등 구체적인 이점에 대해 이야기하세요.

인기 게임 캔디크러쉬사가의 개발팀은 AI를 "물류 기술자"로 적용했다고 밝혔습니다. 해당 브랜드의 총괄 매니저인 토드 그린은 AI의 도움 없이는 18,000레벨이 넘는 플레이어에게 좋은 경험을 보장하는 동시에 새로운 레벨을 만드는 것은 불가능하다고 말했습니다.

18,000개 이상의 레벨에 대한 품질을 보장하려면 AI를 사용해야 합니다. 사진: 캔디크러쉬/유튜브.

또한 AI는 인간을 완전히 대체하기보다는 보완해야 하며, 특히 공감이나 창의성이 필요한 분야에서는 더욱 그렇습니다. 사용자는 AI를 싫어하는 것이 아니라, 대체되거나 속는 것을 좋아하지 않습니다.

문화와 관련된 분야에서는 AI 도입을 서서히 진행해야 하며 피드백을 들어야 합니다. 다스베이더나 원피스는 많은 사람의 어린 시절 기억 속에 자리 잡고 있습니다. AI가 그 이미지를 파괴하면 대중은 불쾌감을 느낄 것이다. 인디아타임스는 토에이 애니메이션이 AI를 사용하는 것에 대한 반대는 애니메이션 예술이 그 품질과 본질을 잃을 것이라는 두려움에서 비롯된 것이라고 분석했습니다.

고객 관리, 콘텐츠 제작, 경험 개인화 등의 활동에 이 기술을 적용할 때 윤리와 안전을 우선시하는 것이 중요합니다. 또한 기업에서는 데이터 보안, 편견 방지, 공정한 운영 보장에 대한 명확한 정책이 필요합니다.

고객들은 AI가 경쟁에서 점점 더 중요해지고 있다는 사실을 알고 있습니다. 하지만 기업들은 인공지능을 피하기보다는 논란의 여지가 있는 마케팅 전략이 아닌, 서비스 개선의 자연스러운 일부로 인공지능을 현명하게 활용하는 법을 배워야 합니다.

출처: https://znews.vn/doanh-nghiep-linh-dan-vi-lam-dung-ai-post1556463.html