2025년의 새로운 AI 트렌드

책임감을 강화하는 것은 점점 더 유용한 AI를 촉진하는 데 중요한 요소입니다. 일러스트 사진: 블룸버그.

생성적 AI는 여러 분야를 변화시키고 있습니다. 교육 분야에서는 AI가 학습을 지원하고, 표절을 감지하고, 교육을 지원합니다. 의료 분야에서는 AI가 영상 진단, 개인 맞춤형 치료 계획, 그리고 약물 연구를 지원합니다. 또한, 이 도구는 자동화된 콘텐츠 제작을 촉진하고, 고객 관리를 지원하며, 비즈니스 및 마케팅 분야에서 "가상 KOL"을 생성합니다.

생성적 AI의 확산은 그 이점과 함께 윤리적 우려도 제기합니다. 이 도구는 편견을 증폭시키고 잘못된 정보를 퍼뜨릴 수 있기 때문입니다. 또한 AI는 개인정보 보호, 데이터 보안, 그리고 인력 안정성을 저해할 가능성도 있습니다.

세계 여러 나라와 마찬가지로 베트남도 생성적 AI(Generative AI) 적용 분야에서 두각을 나타내고 있습니다. AI가 인간에게 해로운 도구가 아닌 유용한 도구가 되기 위해서는 책임감 있는 AI 개발이 중요한 과제 중 하나입니다.

책임 있는 AI 트렌드

RMIT 베트남 캠퍼스의 정보기술 부문 수석 강사인 샘 구나우더 박사는 테일러 스위프트 포르노 스캔들부터 전 미국 대통령 조 바이든 사칭 사건, AI를 이용한 학문적 사기 사건까지 생성적 AI의 윤리를 둘러싼 논란 중 일부를 회상합니다.

더욱 우려되는 것은 채팅봇이 자살을 부추기거나, 아동 학대 콘텐츠를 만들거나, 암살을 조장하거나, 편향된 채용 알고리즘을 사용하거나, AI가 보안 취약점을 악용하는 사례입니다.

이러한 문제는 AI 오용을 완화하고 개인 및 사회적 이익을 보호하기 위해 인간 중심적인 접근 방식이 필요함을 강조합니다."라고 Goundar 박사는 공유했습니다.

AI는 창의적이다, AI는 책임감이 있다, AI는 윤리적이다, AI의 위험성 1

Microsoft Copilot 도구 화면. 사진: 블룸버그.

Goundar 박사에 따르면, 2025년에는 책임감 있고 인간 중심적인 AI가 주류를 이룰 것으로 예상됩니다. 편견, 잘못된 정보, 그리고 윤리적 위험에 대한 우려가 커짐에 따라, 사용자가 AI의 의사 결정 방식을 이해하는 데 도움을 주는 투명한 AI(XAI) 기술이 우선시되고 있습니다.

미국, 캐나다, 호주, 중국, 일본 등 여러 국가에서는 산업 전반에 걸쳐 윤리적인 AI 배포를 관리하고 보장하기 위해 AI 규정을 채택하기 시작했습니다.

또 다른 추세는 AI와 인간을 결합한 모델인 하이브리드 AI로, 이 역시 2025년에 발전할 가능성이 있습니다.

지속 가능한 개발 측면에서 AI는 기후 변화 대응과 친환경 기술 증진에 기여할 수 있습니다. 또한, AI는 사이버 보안 분야에서 그 활용 범위를 확대하여 디지털 공간에서 위험을 분석하고 위협에 대응하는 능력을 향상시키는 데 기여할 것입니다.

Goundar 박사는 "AI 도입이 가속화됨에 따라 기술의 이점을 최적화하고 잠재적 위험을 줄이기 위해 책임 있는 AI 거버넌스를 보장하는 것이 필수적입니다."라고 강조했습니다.