업그레이드된 AI가 이상 감지에 도움이 됩니다.

Google은 최근 Google I/O 이벤트에서 Gemini 1.5를 출시했습니다. Gemini 1.5는 코드, 텍스트, 오디오 녹음, 이전 버전보다 긴 비디오를 분석하는 기능을 포함하여 여러 가지 새로운 기능을 갖춘 인공지능(AI) 모델입니다.

의심스러운 단어 감지

특히, 제미니 1.5 프로는 가까운 시일 내에 Gmail, Google Docs 등에 포함될 예정이며, Workspace의 다목적 도구로 자리매김하여 사용자가 Drive에서 모든 정보를 수집할 수 있도록 지원할 것입니다. 또 다른 AI 모델인 제미니 라이브는 사용자가 자연스러운 음성으로 스마트폰과 상호작용할 수 있도록 지원합니다. 이번 행사에서 구글은 대화에서 의심스러운 단어를 감지하여 사용자가 사기 전화를 경계할 수 있도록 지원하는 기능을 갖춘 안드로이드 운영체제를 탑재한 스마트폰에 제미니 나노라는 AI 모델을 선보이며 주목을 받았습니다. 현재 제미니 나노는 Pixel 8 Pro와 Galaxy S24 시리즈에 탑재되어 있습니다.

소셜 네트워크에 의견을 공유하는 사용자들은 제미니 나노가 시중의 안드로이드 폰에서 점차 인기를 끌 것으로 예상합니다. 그러나 일부 사용자는 구글에 권한을 부여할 경우 통화 데이터가 노출될 수 있다는 우려를 표명했습니다. 이 문제와 관련하여 구글은 통화 데이터는 보호되며 사용자 휴대폰에만 저장된다고 밝혔습니다. 사용자는 사기 전화 경고 기능을 활성화/비활성화할 수 있습니다. 제미니 나노는 독립적으로 작동하며 인터넷에 연결되지 않으므로 구글이나 제3자도 접근할 수 없습니다.

이전에 OpenAI는 ChatGPT의 성능을 5배 향상시킨 GPT-4o라는 새로운 AI 모델을 발표했습니다. 따라서 알고리즘과 학습 방법을 최적화하여 GPT-4o는 긴 대화에서도 더욱 정확한 답변을 제공하고 높은 일관성을 유지합니다. 일반적인 오류를 최소화하고 맥락을 이해하는 능력을 향상시켜 모델이 복잡한 질문에 더욱 정확하게 응답할 수 있도록 지원합니다. OpenAI는 GPT-4o 인터페이스를 통해 사용자와 AI 간의 상호작용 및 개인 정보가 안전하게 처리된다고 밝혔습니다. Facebook과 Instagram의 모회사인 Meta는 AI 제품과 Metaverse 가상 세계 개발에 집중하기 위해 Workplace 비즈니스 플랫폼 개발을 중단한다고 발표했습니다. 기술 업계에 따르면 Meta의 향후 AI 프로젝트는 개인화된 광고 플랫폼, 적합한 콘텐츠 추천, 다국어 실시간 번역 등을 통해 사용자에게 더 나은 경험을 제공할 것입니다. 동시에 사용자 정보를 보호하기 위한 개인정보 보호정책을 구축할 예정입니다.

마이크로소프트는 최근 행사에서 "리콜(Recall)"이라는 새로운 기능을 선보였습니다. 마이크로소프트는 이 기능을 AI 익스플로러(AI Explorer)라고 부릅니다. 이 AI 도구는 Copilot Plus 컴퓨터에 통합되어 사용자가 웹 브라우징부터 음성 채팅까지 컴퓨터에서 수행된 모든 활동을 추적하고, 이전에 수행했던 작업을 기억해야 할 때 검색할 수 있는 기록을 컴퓨터에 저장합니다. 또한, 리콜은 시각적인 타임라인 형태로 데이터를 제공하여 사용자가 컴퓨터에서 수행된 모든 활동을 쉽게 스크롤하고 탐색 할 수 있도록 합니다. 함께 제공되는 라이브 캡션 기능은 사용자가 온라인 회의 및 비디오를 검색하고, 음성을 편리하게 기록하고 번역할 수 있도록 지원합니다. 마이크로소프트는 리콜 기능이 기기 내에서 비공개로 작동하여 사용자 데이터가 안전하게 보호될 것이라고 약속합니다. 사용자는 캡처된 콘텐츠를 일시 중지, 중지 또는 삭제하거나 특정 애플리케이션이나 웹사이트를 제외하도록 선택할 수 있습니다.

Gemini 1.5pro는 단 몇 초 만에 다이어그램 형태로 사용자 질문에 답변합니다. 사진 AI: Le Tinh

사용자에게 알림, 경고

보안 전문가 Pham Dinh Thang에 따르면, 사용자와의 상호작용 과정이 AI의 지능 수준을 높였습니다. 따라서 AI 모델은 지속적으로 강력하게 변화하고 더욱 간소화될 것입니다. 하지만 이로 인해 얼굴 위조(딥페이크)와 같은 사용자 위험도 증가하고, 높은 신뢰성으로 인해 음성을 감지하기가 더욱 어려워질 것입니다.

따라서 Google이나 ChatGPT와 같은 기술 기업은 사용자의 데이터 보안에 집중해야 합니다. "기술 기업의 데이터 보안 약속을 전적으로 믿을 수는 없습니다. 사용자는 스스로를 보호해야 합니다. 악성코드 감염률이 매우 높으므로 출처를 알 수 없는 이상한 AI 웹사이트를 방문하지 마십시오. 자신과 관련 없는 정보에 접근하지 마십시오. 동시에 AI 사기 수법에 대한 뉴스를 정기적으로 업데이트하십시오."라고 Thang 씨는 권고했습니다. 한편, 정보 보안 전문가인 Huynh Trong Thua 씨는 AI 제품 사용 시 데이터에 대해 지나치게 걱정할 필요가 없다고 말했습니다. 기업들이 수집하는 개인 데이터는 분석 목적으로 사용되며, 경고와 적절한 키워드를 제공하여 사용자 경험을 개인화하기 위한 것입니다. "Google과 OpenAI가 새로운 모델을 적용하면 사기율이 크게 감소할 것입니다. 사기 경고는 사기꾼의 달콤한 유혹에 넘어가기 전에 사용자를 멈추게 하는 강력한 경고입니다."라고 Thua 씨는 말했습니다.

기술 전문가들에 따르면, 기술 회사들은 사용자 데이터를 보호하기 위해 더욱 현대적인 암호화를 사용하는 경향이 있습니다. 동시에, 업그레이드된 버전을 사용하면 사용자는 플랫폼의 데이터 사용에 동의하거나 동의하지 않음으로써 데이터를 관리, 편집 및 삭제할 수 있는 등 개인 데이터에 대한 통제력이 더욱 강화됩니다.

전문가들은 AI 도구의 사기 행위에 대한 우려에 대응하여 규제 기관은 AI 도구 운영을 위한 정책과 유연한 통제 및 관리 메커니즘을 개발하는 것을 신중하게 고려해야 한다고 지적합니다. 이를 통해 AI 애플리케이션이 지속 가능하고 책임감 있게 개발될 수 있는 환경이 조성될 것입니다.

출처: https://nld.com.vn/ai-nang-cap-giup-phat-hien-bat-thuong-196240521203710228.htm