Meta, 새로운 AI 콘텐츠 검열 시스템 도입.

콘텐츠 단속 업무에는 테러, 아동 학대, 마약, 사기 및 불법 행위와 관련된 정보를 탐지하고 제거하는 작업이 포함됩니다. 메타는 이러한 고급 AI 시스템이 현재의 단속 방식보다 일관되게 우수한 성능을 입증하는 즉시 모든 애플리케이션에 적용할 것이라고 밝혔습니다.

메타는 블로그 게시물에서 "여전히 사람이 콘텐츠 검토를 담당하겠지만, 이러한 시스템은 폭력적인 영상 콘텐츠의 반복적인 검토나 마약 판매 또는 사기처럼 혐오 행위자들이 전술을 자주 바꾸는 영역과 같이 기술에 더 적합한 작업을 처리하는 데 더 적합할 것입니다."라고 설명했습니다.

Repro Uncensored에 따르면 Meta는 올해 특정 낙태 관련 그룹 및 LGBTQ+ 그룹에 속한 계정의 삭제 또는 강력한 제재를 강화하고 있습니다. (이미지: LinkedIn)

Meta는 소셜 미디어 플랫폼의 콘텐츠 관리를 강화하기 위해 노력하고 있습니다. 사진: LinkedIn

이번 조치는 특히 빠른 응답 시간과 높은 정확도가 요구되는 콘텐츠 영역에서 자동화를 통해 플랫폼 관리 프로세스를 최적화하려는 회사의 노력을 보여줍니다.

메타는 새로운 AI 시스템이 더 높은 정확도로 더 많은 위반 사항을 탐지하고, 사기를 더 효과적으로 예방하며, 실제 상황에 더 신속하게 대응할 수 있다고 믿습니다. 초기 시험 결과는 매우 고무적이며, AI가 수동 검토팀보다 두 배 더 많은 성인 콘텐츠를 탐지하는 동시에 오류율을 60% 이상 줄였습니다.

또한, 이 시스템은 유명인이나 영향력 있는 인물을 사칭하는 가짜 계정을 식별하고 차단할 수 있으며, 새로운 위치에서 로그인하거나 비밀번호가 변경되거나 프로필이 수정되는 등의 비정상적인 신호를 감지하여 계정 탈취를 방지하는 데 도움을 줄 수 있습니다.

메타의 시스템은 매일 약 5,000건의 사용자 로그인 정보 탈취를 목적으로 하는 피싱 시도를 탐지하고 차단할 수 있습니다. 자동화 기능과 더불어, 메타는 모바일 및 데스크톱 플랫폼의 페이스북과 인스타그램 앱을 통해 전 세계 사용자의 질문에 24시간 연중무휴 답변하는 인공지능(AI) 비서인 '메타 AI 비서'를 출시했습니다. 이는 점점 더 복잡해지는 커뮤니티 표준 속에서 사용자 경험을 개선하는 데 중요한 진전입니다.

인공지능이 많은 프로세스를 대체하고 있지만, 메타는 가장 중요한 결정에 있어서 인간은 여전히 대체 불가능한 역할을 한다고 주장합니다.

출처: https://congluan.vn/meta-trien-khai-he-thong-ai-kiem-soat-noi-dung-moi-10335250.html