Meta에서 새로운 오픈소스 AI 보안 툴킷을 출시했습니다.

메타는 인공지능 기술 개발 분야의 선구자로 자리매김하기 위해 노력하고 있습니다.

Meta는 개발자들이 생성된 인공지능 (AI) 모델을 배포하기 전에 신뢰성과 안전성을 평가하고 향상시킬 수 있는 오픈 소스 도구를 만드는 데 전념하는 프로젝트인 Purple Llama를 소개했습니다.

메타는 AI 안전을 보장하기 위해 협력적인 노력이 필요하다고 강조하는 한편, AI 관련 과제는 개별적으로 해결할 수 없다고도 언급했습니다.

회사 측은 퍼플 라마의 목표는 대규모 언어 모델 및 기타 AI 기술에 대한 우려가 커지는 가운데 보다 안전한 생성형 AI 개발을 위한 공통 플랫폼을 구축하는 것이라고 밝혔습니다.

사이버 보안 회사 온티뉴의 정보 보안 책임자인 가레스 린달-와이즈는 퍼플 라마를 더 안전한 AI 기술을 향한 "긍정적이고 선제적인 발걸음"이라고 평가했습니다.

프로젝트 퍼플 라마는 AI 개발자, AWS 및 구글 클라우드와 같은 클라우드 서비스 제공업체, 인텔, AMD, 엔비디아와 같은 반도체 회사, 그리고 마이크로소프트를 포함한 소프트웨어 회사와 협력합니다.

Purple Llama에서 출시한 첫 번째 툴킷은 AI 기반 소프트웨어 사이버 보안 위험 평가 도구인 CyberSecEval입니다.

이 도구는 폭력이나 불법 활동에 대한 논의를 포함하여 부적절하거나 유해한 텍스트를 식별하는 언어 패턴을 가지고 있습니다.

개발자는 CyberSecEval을 사용하여 AI 모델이 안전하지 않은 코드를 생성하거나 사이버 공격을 지원할 가능성이 있는지 확인할 수 있습니다.

Meta의 연구에 따르면 대규모 언어 모델은 종종 취약한 코드를 암시하는 것으로 나타났으며, 이는 AI 보안을 위한 지속적인 테스트 및 개선의 중요성을 강조합니다.

Llama Guard는 잠재적으로 유해하거나 불쾌한 언어를 식별하도록 훈련된 대규모 언어 모델인 또 다른 툴킷입니다.

개발자는 Llama Guard를 사용하여 모델이 안전하지 않은 콘텐츠를 생성하거나 수락하는지 확인할 수 있으며, 부적절한 출력으로 이어질 수 있는 프롬프트를 필터링하는 데 도움을 받을 수 있습니다.

(IFW에 따르면)

그는 인공지능에 대규모 투자를 하고 있으며, 다섯 개의 새로운 양자 컴퓨팅 프로젝트를 시작했습니다.

그는 대규모 양자 컴퓨터 개발과 새로운 기술 지원에 막대한 투자를 할 것이며, 여기에는 미국에서 가장 강력한 인공지능 슈퍼컴퓨터인 이삼바드(Isambard) 구축도 포함됩니다.

GUIDi AI 벨트는 시각 장애인을 위한 지팡이를 대체합니다.

인공지능 기술을 적용한 이 첨단 벨트는 시각 장애인에게 불편한 지팡이를 대체하는 동반자가 될 것입니다.

거대 기술 기업들의 오픈소스 AI 연합은 OpenAI와 경쟁할 것이다.

메타, IBM, 인텔, 소니, 델 등 여러 기술 기업들이 최근 안전 조치에 중점을 두고 책임감 있는 기술을 개발하기 위해 오픈 소스 AI 연합(Open Source AI Alliance)을 결성했다고 발표했습니다.

중국에서 인공지능 챗봇 개발에 대한 독창적인 접근 방식.

오픈AI와 구글이 개척하지 못한 시장을 활용하여 중국 기술 기업들은 AI 챗봇 개발의 개인화 트렌드에서 상당한 수익을 올리고 있습니다.

원천: https://vietnamnet.vn/meta-moi-phat-hanh-bo-cong-cu-nguon-mo-bao-dam-an-toan-ai-2225140.html