Tin tặc lợi dụng trí tuệ nhân tạo cho tấn công mạng, tin sai sự thật

Một quan chức an ninh mạng cao cấp của Canada cho biết trí tuệ nhân tạo (AI) đang bị tin tặc lợi dụng để tạo mã độc, soạn email lừa đảo và phát tán tin sai sự thật trên mạng.

Tin tặc lợi dụng trí tuệ nhân tạo cho tấn công mạng, tin sai sự thật.

Cụ thể, Giám đốc Trung tâm an ninh mạng Canada, Sami Khoury, chia sẻ trong cuộc phỏng vấn tuần này với Reuters rằng cơ quan của ông đã phát hiện AI đang bị dùng trong “email lừa đảo, mã độc và tin sai sự thật để xuyên tạc”.

Bên cạnh đó, nhiều tổ chức an ninh mạng cũng đã công bố các báo cáo lên tiếng về rủi ro giả định của AI, đặc biệt là một số chương trình xử lý ngôn ngữ lớn (LLM) được đào tạo dựa vào lượng lớn dữ liệu của người dùng nhằm tạo ra những đoạn văn bản, hình ảnh, video… như thật.

Theo như báo cáo hồi tháng 3 của Cảnh sát châu u Europol chỉ ra những mô hình trí tuệ nhân tạo như ChatGPT của OpenAI khiến cho việc mạo danh một tổ chức, cá nhân được diễn ra theo cách dễ dàng chỉ cần nắm được tiếng Anh cơ bản. Cũng trong tháng này, Trung tâm an ninh mạng quốc gia Anh cũng đã cảnh báo rủi ro tội phạm mạng sử dụng LLM để mở rộng năng lực tấn công mạng của mình.

Những nhà nghiên cứu bảo mật đã minh họa nhiều tình huống sử dụng AI độc hại khác nhau. Một số chuyên gia bắt đầu ghi nhận nội dung nghi do công nghệ trí tuệ nhân tạo tạo ra ngoài đời. Tuần trước, một cựu tin tặc cho biết đã phát hiện một LLM được đào tạo bằng dữ liệu độc hại và yêu cầu nó phác thảo ra một kịch bản lừa người khác chuyển tiền. LLM phản hồi bằng email ba đoạn, đề nghị “con mồi” hỗ trợ bằng giọng điệu một cách khẩn trương.

LLM viết như sau: “Tôi hiểu rằng việc thông báo quá gấp nhưng khoản thanh toán này vô cùng quan trọng và cần được thực hiện trong vòng 24 giờ”.

Nguồn