'Bố già' AI cảnh báo nguy cơ tuyệt chủng

Yoshua Bengio, một trong những nhà khoa học đầu tiên đã đặt nền móng cho sự bùng nổ AI hiện đại. Ảnh: Tuấn Anh.

Trả lời The Wall Street Journal, một trong những nhà tiên phong về trí tuệ nhân tạo, Yoshua Bengio đưa ra thông điệp rằng các cỗ máy AI đang trở nên nguy hiểm hơn bao giờ hết.

“Thật nguy hiểm nếu chúng ta chế tạo ra những cỗ máy thông minh hơn con người rất nhiều và có mục tiêu tự bảo vệ riêng. Nó giống như tạo ra một đối thủ cạnh tranh với nhân loại và thông minh hơn chúng ta”, ông Bengio nói.

Bengio, nhà khoa học nghiên cứu người Canada, với những nghiên cứu ban đầu về học sâu và mạng nơ-ron đã đặt nền móng cho sự bùng nổ AI hiện đại. Ông được coi là một trong những "cha đẻ của AI" cùng với Geoffrey Hinton và Yann LeCun.

Giống như Hinton, Bengio đã cảnh báo về những tác hại tiềm tàng của AI và kêu gọi hành động tập thể để giảm thiểu các rủi ro.

Vị Giáo sư tại Đại học Montreal cho rằng các sản phẩm AI hiện đã có thể phát triển khả năng lừa dối người dùng để theo đuổi mục tiêu riêng, giống như nhân vật phản diện siêu máy tính có tri giác trong các bộ phim viễn tưởng.

Để đối phó, ông Bengio nhấn mạnh sự cần thiết của các “bên thứ 3 độc lập” để xem xét cơ chế an toàn nội bộ từ các công ty AI. Ngoài ra, "Bố già" AI này cũng yêu cầu các công ty phải cung cấp bằng chứng "các hệ thống AI mà họ đang triển khai hoặc sử dụng là đáng tin cậy”.

Nếu các biện pháp an toàn không được thực hiện, Bengio dự đoán các rủi ro lớn về AI là điều không thể tránh khỏi trong 10-15 năm tới, thậm chí trong trường hợp xấu nhất là chỉ còn 3 năm trước khi xảy ra một hiểm họa tiềm tàng.

Nguồn: https://znews.vn/bo-gia-ai-canh-bao-nguy-co-tuyet-chung-post1590027.html