هوش مصنوعی توهم می‌زند، اما انسان‌ها بیشتر رنج می‌برند

داریو آمودی، مدیرعامل شرکت آنتروپیک، اظهارات جنجالی در مورد قابلیت‌های «توهم‌آفرینی» هوش مصنوعی فعلی در مقایسه با انسان‌ها مطرح می‌کند.

کلود ۴ که به تازگی از شرکت آنتروپیک منتشر شده، باهوش‌تر است، اما هنوز هم توهم‌زا است. عکس: آنتروپیک .

در اولین رویداد توسعه‌دهندگان آنتروپیک در سانفرانسیسکو، مدیر عامل شرکت داریو آمودی گفت که مدل‌های فعلی هوش مصنوعی می‌توانند با سرعت کمتری نسبت به انسان‌ها «توهم» ایجاد کنند. «توهم» در اینجا به عنوان پدیده‌ای از هوش مصنوعی درک می‌شود که محتوای تخیلی ایجاد می‌کند اما آن را واقعی جلوه می‌دهد.

آمودی تأکید کرد که این واقعیت که هوش مصنوعی توهم می‌زند، مانع هدف آنتروپیک برای دستیابی به AGI (هوش عمومی مصنوعی) نمی‌شود. او گفت: «این بستگی به اندازه‌گیری شما دارد، اما من فکر می‌کنم فراوانی توهم در مدل‌های هوش مصنوعی احتمالاً کمتر از انسان‌ها است، فقط نحوه‌ی اشتباه کردن آنها تعجب‌آورتر است.»

آمودی یکی از سرسخت‌ترین طرفداران هوش مصنوعی عمومی در صنعت بوده است. او می‌گوید: «مردم همیشه در تلاشند تا یک «حد بالا» برای هوش مصنوعی پیدا کنند. در حال حاضر، ما چنین حد بالایی را نمی‌بینیم.»

مدیرعامل شرکت آنتروپیک یکی از طرفداران «خوش‌بینی به هوش مصنوعی» است. عکس: آنتروپیک.

با این حال، همه موافق نیستند. دمیس هاسابیس، مدیرعامل گوگل دیپ‌مایند، این هفته خاطرنشان کرد که مدل‌های فعلی هوش مصنوعی «پر از حفره» هستند و حتی در برخی از سوالات اساسی اشتباه می‌کنند.

همچنین نشانه‌هایی وجود دارد که برخی از مدل‌های جدیدتر، در انجام وظایف استنتاج پیچیده، با مشکلات بیشتری مواجه می‌شوند. نسخه‌های o3 و o4-mini شرکت OpenAI در مقایسه با مدل‌های استنتاج قبلی، میزان توهم بیشتری دارند. حتی خود OpenAI هم دلیل آن را نمی‌فهمد.

آمودی همچنین اشاره کرد که انسان‌ها اغلب اشتباه می‌کنند، بنابراین او گفت که صرفاً به این دلیل که هوش مصنوعی اشتباه می‌کند، به این معنی نیست که «به اندازه کافی باهوش نیست». با این حال، رهبر آنتروپیک همچنین اذعان کرد که وقتی آنها اطلاعات نادرستی را با قابلیت اطمینان بسیار بالا ارائه می‌دهند، می‌توانند به راحتی مشکلاتی ایجاد کنند.

اظهارات آمودی بحث‌هایی را در جامعه هوش مصنوعی در مورد قابلیت‌های واقعی مدل‌های فعلی برانگیخته است. برخی از کارشناسان موافقند که هوش مصنوعی در کاهش توهمات پیشرفت چشمگیری داشته است. برخی دیگر در مورد خطرات احتمالی اعتماد بیش از حد هوش مصنوعی به اطلاعات نادرست هشدار می‌دهند.

این بحث، چالش بزرگی را که صنعت هوش مصنوعی با آن مواجه است، منعکس می‌کند. شرکت‌ها به دنبال توسعه سیستم‌هایی هستند که هم هوشمند و هم قابل اعتماد باشند و بتوانند عدم قطعیت در پاسخ‌های خود را مدیریت کنند.

منبع: https://znews.vn/ai-ao-giac-nhung-con-nguoi-bi-con-nhieu-hon-post1557486.html