اطلاعات غلط بیشتر و بیشتر می‌شود، آیا باید جستجو کنیم و از هوش مصنوعی بپرسیم؟

در عصری که هوش مصنوعی می‌تواند در عرض چند ثانیه به هر سؤالی پاسخ دهد، بسیاری از مردم هوش مصنوعی را به عنوان منبع دانش دقیق بدیهی می‌دانند. اما اگر اطلاعات ورودی اشتباه باشد، آیا هوش مصنوعی می‌تواند پاسخ درست را تولید کند؟

آیا اطلاعات هوش مصنوعی همیشه صحیح است؟

در جهانی که اطلاعات در هم آمیخته است، تکیه صرف بر هوش مصنوعی برای گفتن حقیقت یک قمار است.

هوش مصنوعی درست را از غلط تشخیص نمی‌دهد، فقط داده‌ها را منعکس می‌کند.

طبق گفته Tuoi Tre Online ، هوش مصنوعی از طریق حجم عظیمی از داده‌های جمع‌آوری‌شده از اینترنت آموزش می‌بیند، جایی که هم دانش ارتدوکس و هم نظریه‌های توطئه وجود دارد. هوش مصنوعی بین حقیقت و دروغ تمایز قائل نمی‌شود، فقط الگوهای زبانی را ثبت می‌کند و بر اساس آنچه می‌آموزد پاسخ می‌دهد. اگر اطلاعات آموزشی حاوی خطا یا سوگیری باشد، هوش مصنوعی آن را در پاسخ نیز منعکس خواهد کرد.

علاوه بر داده‌های اصلی، آنچه کاربر در سوال ارائه می‌دهد نیز مستقیماً بر دقت تأثیر می‌گذارد. یک سوال اشتباه اما خوب ارائه شده، راحت‌تر قابل حل خواهد بود. هوش مصنوعی را وادار کنید که «باور کند درست است» و بر این اساس پاسخ‌های نادرست تولید کند.

به طور خاص، اگر کاربری درخواست بازخوردی کند که چیزی را تأیید کند که درست نیست، هوش مصنوعی ممکن است از آن "مطابقت" پیدا کند زیرا هدف آن تولید یک پاسخ معنایی است، نه تأیید حقیقت.

به همین دلیل است که هوش مصنوعی می‌تواند «روان صحبت کند اما آشکارا اشتباه کند». هوش مصنوعی مانند انسان‌ها درست را از غلط تشخیص نمی‌دهد، بلکه فقط محتمل‌ترین کلمه بعدی را پیش‌بینی می‌کند. این امر منجر به پدیده‌ای می‌شود که محققان آن را توهم می‌نامند، زمانی که هوش مصنوعی اطلاعات جعلی ایجاد می‌کند که به نظر قابل قبول می‌رسد. اگر هوش مصنوعی نتواند داده‌های صحیح را پیدا کند، یک نام، یک رویداد، حتی یک مطالعه علمی می‌تواند «ساختگی» باشد.

چه زمانی هوش مصنوعی در دریایی از اطلاعات نادرست «درست» عمل می‌کند؟

اگرچه هوش مصنوعی قادر به تشخیص خود به خودی حقیقت نیست، اما همچنان می‌تواند تحت شرایط خاص پاسخ‌های دقیقی تولید کند .

وقتی سوال از رد یا تأیید یک اطلاعات نادرست پرسیده می‌شود، مدل تمایل دارد که پوچی را پیدا کرده و آن را رد کند.

برای مثال، اگر کاربری این استدلال را مطرح کند که «زمین صاف است، بنابراین نمی‌توان ماهواره‌ای به دور آن چرخید» و درخواست تحلیل کند، هوش مصنوعی بر اساس علم گرانش و مدارها با آن مقابله خواهد کرد.

توانایی هوش مصنوعی در «درست انجام دادن کارها» نیز در صورتی افزایش می‌یابد که با ابزارهای تأیید، مانند دسترسی بلادرنگ به داده‌های جدید، جستجو در منابع معتبر یا استفاده از APIهای مخازن دانش معتبر، ادغام شود. در این صورت، هوش مصنوعی نه تنها می‌تواند به دانش از پیش آموزش‌دیده تکیه کند، بلکه می‌تواند آن را به‌روزرسانی و با واقعیت مقایسه کند.

با این حال، پیش‌نیاز همچنان نحوه‌ی طرح مسئله توسط کاربر است. اگر موضوع از ابتدا اشتباه باشد و از هوش مصنوعی خواسته شود که به شیوه‌ای مثبت بنویسد، مدل تمایل به پیروی از آن خواهد داشت، به خصوص اگر از آن خواسته نشود که استدلال کند. در این صورت، هوش مصنوعی می‌تواند محتوای کاملاً اشتباهی ارائه دهد، اما زبان همچنان روان و قابل باور کردن برای خواننده است.

هرچه هوش مصنوعی هوشمندتر می‌شود، کاربران باید هوشیارتر باشند

هوش مصنوعی جایگزین انسان در تأیید حقیقت نمی‌شود. اگرچه می‌تواند محتوای قانع‌کننده و معقولی تولید کند، اما وجدان و اخلاق لازم برای تشخیص درست از غلط را ندارد.

کاربران باید هوش مصنوعی را به عنوان یک کمک مشروط ببینند، نه منبعی از حقیقت مطلق. هرچه دانش ورودی دقیق‌تر باشد، پاسخ هوش مصنوعی قابل اعتمادتر است.

بازگشت به موضوع

توان ششم

منبع: https://tuoitre.vn/ngay-cang-nhieu-thong-tin-sai-co-nen-tim-kiem-hoi-ai-20250626101350386.htm