گوگل لنز اطلاعات گمراه‌کننده‌ای در مورد تصاویر نشان می‌دهد

تحقیقات سازمان راستی‌آزمایی Full Fact نشان داده است که نمای کلی هوش مصنوعی در نتایج جستجوی Google Lens، اطلاعات نادرست یا گمراه‌کننده‌ای را در مورد تعدادی از تصاویر که به طور گسترده در رسانه‌های اجتماعی در حال گردش هستند، ارائه می‌دهد.

گوگل لنز یک موتور جستجوی تصویر است که توسط گوگل توسعه داده شده است - عکس: KLMOBILE

طبق گزارش Full Fact، موارد فوق شامل ویدیوهایی است که ظاهراً درباره جنگ اوکراین و غزه، درگیری هند و پاکستان، سقوط هواپیمای ایر ایندیا در ژوئن ۲۰۲۵ و مهاجرانی است که با قایق‌های کوچک به بریتانیا می‌آیند.

فول فکت از گوگل لنز برای جستجوی اسکرین‌شات‌هایی از ویدیوهای جعلی که صحت آنها بررسی شده بود، استفاده کرد.

در حداقل ۱۰ مورد، خلاصه‌های هوش مصنوعی نتوانستند محتوای جعلی را تشخیص دهند، حتی همان اطلاعات نادرست موجود در رسانه‌های اجتماعی را تکرار کردند.

در چهار مثال، نمای کلی هوش مصنوعی ادعاهای دروغینی را که Full Fact رد کرده است، عیناً تکرار می‌کند. علاوه بر این، نتایج خلاصه هوش مصنوعی می‌تواند هر بار که جستجو می‌کند، حتی برای همان تصویر، تغییر کند و منجر به اطلاعات متناقض شود.

گوگل اذعان می‌کند که ممکن است برخی از این خطاها رخ دهند و می‌گوید که این خطاها از نتایج جستجوی تصویر ناشی می‌شوند، نه از سیستم بررسی اجمالی هوش مصنوعی.

طبق گفته گوگل، نتایج جستجوی تصویر می‌تواند شامل منابع وب یا پست‌های رسانه‌های اجتماعی باشد که هم حاوی تصاویر منطبق و هم اطلاعات نادرست هستند و این بر خلاصه‌های هوش مصنوعی تأثیر می‌گذارد.

گوگل می‌گوید که همیشه قصد دارد اطلاعات مرتبط و باکیفیتی را نمایش دهد، به‌طور مداوم در حال بهبود است و هنگامی که مشکلی شناسایی شود، طبق سیاست‌ها رسیدگی خواهد شد.

اگرچه گوگل ادعا می‌کند که هوش مصنوعی به ندرت اطلاعات را «جعل» می‌کند (که به عنوان «توهم» هوش مصنوعی نیز شناخته می‌شود)، اما همچنان اطلاعات نادرستی را در مورد مسائل مهم و حساس منتشر می‌کند.

برای مثال، یک ویدیوی پربازدید به دروغ ادعا می‌کرد که پناهجویان در حال ورود به ساحل دوور در بریتانیا هستند، در حالی که در واقع صحنه در ساحلی در گوا، هند بود. گوگل لنز، هنگام جستجوی اسکرین‌شات‌های این ویدیو، آن را به صورت «تجمع مردم در ساحل دوور در بریتانیا» خلاصه کرد.

یا برخی ویدیوهای جعلی درباره جنگ روسیه و اوکراین، حتی تصاویری از بازی ویدیویی Arma 3، توسط هوش مصنوعی به عنوان محتوای واقعی توصیف می‌شوند، بدون اینکه به کاربر هشدار داده شود که این محتوا جعلی است.

موردی وجود دارد که در آن یک بازی ویدیویی مشابه اما دو تصویر متفاوت توسط هوش مصنوعی به عنوان صحنه‌ای از سیستم دفاعی C-RAM که گلوله‌های توپخانه را رهگیری می‌کند و صحنه‌ای از پرتاب موشک SpaceX خلاصه می‌شود، که به این معنی نیست که این تصاویر جعلی هستند.

هوش مصنوعی گوگل لنز با ادعای اینکه تصویری از ورود پناهندگان به شهر دوور انگلستان است، اطلاعات نادرستی ارائه داد - عکس: واقعیت کامل

گوگل لنز یک موتور جستجوی تصویر است که به کاربران امکان می‌دهد عکس‌ها یا فریم‌هایی از ویدیوها را جستجو کنند تا با تصاویر مشابه آنلاین مقایسه کنند.

گاهی اوقات خلاصه‌ای از هوش مصنوعی در بالای صفحه ظاهر می‌شود که اطلاعات مرتبط را از وب جمع‌آوری می‌کند. با وجود هشدار مبنی بر اینکه «هوش مصنوعی می‌تواند اشتباه کند»، نمایش اطلاعات نادرست به طور برجسته می‌تواند به راحتی عموم را گمراه کند.

فول فکت توصیه می‌کند که ابزار بررسی اجمالی هوش مصنوعی گوگل لنز به عنوان یک نقطه شروع در نظر گرفته شود، نه جایگزینی برای بررسی دستی واقعیت، و برای مقایسه به دنبال منابع معتبر بیشتری باشید.

این اولین باری نیست که نتایج جستجوی گوگل اطلاعات نادرستی را نشان می‌دهد. Full Fact می‌گوید که از گوگل و Google.org بودجه دریافت کرده است، اما استقلال کامل تحریریه را حفظ می‌کند.

بازگشت به موضوع

پنجشنبه آنه

منبع: https://tuoitre.vn/google-lens-hien-thi-thong-tin-sai-lech-ve-hinh-anh-20250814110509932.htm