هوش مصنوعی: جنبه‌ی تاریک ابزار Whisper

استفاده از Whisper برای ایجاد زیرنویس برای افراد کم شنوا نیز مشکل‌ساز است، زیرا آنها هیچ راهی برای تشخیص اطلاعات نادرست پنهان در میان میلیون‌ها کلمه تولید شده ندارند.

عکس نمایشی. (منبع: Voicegain)

در عصری که هوش مصنوعی (AI) به بخش جدایی‌ناپذیر زندگی روزمره تبدیل می‌شود، ابزاری به نام Whisper که توسط OpenAI توسعه داده شده است، به لطف توانایی‌اش در یادداشت‌برداری خودکار با دقتی تقریباً مشابه انسان، توجه زیادی را به خود جلب کرده است.

با این حال، ویسپر، در پس این تحسین‌ها، با انتقادهای شدیدی به دلیل یک نقص جدی مواجه است: توانایی آن در داستان‌سرایی خودکار، یعنی تولید متن یا حتی جملاتی که تاکنون کسی ننوشته است.

به گفته مهندسان نرم‌افزار و محققان، جزئیات ساختگی نه تنها باعث سردرگمی می‌شوند، بلکه می‌توانند حاوی نظرات نژادپرستانه، زبان خشونت‌آمیز و درمان‌های پزشکی غیرواقعی نیز باشند.

اگرچه OpenAI هشدار داده است که این ابزار نباید در «مناطق پرخطر» استفاده شود، اما بسیاری از مراکز پزشکی هنوز هم به طور فعال از Whisper برای ثبت مشاوره‌های پزشک-بیمار استفاده می‌کنند.

در واقع، یک مطالعه اخیر نشان داد که تا ۸۰٪ از فایل‌های صوتی ضبط‌شده در یک نظرسنجی از جلسات عمومی حاوی این جزئیات ساختگی بوده‌اند. یک مهندس یادگیری ماشینی همچنین خاطرنشان کرد که تجزیه و تحلیل بیش از ۱۰۰ ساعت از متن‌های Whisper نشان داد که حدود ۵۰٪ از آنها حاوی خطاهای جدی هستند و نگرانی‌هایی را در مورد قابلیت اطمینان این فناوری که به طور فزاینده‌ای مورد استفاده قرار می‌گیرد، ایجاد می‌کند.

کارشناسان هشدار می‌دهند که خطاها می‌توانند به «عواقب واقعاً جدی» منجر شوند، به خصوص در حوزه پزشکی.

آلوندرا نلسون، مدیر سابق دفتر سیاست علم و فناوری کاخ سفید، تأکید کرد که هیچ‌کس تشخیص اشتباه نمی‌خواهد و خواستار استانداردهای بالاتر در کاربرد این فناوری شد.

استفاده از Whisper برای ایجاد زیرنویس برای افراد کم شنوا نیز مشکل‌ساز است، زیرا آنها هیچ راهی برای تشخیص اطلاعات نادرست پنهان در میان میلیون‌ها کلمه تولید شده ندارند.

افزایش متون تخیلی باعث شده است که بسیاری از کارشناسان، فعالان و کارمندان سابق OpenAI از دولت فدرال بخواهند که هوش مصنوعی را تنظیم کند.

ویلیام ساندرز، یک مهندس محقق در سانفرانسیسکو، معتقد است که اگر OpenAI رسیدگی به این مشکل را در اولویت قرار دهد، این مشکل کاملاً قابل حل است.

OpenAI اذعان کرده است که دائماً در تلاش است تا جزئیات تخیلی را به حداقل برساند و از بازخورد جامعه تحقیقاتی قدردانی می‌کند.

با این حال، بسیاری از مهندسان هنوز ادعا می‌کنند که هرگز ابزار یادداشت‌برداری هوش مصنوعی دیگری با سطح داستانی به بلندی Whisper./ ندیده‌اند.

(TTXVN/ویتنام+)

منبع: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp