درس‌های آموخته‌شده در استفاده از هوش مصنوعی

(PLVN) - حادثه اخیر که در آن کمیته مردمی یک استان شمالی پس از کشف مجموعه‌ای از خطاهای جدی در گزارش ارائه شده به کمیته مردمی استان، سندی را برای اصلاح کار مشورتی یک بخش تخصصی صادر کرد؛ استفاده مشکوک از ابزارهای آنلاین و هوش مصنوعی (AI)؛ به عنوان درسی برای همه در هنگام استفاده از این ابزارها خواهد بود.

پیش از این، گزارش ارائه شده توسط این اداره به کمیته مردمی استان حاوی غلط‌های املایی متعدد، خطاهای فنی، تفسیر نادرست از موضوع و نادرستی‌های اساسی داده‌ها بود. این موارد شامل غلط املایی، حذف و تحریف کلمات بود: "mở dữ liệu" (داده های باز) به "mở dữ li" (داده های باز li)، "ươm tạo doanh nghiệp" (در حال رشد کسب و کارها) تبدیل به "x" (nơobating) thách thức» (فرصت ها و چالش ها) به «cơ hội và sơ thức» (فرصت ها و دانش اولیه)، «cuộc vận động» (کمپین) تبدیل به «cuộc đua vội vậngce» (7ộộc động) شد. nghị» (27 کنفرانس) به «27 hội viện" (27 مجلس)... این اشتباهات ابتدایی با فراوانی قابل توجهی ظاهر شدند، که نشان می‌دهد بررسی و تأیید اسناد قبل از امضا به طور دقیق انجام نشده است.

برخی از اصطلاحات فنی در گزارش مورد سوءاستفاده یا تحریف شدید قرار گرفته‌اند و ماهیت محتوای توصیه‌ای را کاملاً تغییر داده‌اند. برای مثال، عبارت «تقویت محور حمل و نقل کمربند مرزی» به «تقویت کمربند مرزی»؛ «ساخت نهالستان» به «ساخت نهال‌های مشابه»؛ «پلتفرم جلسات آنلاین» به «پلتفرم نمایشگاه آنلاین»؛ و «اکوسیستم آموزشی » به «سیستم آموزش نگرش زیستی» تغییر یافته است.

بسیاری از جنبه‌های مدیریت دولتی نیز به اشتباه تفسیر می‌شوند و مانع درک و اجرا می‌شوند. به عنوان مثال، عبارت «۹۴ پرونده را شناسایی، تأیید و رسیدگی کردند؛ در ۵۱ پرونده شامل ۹۱ متهم، مراحل قانونی را آغاز کردند» به «۹۴ وظیفه را شناسایی، تأیید و رسیدگی کردند؛ ۵۱ سرویس و ۹۱ دستگاه بالقوه را آغاز کردند» تغییر یافت که اطلاعات را کاملاً تحریف می‌کند و خطر قابل توجهی از سوء تفاهم در رهبری و مدیریت ایجاد می‌کند.

این گزارش همچنین حاوی خطاهایی مانند غلط املایی نام وظایف علمی ، برنامه‌ها و موضوعات تحقیقاتی؛ غلط املایی نام آثار و بناهای تاریخی و فرهنگی؛ و حتی تحریف نام اسناد قانونی، سازمان‌های صادرکننده و محتوای مورد استناد است که گزارش را از نظر قانونی بی‌اعتبار و غیرقابل استفاده می‌کند.

بسیاری از نظرات حاکی از آن است که «گزارش» مذکور، ویژگی‌های استفاده از ابزارهای آنلاین و هوش مصنوعی در تهیه پیش‌نویس سند را نشان می‌دهد، اما بدون کنترل، بررسی یا ارزیابی توسط کارکنان حرفه‌ای. این یک پدیده بسیار خطرناک است، زیرا یک بخش تخصصی، قبل از صدور گزارش مشورتی، باید از چندین «فیلتر» عبور کند، از متخصصان و بخش‌های عملکردی گرفته تا رهبران. با این حال، این «فیلترها» مشکلاتی دارند و اجازه می‌دهند چنین گزارش بی‌دقت و غیرمسئولانه‌ای از قلم بیفتد.

این حادثه همچنین نشان می‌دهد که کاربر ابزار آنلاین، هوش مصنوعی، که این «گزارش» را ایجاد کرده، بند ۲، ماده ۴ قانون هوش مصنوعی را در مورد اصل اساسی در عملیات هوش مصنوعی نقض کرده است، که بیان می‌کند: «هوش مصنوعی در خدمت بشریت است، جایگزین اختیار و مسئولیت انسانی نمی‌شود. این امر حفظ کنترل انسان و توانایی مداخله در تمام تصمیمات و اقدامات سیستم هوش مصنوعی را تضمین می‌کند.» در این مورد، نمی‌توان این احتمال را رد کرد که مقام مسئول، کار تهیه گزارش را به طور کامل به هوش مصنوعی برون‌سپاری کرده و در نتیجه «محصول» مذکور حاصل شده است.

پس از این حادثه، رئیس کمیته مردمی محلی از مدیر بخش مربوطه درخواست کرد تا علت را بررسی و روشن کند، کار مشاوره‌ای را به طور جامع اصلاح کند و روند استفاده از هوش مصنوعی را سختگیرانه‌تر کند. برای همه، این همچنین یک درس جدی در مورد استفاده از ابزارهای دیجیتال و هوش مصنوعی است؛ مهم است به یاد داشته باشیم که هوش مصنوعی در بسیاری از فعالیت‌ها فقط می‌تواند در خدمت پشتیبانی از انسان‌ها باشد؛ باید توسط انسان‌ها بررسی، کنترل و پاسخگو باشد.

منبع: https://baophapluat.vn/bai-hoc-trong-su-dung-ai.html