چین به چت‌بات‌های هوش مصنوعی حمله می‌کند.

این مقررات جدید به چین کمک می‌کند تا کنترل خود را بر چت‌بات‌های هوش مصنوعی تشدید کند و هدف آن جلوگیری از انتشار محتوای مربوط به خودکشی، قمار و پورنوگرافی است.

چت‌بات‌های هوش مصنوعی توانایی دستکاری احساسات کاربران را دارند. عکس : AFP

چین در حال برنامه‌ریزی برای تشدید کنترل‌ها بر چت‌بات‌های هوش مصنوعی است که قادر به تأثیرگذاری بر احساسات انسانی، به ویژه آن‌هایی که محتوایی ترویج‌دهنده خودکشی، خودآزاری یا سایر رفتارهای مضر دارند، هستند. این اقدام در پیش‌نویس مقررات جدیدی که توسط اداره فضای مجازی چین در ۲۷ دسامبر منتشر شد، تشریح شده است.

طبق ترجمه CNBC از این سند ، این پیش‌نویس «خدمات هوش مصنوعی تعاملی انسان‌مانند» را هدف قرار می‌دهد، به این معنی که سیستم‌های هوش مصنوعی قادر به تقلید از شخصیت، رفتار و ارتباط انسانی از طریق متن، تصاویر، صدا یا ویدیو هستند. این مقررات پس از نهایی شدن، برای همه محصولات و خدمات هوش مصنوعی که به طور عمومی در چین ارائه می‌شوند، اعمال خواهد شد. دوره اظهار نظر عمومی تا 25 ژانویه ادامه دارد.

وینستون ما، استاد مدعو دانشکده حقوق دانشگاه نیویورک (NYU)، معتقد است که این می‌تواند اولین تلاش جهان برای ایجاد یک چارچوب قانونی خاص برای سیستم‌های هوش مصنوعی با ویژگی‌های «شبیه انسان» باشد. او خاطرنشان می‌کند که این پیشنهاد در حالی مطرح می‌شود که شرکت‌های چینی در حال تسریع توسعه دستیاران مجازی هوش مصنوعی هستند.

آقای ما معتقد است که در مقایسه با مقررات هوش مصنوعی چین که در سال ۲۰۲۳ صادر شد، پیش‌نویس جدید نشان‌دهنده‌ی تغییر تمرکز از «ایمنی محتوا» به «ایمنی عاطفی» است که نشان‌دهنده‌ی نگرانی فزاینده در مورد تأثیر روانی هوش مصنوعی بر کاربران است.

پیش‌نویس مقررات بیان می‌کند که چت‌بات‌های هوش مصنوعی نباید محتوایی ایجاد کنند که خودکشی، خودآزاری یا خشونت کلامی را تشویق کند و همچنین هیچ نوع دستکاری عاطفی که به سلامت روان آسیب برساند، نباید ایجاد شود. در مواردی که کاربر قصد خودکشی را ابراز می‌کند، ارائه‌دهنده خدمات فناوری باید کسی را مسئول مکالمه کند و فوراً با سرپرست یا فرد تعیین‌شده کاربر تماس بگیرد.

علاوه بر این، چت‌بات‌های هوش مصنوعی از ایجاد محتوای مربوط به قمار، پورنوگرافی یا خشونت منع شده‌اند. افراد زیر سن قانونی فقط با رضایت قیم مجاز به استفاده از هوش مصنوعی برای حمایت عاطفی هستند و باید به محدودیت‌های زمانی پایبند باشند.

چین در حال تشدید مقررات مربوط به چت‌بات‌های هوش مصنوعی است. عکس: بلومبرگ .

این پیشنهاد اندکی پس از آن اعلام شد که دو استارتاپ بزرگ چینی در حوزه چت‌بات‌های هوش مصنوعی، Z.ai و Minimax، در ماه دسامبر برای عرضه اولیه سهام (IPO) در هنگ کنگ درخواست دادند.

شرکت Minimax به خاطر اپلیکیشن Talkie AI و نسخه داخلی آن، Xingye، شناخته می‌شود که بیش از یک سوم درآمد این شرکت را در سه فصل اول سال با میانگین بیش از 20 میلیون کاربر فعال ماهانه به خود اختصاص داده است. در همین حال، Z.ai (Zhipu) اعلام کرد که فناوری آن تقریباً روی 80 میلیون دستگاه مستقر شده است، اگرچه تعداد مشخصی از کاربران فعال را فاش نکرد.

در سطح جهانی، تأثیر هوش مصنوعی بر سلامت روان انسان توجه فزاینده‌ای را به خود جلب می‌کند، زیرا بسیاری از کشورها و شرکت‌های فناوری شروع به مقابله با خطرات اجتماعی ناشی از این فناوری کرده‌اند.

منبع: https://znews.vn/trung-quoc-ra-don-voi-chatbot-ai-post1615236.html