نگرانی‌ها در مورد کلاهبرداری‌هایی که از توانایی ChatGPT در ایجاد تصاویر واقع‌گرایانه ناشی می‌شود.

ChatGPT «مثل یک عکس نقاشی می‌کند»

در تاریخ ۲۶ مارس، جوامع کاربران هوش مصنوعی در سراسر جهان و ویتنام، زمانی که OpenAI رسماً Images in ChatGPT، ابزاری متمرکز بر ایجاد تصویر، را برای کاربران مدل هوشمند خود منتشر کرد، بسیار هیجان‌زده شدند. پیش از این، ChatGPT نیز قابلیت‌های ایجاد تصویر داشت، اما این قابلیت‌ها محدود بودند و به مدل شناخته‌شده‌ی دیگری از تبدیل متن به تصویر به نام DALL-E متکی بودند.

توانایی این ابزار در تبدیل متن به نقاشی و انجام «ادغام تصویر با کیفیت فتوشاپ» به سرعت توجه را به خود جلب کرد. بسیاری از کاربران کیفیت تصویر خروجی را «شگفت‌انگیز» گزارش کردند و اکثر آنها آن را «برتر» از سایر مدل‌های هوش مصنوعی محبوب موجود در بازار ارزیابی کردند.

ChatGPT تنها با یک دستور ساده، تصاویر واقع‌گرایانه‌ای از فنجان قهوه ایجاد می‌کند.

به گفته گابریل گو، رئیس تحقیقات OpenAI، پیشرفت قابل توجه در قابلیت‌های تولید تصویر ChatGPT با استفاده از مدل GPT-4o، «اتصال» است - اصطلاحی که به میزان حفظ پیوند بین ویژگی‌ها و اشیاء توسط مولد تصویر هوش مصنوعی اشاره دارد. گو ادعا می‌کند که GPT-4o می‌تواند ویژگی‌های ۱۵ تا ۲۰ شیء مختلف را بدون خطا به طور دقیق پیوند دهد و به طور قابل توجهی دقت و قابلیت اطمینان محتوای تولید شده را بهبود بخشد.

ابزار Images در ChatGPT نه تنها در ایجاد تصویر عالی عمل می‌کند، بلکه یک نقطه ضعف اساسی در سایر ابزارهای ایجاد تصویر هوش مصنوعی را نیز برطرف می‌کند: رندر کردن متن درون تصاویر. در واقع، بسیاری از تصاویر حاوی متن به طور دقیق رندر می‌شوند و تشخیص تصاویر واقعی از جعلی را به طور فزاینده‌ای دشوار می‌کنند.

نقطه ضعف این ابزار، زمان نسبتاً طولانی ایجاد تصویر است، اما این زمان منطقی تلقی می‌شود زیرا این تأخیر به این دلیل است که تصاویر با کیفیت بالا با جزئیات دقیق و مطابق با توضیحات کاربر همیشه نیاز به صبر دارند. تیم تحقیقاتی اظهار داشت که مشکل تأخیر در آینده بهبود خواهد یافت.

نگرانی‌های زیادی در مورد احتمال دستکاری تصویر مطرح شده است.

فراتر از لذت اولیه‌ای که ChatGPT و OpenAI به کاربران ارائه می‌دهند، نگرانی‌ها در مورد امنیت اطلاعات، حریم خصوصی و خطر سوءاستفاده بار دیگر به اوج خود رسیده است. یک کاربر فیسبوک در ویتنام نگرانی خود را ابراز کرد: «به زودی، تصاویری که آنلاین می‌بینید ممکن است لزوماً واقعی نباشند»، زیرا می‌توانست از ChatGPT بخواهد تصاویری کاملاً ساختگی ایجاد کند که به اندازه عکس‌ها واقعی به نظر برسند، به عنوان مثال، تصویری از بازیگر و کشتی‌گیر سابق دواین جانسون (راک) که در حال تبلیغ یک برند آدامس است، یا یک گربه کالیکو که روی اجاق گاز نشسته و دقیقاً شبیه یک عکس است.

با دستورات دقیق ارائه شده، کاربران می‌توانند بدون نیاز به دانش عمیق در مورد ابزارهای سنتی ویرایش عکس، نتایج شگفت‌انگیزی خلق کنند.

در واقع، بسیاری از افراد حتی ویژگی «درآوردن لباس» این ابزار جدید را امتحان کرده‌اند. TN ( هانوی ) گفت که او از عکس یک مدل از اینترنت برای درخواست تعویض لباسش طبق درخواست ChatGPT استفاده کرده است و تقریباً همه درخواست‌ها با دقت بالا انجام شده است. TN به اشتراک گذاشت: «با این حال، چند بار درخواست‌ها رد شدند، عمدتاً به دلیل نقض سیاست‌های سیستم در مورد ایجاد تصاویر دارای حق چاپ یا محتوای بیش از حد وسوسه‌انگیز.»

در آزمایش‌هایی که توسط روزنامه Thanh Nien انجام شد، ChatGPT از ایجاد تصاویر مربوط به شخصیت‌های معروف یا دارای حق چاپ در دنیای واقعی یا در فیلم‌ها و کمیک‌ها خودداری کرد. وقتی از سیستم خواسته شد تصویری از دکتر استرنج که در ویتنام نشسته و چای سرد می‌نوشد، ایجاد کند، پاسخ داد: «من نمی‌توانم تصویر مورد درخواست را ایجاد کنم زیرا تصویر مرجعی که شما ارسال کردید به وضوح دکتر استرنج - یک شخصیت دارای حق چاپ از مارول - را نشان می‌دهد و این سیاست محتوای فعلی ما را نقض می‌کند.»

جکی شانون، رئیس بخش محصولات چندوجهی در ChatGPT، تأیید می‌کند که تصاویر موجود در ChatGPT محافظت قوی در برابر محتوای جعلی عمیق، مستهجن یا جعلی ارائه می‌دهند. نکته قابل توجه این است که تصاویر تولید شده شامل فراداده‌های استاندارد C2PA برای شناسایی آنها به عنوان محصولات هوش مصنوعی هستند، اما برای تأیید به ابزار جداگانه‌ای نیاز دارند.

با این حال، بسیاری از مردم هنوز با موفقیت «قوانین را دور می‌زنند» و از تصاویر افراد مشهور برای اهداف سرگرمی استفاده می‌کنند. به عنوان مثال، تصویری از تیم کوک، مدیرعامل، که به جای آیفون، یک گوشی سامسونگ در دست دارد، یا تصویری از رابرت داونی جونیور، بازیگر، که در حال جویدن یک آب نبات گیاهی است، یا مجموعه‌ای از نقاشی‌ها از کریستیانو رونالدو و لیونل مسی که در یک کوچه کوچک در ویتنام و در مقابل دیدگان بسیاری از تماشاگران برای گرفتن توپ رقابت می‌کنند...

منبع: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm