OpenAI هشدار می‌دهد که هکرها از هوش مصنوعی برای انجام عملیات پیچیده‌تر استفاده می‌کنند.

OpenAI هشدار می‌دهد که گروه‌های هکری در سراسر جهان از هوش مصنوعی برای ساخت بدافزار، ایجاد ایمیل‌های فیشینگ و جمع‌آوری داده‌ها سوءاستفاده می‌کنند و این امر تشخیص و جلوگیری از حملات سایبری را دشوارتر می‌کند.

گزارش اکتبر OpenAI نشان داد که عاملان سایبری در سطح جهان، عمدتاً هوش مصنوعی (AI) را در خطوط حمله موجود ادغام می‌کنند تا عملکرد را بهبود بخشند، نه اینکه ابزارها یا روش‌های حمله کاملاً جدیدی را توسعه دهند.

طبق گزارش OpenAI، بخش عمده‌ای از فعالیت‌های شناسایی‌شده شامل استفاده از هوش مصنوعی برای کمک به انجام وظایف آشنایی مانند توسعه بدافزار، ایجاد زیرساخت‌های کنترل، ایجاد ایمیل‌های فیشینگ پیچیده‌تر و جمع‌آوری اطلاعات در مورد اهداف بوده است.

در این گزارش آمده است: «تیم‌های مسدود شده عمدتاً هوش مصنوعی را در فرآیندهای موجود ادغام می‌کردند، به جای اینکه فرآیندهای جدیدی را بر اساس هوش مصنوعی بسازند.»

این گزارش همچنین نشان داد که بسیاری از گروه‌های کاربری از مدل‌های زبان بزرگ (LLM) برای استخراج دانش در حوزه‌های فنی مختلف، از توسعه برنامه‌های کاربردی گرفته تا پیکربندی سیستم شبکه، استفاده کرده‌اند، اغلب به گونه‌ای که هر حساب کاربری را برای یک کار خاص اختصاص می‌دهد.

چندین شبکه کاربری دیگر نیز شناسایی شده‌اند که از پلتفرم‌های هوش مصنوعی برای تولید محتوای آنلاین، از جمله مقالات، تصاویر و ویدیوها ، برای خدمت به کمپین‌های رسانه‌ای یا ترویج دیدگاه‌های خاص استفاده می‌کنند. با این حال، اکثر این حساب‌ها بی‌اثر هستند و سطح تعامل بسیار پایینی دارند.

علاوه بر این، OpenAI پدیده مراکز کلاهبرداری و مجرمان سایبری را که از ChatGPT برای پشتیبانی از فعالیت‌های کلاهبرداری آنلاین در میانمار و کامبوج استفاده می‌کنند، ثبت کرده است. برخی موارد نشان می‌دهد که هوش مصنوعی نه تنها برای ویرایش محتوا، بلکه برای مدیریت برنامه‌های کاری، منابع انسانی و امور مالی نیز استفاده می‌شود.

با این حال، OpenAI خاطرنشان می‌کند که هوش مصنوعی به طور فعال برای جلوگیری از کلاهبرداری نیز مورد استفاده قرار می‌گیرد. تخمین زده می‌شود که ChatGPT سه برابر بیشتر برای شناسایی و جلوگیری از کلاهبرداری نسبت به ارتکاب کلاهبرداری استفاده می‌شود.

بیشتر درخواست‌های مخرب توسط سیستم رد می‌شوند، اما این گزارش خاطرنشان می‌کند که هنوز یک «منطقه خاکستری» وجود دارد که در آن درخواست‌های فنی یا تحقیقاتی می‌توانند برای اهداف ناخواسته مورد سوءاستفاده قرار گیرند.

با این حال، OpenAI ادعا می‌کند که کد یا محتوای ایجاد شده تا زمانی که در خارج از پلتفرم مورد سوءاستفاده قرار نگیرد، مخرب نیست./.

(TTXVN/ویتنام+)

منبع: https://www.vietnamplus.vn/openai-canh-bao-tin-tac-loi-dung-ai-de-hoat-dong-tinh-vi-hon-post1068941.vnp