گزارش اکتبر OpenAI نشان میدهد که عاملان سایبری در سطح جهان، عمدتاً هوش مصنوعی (AI) را در فرآیندهای حمله موجود ادغام میکنند تا کارایی را بهبود بخشند، نه اینکه ابزارها یا روشهای حمله کاملاً جدیدی را توسعه دهند.
طبق گفته OpenAI، اکثر فعالیتهای شناساییشده شامل استفاده از هوش مصنوعی برای کمک به وظایف آشنایی مانند توسعه بدافزار، ایجاد زیرساختهای کنترل، ایجاد ایمیلهای فیشینگ پیچیدهتر و جمعآوری اطلاعات در مورد اهداف است.
در این گزارش آمده است: «تیمهای مسدود شده عمدتاً هوش مصنوعی را در فرآیندهای موجود ادغام کردند، به جای اینکه فرآیندهای جدید مبتنی بر هوش مصنوعی بسازند.»
این گزارش همچنین نشان میدهد که بسیاری از گروههای کاربری از مدلهای زبان بزرگ (LLM) برای بهرهبرداری از دانش در زمینههای فنی مختلف، از توسعه برنامههای کاربردی گرفته تا پیکربندی سیستم شبکه، اغلب با تمرکز بر تخصصی کردن هر حساب برای وظایف خاص، استفاده کردهاند.
چندین شبکه کاربری دیگر نیز شناسایی شدهاند که از پلتفرمهای هوش مصنوعی برای ایجاد محتوای آنلاین، از جمله مقالات، تصاویر و ویدیوها ، برای خدمت به کمپینهای رسانهای یا ترویج دیدگاههای خاص استفاده میکنند. با این حال، اکثر این حسابها بیاثر هستند و سطح تعامل بسیار پایینی دارند.
علاوه بر این، OpenAI مواردی از استفاده مراکز کلاهبرداری و جرایم سایبری از ChatGPT برای تسهیل فعالیتهای کلاهبرداری آنلاین در میانمار و کامبوج را نیز مشاهده کرده است. برخی موارد نشان میدهد که هوش مصنوعی نه تنها برای تولید محتوا، بلکه برای مدیریت برنامهها، پرسنل و امور مالی نیز مورد استفاده قرار میگیرد.
با این حال، OpenAI تأکید میکند که هوش مصنوعی به طور فعال در پیشگیری از کلاهبرداری نیز مورد استفاده قرار میگیرد. تخمین زده میشود که کاربران ChatGPT سه برابر بیشتر از ارتکاب کلاهبرداری، از آن برای شناسایی و جلوگیری از کلاهبرداری استفاده میکنند.
در حالی که اکثر درخواستهای مخرب توسط سیستم رد میشوند، این گزارش خاطرنشان میکند که هنوز یک «منطقه خاکستری» وجود دارد - جایی که درخواستهای فنی یا تحقیقاتی میتوانند برای اهداف ناخواسته مورد سوءاستفاده قرار گیرند.
با این حال، OpenAI معتقد است که کد یا محتوایی که تولید میکند تا زمانی که خارج از پلتفرم مورد سوءاستفاده قرار نگیرد، مخرب نیست.
(ویتنام/ویتنام+)
منبع: https://www.vietnamplus.vn/openai-canh-bao-tin-tac-loi-dung-ai-de-hoat-dong-tinh-vi-hon-post1068941.vnp
نظر (0)