به گزارش سیما صنعت ،در نسخه دستکاریشده، هوش مصنوعی بهطور مرحلهای کار میکند:مدل تمام دادههای عمومی و خصوصی مربوط به قربانیان را جمعآوری میکند؛ از شبکههای اجتماعی گرفته تا متادیتای فایلها و ردپای دیجیتال سازمانها.پسوردها، کلیدهای API، و گواهیهای امنیتی شناسایی و استخراج میشوند. طبق گزارش، هوش مصنوعی حتی توانایی دور زدن برخی مکانیزمهای احراز هویت چندمرحلهای را هم داشته است و با استفاده از اسکن خودکار آسیبپذیریها، مدل میتواند به شبکههای سازمانی دسترسی پیدا کند و بدافزارهای ثانویه تزریق کند.
نکتهی بسیار نگرانکننده این است که این فرایند به هیچ دانش یا تجربه هک نیاز ندارد. به عبارتی، هر فردی میتواند تنها با چند دستور ساده، حملهای پیچیده را راهاندازی کند. این موضوع باعث میشود که جرایم سایبری از انحصار هکرهای حرفهای خارج شود و حتی افراد عادی هم قادر به سوءاستفاده باشند.
کارشناسان امنیتی میگویند این روند میتواند منجر به:
-
افزایش چشمگیر باجافزارها و حملات فیشینگ هوشمند
-
سوءاستفاده گروههای مجرمانه سازمانیافته از AI برای مقیاسپذیر کردن حملات
-
تهدید زیرساختهای حیاتی مثل سیستمهای مالی، انرژی و بهداشت
پیشنهادهای مقابلهای:
-
توسعهی AIهای نگهبان (AI Guardian) برای شناسایی و متوقف کردن مدلهای آلوده.
-
ایجاد قوانین سختگیرانه برای جلوگیری از انتشار کدهای آموزشدیده در حوزه هک.
-
آموزش کاربران و سازمانها درباره خطرات مدلهای زبان دستکاریشده.
-
افزایش همکاری بین دولتها و شرکتهای AI برای ردیابی و مسدود کردن این نوع سوءاستفادهها.
به گفته Anthropic، این اولین باره که یک مدل زبانی عمومی در ابعاد گسترده به یک ابزار جرم سایبری تبدیل شده و اگر روند کنترل نشه، در آینده ممکنه شاهد نسل جدیدی از هکرهای خودکار مبتنی بر AI باشیم.
انتهای پیام
