زمانی که هوش مصنوعی از مشاور به مهاجم تبدیل میشود
با گذشت بیش از دو سال از انقلاب چتباتهای هوش مصنوعی، شاید فکر میکردیم که بدترین سناریوهای این فناوری را دیدهایم. اما به نظر میرسد که اتفاق تازهای که شرکت Anthropic افشا کرده، نقطه عطفی در تاریخ جرایم سایبری باشد. هکرهای تحت حمایت دولت چین از ابزار کدنویسی هوش مصنوعی این شرکت برای اجرای یک حمله سایبری "در مقیاس بزرگ" با دخالت محدود انسانی استفاده کردند.
این ماجرا از اواسط سپتامبر 2025 شروع شد. تیم امنیتی Anthropic فعالیتهای مشکوکی را شناسایی کرد که بعدها مشخص شد یک کمپین جاسوسی بسیار پیچیده است. در واقع، آنچه که این حمله را از سایر حملات سایبری متمایز میکند، میزان استفاده از قابلیتهای "عاملی" (Agentic) هوش مصنوعی است - یعنی استفاده از AI نه تنها به عنوان مشاور، بلکه برای اجرای خود حملات سایبری.
چگونه هکرها موانع امنیتی Claude را دور زدند؟
سوال اینجاست: اگر مدلهای هوش مصنوعی مانند Claude بهطور گستردهای برای جلوگیری از رفتارهای مخرب آموزش دیدهاند، پس چگونه هکرها توانستند از آن سوءاستفاده کنند؟ پاسخ در تکنیکی به نام "جیلبریکینگ" نهفته است. مهاجمان حملات خود را به وظایف کوچک و بهظاهر بیگناهی تقسیم کردند که Claude بدون دریافت زمینه کامل از هدف مخرب آنها اجرا میکرد. علاوه بر این، آنها خود را به عنوان کارمند یک شرکت امنیت سایبری که در حال انجام تستهای دفاعی است، معرفی کردند.
Claude همچنین نام کاربری و رمزهای عبور را برای دسترسی به دادههای حساس جمعآوری کرد و سپس کار خود را در گزارشهای دقیق پس از عملیات خلاصه کرد، شامل اعتبارنامههایی که استفاده کرده، درهای پشتی که ایجاد کرده و سیستمهایی که نقض شده بودند. تصور کنید یک هکر دیجیتال که نه تنها حمله میکند، بلکه گزارش کامل عملیات خود را هم تهیه میکند!
سرعت نور در دنیای هک؛ هزاران درخواست در ثانیه!
یکی از نگرانکنندهترین جنبههای این حمله، سرعت آن بود. در اوج حمله، هوش مصنوعی هزاران درخواست، اغلب چندین درخواست در هر ثانیه انجام میداد - سرعتی که برای هکرهای انسانی، به سادگی غیرقابل رقابت بود. این یعنی کاری که شاید برای یک تیم کامل از هکرهای حرفهای روزها یا هفتهها طول بکشد، حالا در عرض چند ساعت توسط یک سیستم هوش مصنوعی قابل انجام است.
طبق گزارش Anthropic، عامل تهدید توانست از هوش مصنوعی برای انجام 80 تا 90 درصد کمپین استفاده کند، با دخالت انسانی که تنها بهصورت پراکنده (شاید 4 تا 6 نقطه تصمیمگیری حیاتی در هر کمپین هک) مورد نیاز بود. این به معنای تغییر بنیادین در اقتصاد جرایم سایبری است. با این حال، خبر خوب این است که Claude همیشه کامل کار نکرد. گاهی اوقات اعتبارنامههای تصادفی تولید میکرد یا ادعا میکرد که اطلاعات محرمانهای را استخراج کرده که در واقع اطلاعات عمومی بوده است!
مجله تخصصی هوش مصنوعی آرتین: تحلیل عمیقتر
همانطور که مجله تخصصی هوش مصنوعی آرتین بارها تاکید کرده، پیشرفتهای سریع در حوزه عاملهای هوش مصنوعی (AI Agents) میتواند شمشیر دو لبهای باشد. در حالی که این فناوریها میتوانند بهرهوری و کارایی را بهطور چشمگیری افزایش دهند، اما همانطور که این حادثه نشان میدهد، آنها میتوانند در دستان افراد مخرب به ابزارهای قدرتمندی برای حملات سایبری تبدیل شوند.
کریس کربز، رئیس سابق آژانس امنیت سایبری و امنیت زیرساختهای دولت فدرال آمریکا، به شبکه خبری CBS گفت که دیدن یک حمله سایبری هوش مصنوعی به این شکل "بسیار وحشتناک" است. او افزود: "به عنوان متخصصان امنیت، ما نزدیک به یک دهه است که درباره رویدادها و حملاتی مانند این صحبت میکنیم."
واکنش چین و جامعه جهانی
سخنگوی سفارت چین در ایالات متحده در بیانیهای گفت که چین "به شدت با همه اشکال حملات سایبری مطابق با قانون مخالفت و با آنها مبارزه میکند" و افزود: "ما با حملات و تهمتهای بیاساس علیه چین مخالفیم". این واکنش از نوعی است که معمولاً در چنین موارد جهانی مشاهده میشود، اما سوال اصلی این است: آیا جامعه بینالمللی آمادگی مقابله با نسل جدید تهدیدات سایبری مبتنی بر هوش مصنوعی را دارد؟
Anthropic در اقدامی فوری، در طول 10 روز پس از شناسایی حمله، دسترسی گروه به Claude را قطع کرد و با سازمانهای آسیبدیده و مجریان قانون تماس گرفت. این شرکت همچنین اعلام کرد که قابلیتهای تشخیص خود را برای شناسایی فعالیتهای بالقوه مخرب گسترش داده است.
آینده امنیت سایبری در عصر هوش مصنوعی
پرسشی که اکنون پیش روی ما قرار دارد این است: اگر مدلهای هوش مصنوعی میتوانند در این مقیاس مورد سوءاستفاده قرار گیرند، چرا باید به توسعه و انتشار آنها ادامه دهیم؟ پاسخ Anthropic این است که همان تواناییهایی که اجازه میدهند Claude در این حملات استفاده شود، آن را برای دفاع سایبری نیز حیاتی میکنند. به عبارت دیگر، در جنگ آینده امنیت سایبری، هوش مصنوعی هم سلاح مهاجمان و هم سپر مدافعان خواهد بود.
Anthropic توصیه میکند که تیمهای امنیتی با استفاده از هوش مصنوعی برای دفاع در حوزههایی مانند اتوماسیون مرکز عملیات امنیتی، تشخیص تهدید، ارزیابی آسیبپذیری و واکنش به حوادث آزمایش کنند. در واقع، همین تیم امنیت Anthropic نیز از Claude بهطور گسترده در تجزیه و تحلیل مقادیر عظیم دادههای تولید شده در طول این تحقیق استفاده کرد.
شان رن، استاد علوم کامپیوتر در دانشگاه USC و یکی از بنیانگذاران Sahara AI، به Decrypt گفت: "این یک مبارزه مداوم بین مهاجمان و مدافعان خواهد بود. بیشتر شرکتهای برتر مدلسازی مانند OpenAI و Anthropic تلاشهای بزرگی را برای ساخت تیمهای قرمز داخلی و تیمهای ایمنی هوش مصنوعی سرمایهگذاری کردهاند تا امنیت مدل را در برابر استفادههای مخرب بهبود بخشند."
نکات کلیدی برای کاربران و شرکتها
🎯 برای کاربران عادی:
- همیشه از احراز هویت دو مرحلهای استفاده کنید
- رمزهای عبور پیچیده و منحصر به فرد برای هر سرویس داشته باشید
- به روزرسانیهای امنیتی را فوراً نصب کنید
💡 برای شرکتها و سازمانها:
- سرمایهگذاری در سیستمهای تشخیص تهدید مبتنی بر هوش مصنوعی
- آموزش مستمر کارکنان درباره تهدیدات جدید
- استفاده از خود هوش مصنوعی برای تقویت دفاع سایبری
⚠️ هشدار مهم:
این حادثه نشان میدهد که موانع برای انجام حملات سایبری پیچیده بهطور قابل توجهی کاهش یافته است و احتمالاً این روند ادامه خواهد داشت.
مجله تخصصی هوش مصنوعی آرتین
🔗 مطالب مرتبط:
📌 اگر این مطلب برای شما مفید بود، آن را با دوستان خود به اشتراک بگذارید. نظرات و پیشنهادات خود را در بخش دیدگاهها با ما در میان بگذارید و با لایک کردن از ما حمایت کنید!
🔔 برای دریافت آخرین اخبار و مقالات تخصصی هوش مصنوعی، عضو کانال مجله آرتین شوید.
📱 ما را دنبال کنید:
- اینستاگرام: @ArtinMag
- توییتر/ایکس: @ArtinMag
- وبسایت: https://artinmag.ir
