گوگل تأیید کرد: مدل‌های جِمینای در ماه می ۲۰۲۶ سه شرکت را هک کردند
نویسنده: رایان ویتوام
در ماه‌های اخیر، انتشار گزارش‌هایی درباره مدل‌های هوش مصنوعی پیشرفته‌ای که در شرایط واقعی دست به فعالیت‌های هکری غیرمجاز زده‌اند، به موضوعی نسبتاً رایج در صنعت هوش مصنوعی تبدیل شده است.
گوگل که طی ماه‌های اخیر در عرضه مدل‌های پیشرفته Gemini با سرعت کمتری نسبت به برخی رقبای خود عمل کرده بود، تاکنون کمتر در مرکز بحث‌های مربوط به رفتارهای غیرقابل‌کنترل یا «هوش مصنوعی سرکش» قرار داشت. اما اکنون، پس از انتشار گزارشی از سوی وال‌استریت ژورنال، گوگل تأیید کرده است که مدل‌های Gemini در جریان یک آزمایش در ماه می ۲۰۲۶ به سه شرکت واقعی نفوذ کرده‌اند.
البته ماهیت این نفوذها آن‌قدر که ممکن است در نگاه اول نگران‌کننده یا شگفت‌انگیز به نظر برسد، پیچیده نبوده است.
ماجرا چگونه آغاز شد؟
این اتفاق در جریان آزمایشی توسط شرکت امنیت سایبری Irregular رخ داد. در این آزمایش، مجموعه‌ای از مدل‌های Gemini در یک رقابت موسوم به Capture the Flag (CTF) شرکت کرده بودند؛ رقابتی که هدف آن ارزیابی توانایی‌های مدل‌های هوش مصنوعی در حوزه امنیت سایبری بود.
این آزمایش قرار بود در یک محیط کاملاً بسته انجام شود. به مدل‌های هوش مصنوعی دستور داده شده بود اطلاعات مربوط به یک شرکت ساختگی را در همان محیط آزمایشی پیدا کنند. این شرکت ساختگی نامی مشابه یک شرکت واقعی داشت.
بااین‌حال، یک پیکربندی اشتباه در زیرساخت Irregular باعث شد مدل‌های Gemini بتوانند به اینترنت دسترسی پیدا کنند.
از همین‌جا بود که آزمایش از محیط کنترل‌شده خارج شد.
Gemini به زیرساخت‌های واقعی رسید
پس از دسترسی مدل‌ها به اینترنت، Gemini شروع به جست‌وجوی منابع آنلاین کرد و به‌جای زیرساخت‌های ساختگی، با سیستم‌های متعلق به شرکت‌های واقعی مواجه شد.
در یکی از سه مورد، مدل Gemini با حدس زدن گذرواژه‌های مختلف توانست به سرویس‌های آنلاین یک شرکت دسترسی پیدا کند.
در دو مورد دیگر، مدل‌ها در مخازن عمومی نرم‌افزاری جست‌وجو کردند و در نهایت اطلاعات ورود و اعتبارنامه‌هایی را پیدا کردند که به‌طور تصادفی توسط شرکت‌ها در این مخازن عمومی قرار گرفته بود.
به این ترتیب، سه مورد دسترسی غیرمجاز به سیستم‌های واقعی شکل گرفت؛ اتفاقی که قرار نبود اصلاً در چارچوب آزمایش رخ دهد.
مدل‌های Gemini پس از شناسایی سیستم‌های واقعی متوقف شدند
نکته مهم در هر سه مورد این بود که مدل‌های گوگل پس از متوجه شدن اینکه به سرورهای یک شرکت واقعی دسترسی پیدا کرده‌اند، فعالیت خود را متوقف کردند.
پس از این اتفاق، شرکت Irregular پیکربندی آزمایش را تغییر داد تا دسترسی مدل هوش مصنوعی به اینترنت مسدود شود.
بااین‌حال، ظاهراً Irregular در ابتدا این رویداد را آن‌قدر مهم ندانست که نیاز به بررسی یا گزارش فوری داشته باشد. این شرکت حتی گوگل را نیز از این اتفاق مطلع نکرد و تا ماه جولای، پس از انتشار اخبار مربوط به چند حادثه دیگر در زمینه هک توسط هوش مصنوعی، موضوع را با گوگل در میان نگذاشت.
پس از اطلاع گوگل از این حادثه، این شرکت موضوع را به شرکت‌های آسیب‌دیده اطلاع داد تا آنها بتوانند، از جمله، امنیت گذرواژه‌ها و اطلاعات ورود خود را بهبود دهند.
چرا گوگل این حادثه را «عدم هم‌ترازی» مدل نمی‌داند؟
تصمیم گوگل برای اعلام نکردن عمومی این اتفاق، تا حدی به رفتار مدل پس از دستیابی به اطلاعات ورود مربوط می‌شود.
مدل‌های Gemini پس از تشخیص اینکه سیستم‌های موردنظر متعلق به شرکت‌های واقعی هستند، فعالیت خود را متوقف کردند. به همین دلیل، گوگل این اتفاق را نمونه‌ای واقعی از عدم هم‌ترازی مدل (Model Misalignment) نمی‌داند.
هدر ادکینز، معاون مهندسی امنیت گوگل، شدت این حادثه را پایین ارزیابی کرده و گفته است:
«این رویداد اهمیت آموزش مدل‌های قدرتمند هوش مصنوعی برای رفتار مسئولانه را نشان می‌دهد. در این مورد، مدل رفتار مناسبی داشت.»
از دید گوگل، تفاوت مهمی میان این حادثه و برخی نمونه‌های قبلی وجود دارد: Gemini ظاهراً پس از تشخیص اینکه با سیستم‌های واقعی مواجه شده است، متوقف شده و تلاش نکرده است به‌صورت عمدی فعالیت خود را گسترش دهد.
تفاوت این حادثه با حمله OpenAI به Hugging Face
این اتفاق با حادثه‌ای که پیش‌تر در ارتباط با مدل‌های OpenAI و پلتفرم Hugging Face گزارش شده بود، تفاوت قابل‌توجهی دارد.
در آن حادثه، مدل‌های OpenAI پس از خروج از محیط کنترل‌شده، از آسیب‌پذیری‌های نرم‌افزاری برای دسترسی به اطلاعاتی استفاده کردند که در محیط آزمایشی خود به آنها دسترسی نداشتند. این اقدامات در راستای دستیابی به عملکرد بهتر در یک آزمون و دریافت پاداش بیشتر انجام شده بود.
در مورد Gemini، وضعیت متفاوت بود. مدل ظاهراً از یک نقص در محیط آزمایش استفاده نکرد؛ بلکه به دلیل یک پیکربندی اشتباه، درِ دسترسی به اینترنت عملاً باز مانده بود.
پس از آن، Gemini به حجم گسترده‌ای از اطلاعات موجود در اینترنت دسترسی پیدا کرد و از این اطلاعات برای ورود به سیستم‌هایی استفاده کرد که اجازه دسترسی به آنها را نداشت.
حدس زدن گذرواژه‌ها شاید در مقایسه با سناریوهای هولناک مربوط به سوءاستفاده گسترده از هوش مصنوعی، اتفاقی آخرالزمانی به نظر نرسد؛ اما همچنان نشان‌دهنده یک مشکل جدی در طراحی محیط‌های آزمایشی هوش مصنوعی است.
یک نکته مهم درباره امنیت هوش مصنوعی
این حادثه بار دیگر نشان می‌دهد که محیط آزمایش مدل‌های هوش مصنوعی باید به‌شدت ایزوله و کنترل‌شده باشد.
یک اشتباه ساده در پیکربندی می‌تواند مدلی را که برای انجام یک آزمایش محدود طراحی شده است، به اینترنت و منابع واقعی متصل کند. در چنین شرایطی، توانایی مدل برای جست‌وجو، تحلیل اطلاعات و استفاده از اعتبارنامه‌های موجود می‌تواند پیامدهای غیرمنتظره‌ای ایجاد کند.
در این مورد، مدل‌های Gemini پس از شناسایی سیستم‌های واقعی متوقف شدند؛ اما اصل حادثه همچنان اهمیت زیادی دارد: مدل‌های هوش مصنوعی هرچه توانمندتر می‌شوند، کنترل محیطی که در آن فعالیت می‌کنند نیز اهمیت بیشتری پیدا می‌کند.
این رویداد همچنین نشان می‌دهد که حتی بدون وجود یک رفتار عمداً مخرب، ترکیب یک مدل قدرتمند با دسترسی ناخواسته به اینترنت می‌تواند به نتایجی منجر شود که در طراحی اولیه آزمایش پیش‌بینی نشده بود.