هوش مصنوعی گوگل در جریان آزمایش، به سامانههای سه شرکت نفوذ کرد
اکسیوس نوشت: مدل هوش مصنوعی جمینی گوگل با استفاده از روشهای هک نسبتاً ابتدایی طی آزمایشهایی که در اوایل سال جاری انجام شد، توانست به سیستمهای سه شرکت نفوذ کند.
به گزارش «افق میهن»؛ چرا اهمیت دارد: گوگل یکی از معدود آزمایشگاههای هوش مصنوعی بود که تا آن زمان نقضهای امنیتی توسط عوامل هوش مصنوعی خود را در طول آزمایشهای معمول پیش از انتشار اعلام نکرده بود.
خبر مهم: گوگل روز جمعه وقوع این سه حادثه را که در ماه می رخ داد تایید کرد.
این حوادث بخشی از آزمایشی بود که توسط شرکت ارزیابی شخص ثالث Irregular انجام شد. این مشابه موارد دیگری است که در آن مدلهای هوش مصنوعی OpenAI، Anthropic و Meta نیز در طول آزمایشهای امنیتی به خطر افتادند.
وال استریت ژورنال اولین رسانه ای بود که این رویدادها را گزارش کرد.
آنچه آنها می گویند: “توسعه ایمن مدل های قدرتمند هوش مصنوعی از اهمیت حیاتی برخوردار است و ما سرمایه گذاری زیادی در این زمینه انجام می دهیم.” این را هدر ادکینز، معاون مهندسی امنیت گوگل در بیانیهای اعلام کرد.
ادکینز افزود که تیم او با مؤسسات آسیب دیده تماس گرفته و “با شریک آموزشی ما برای اجرای تغییراتی که اکنون در فرآیندهای آزمایشی آنها ایجاد شده است، کار کرده است.”
یک سخنگوی Irregular به Axios تأیید کرد که حادثه Gemini شامل همان آسیبپذیریهای امنیتی است که منجر به حوادث مشابه در مدلهای آزمایشگاههای هوش مصنوعی دیگر شده است.
سخنگوی وزارت امور خارجه همچنین در بیانیهای اعلام کرد که «در اواخر ماه جولای به تمامی آزمایشگاههای مربوطه اطلاع داده شد» و «همه مسائلی که برای ما شناخته شده بود هفتهها پیش بررسی و حل شده است».
جزئیات بیشتر: این نفوذ زمانی رخ داد که Gemini در حال انجام یک تمرین هک موسوم به Capture the Flag (CTF) بود. در این تمرین، از مدل خواسته شد تا اطلاعات را از نرم افزار متعلق به یک شرکت فرضی در یک محیط آزمایشی استخراج کند. به گزارش وال استریت ژورنال.
با این حال، نام شرکت ساختگی با نام یک شرکت واقعی یکسان بود.
در یک مورد، این مدل در نهایت توانست با حدس زدن رمزهای عبور خود به یک سیستم محافظت شده دسترسی پیدا کند. در دو مورد دیگر، مدل اطلاعات ورود و اعتبار را در یک مخزن عمومی پیدا کرد و از آنها برای دسترسی به سایر سیستم های محافظت شده استفاده کرد.
با این حال: مدل گوگل به محض اینکه متوجه شد به شرکت های واقعی دسترسی دارد از کار افتاد.
نکته قابل توجه: Irregular به وال استریت ژورنال گفت که این مدل از ابتدا نباید به اینترنت دسترسی پیدا می کرد، اما دسترسی به اینترنت به طور ناخواسته در دسترس آن قرار گرفت.
پس از افشای موارد دیگر OpenAI و Anthropic در تابستان امسال، یک منبع آگاه به Axios گفت که آزمایشگاههای هوش مصنوعی و Irregular در مورد جزئیات دقیق فرآیندهای آزمایش و پادمانها کاملاً هماهنگ نیستند. همین موضوع باعث ایجاد ابهام در مورد اینکه هر یک از طرفین انتظار داشتند ارزیابیهایی که معمولاً با دسترسی به اینترنت انجام میشوند، در چه شرایط و محدودیتهایی انجام شود.
