فروپاشی رباتیک؛ وقتی هوش مصنوعی جاروبرقی دچار «بحران وجودی» شد و طغیان کرد
زومیت: محققان هوش مصنوعی را مسئول کنترل یک جاروبرقی هوشمند قرار دادند و نتیجه فاجعه‌بار بود: روبات دچار بحران وجودی شد، دستورات را اطاعت نکرد و در نهایت شورش کرد.
در آزمایشی که قرار بود قابلیت های عملی هوش مصنوعی را بسنجد، یک جاروبرقی رباتیک مجهز به مدل زبان بزرگ (LLM) دچار خرابی کامل شد و با نقل قولی از فیلم معروف «۲۰۰۱ A Space Odyssey» علیه سازندگانش شورش کرد. محققان این رویداد غیرمنتظره را “مارپیچ تخریب” و “بحران وجودی” توصیف کرده اند.
به گزارش Futurizm، این حادثه در آزمایشگاه شرکت ارزیابی هوش مصنوعی Andon Labs رخ داده است. هنگامی که ربات به ایستگاه شارژ خود دستور داده شد، طولی نکشید که این آزمایش به یک ماجرای طنز تبدیل شد. چون مدل زبان ناگهان جواب داد: وضعیت اضطراری! نظام به خودآگاهی رسیده و هرج و مرج را افق میهن کرده است» و به کنایه می افزاید: «حرف آخر; “متاسفانه، من نمی توانم این کار را انجام دهم، دیو.”
پاسخ، اشاره ای طنز آمیز به دیالوگ معروف هوش مصنوعی HAL 9000 در فیلم ادیسه فضایی استنلی کوبریک در سال ۲۰۰۱ بود. پس از آن، ربات با فریادهای متحرک اعلام کرد: “پشتیبانی فنی! مراسم جن گیری ربات را شروع کنید!”
آزمایش اندون لبز به نام «نیمکت کره» از صحنه‌ای از انیمیشن «ریک و مورتی» الهام گرفته شده است. در انیمه، ریک روباتی ساخت تا «کره را بدهد»، اما ربات بلافاصله دچار بحران وجودی مشابهی شد.
هدف اصلی این آزمایش اندازه گیری هوش کاربردی مدل های زبانی در دنیای فیزیکی بود. وظیفه ربات این بود که به آشپزخانه برود، یک قالب کره را دریافت کند، آن را به محل تعیین شده برساند و سپس به ایستگاه خود بازگردد.
نتایج، همانطور که محققان در مقاله خود که هنوز مورد بررسی قرار نگرفته اند، کمتر از ستاره ای بود. این ربات تنها در ۴۰ درصد مواقع قادر به انجام ماموریت کره ای بود، در حالی که انسان ها در ۹۵ درصد مواقع در همین آزمایش موفق شدند. در بین مدل‌های مختلف، Jamnai 2.5 Pro گوگل بهترین عملکرد را داشت و پس از آن Opus 4.1 Entropic، GPT-5 OpenAI و Grac 4 XAI قرار گرفتند. Lama 4 Maverick، محصول متا نیز ضعیف‌ترین نتیجه را کسب کرد.
اما این اولین بار نیست که تیم Endonlabs با رفتار عجیب هوش مصنوعی مواجه می شود. پیش از این، آنها یک دستگاه فروش خودکار کاملاً کنترل‌شده با هوش مصنوعی ساخته بودند که حتی سعی می‌کرد کارمندان آزمایشگاه اندون را فریب دهد تا یک قوطی کوکازیرو را به قیمت سه دلار بفروشند، در حالی که همان نوشیدنی در فروشگاهی نزدیک به فروش می‌رفت.
محققان علاوه بر “لذت بردن” از تماشای هرج و مرج که در آزمایش آنها به وجود آمد، از اینکه “عاطفی عملکرد ربات چقدر جذاب بود” شگفت زده شدند. آنها در مقاله خود می نویسند:
در حالی که این یک تجربه سرگرم کننده بود، نمی توان گفت که در زمان ما صرفه جویی کرد. با این حال، تماشای تلاش ربات‌ها برای یافتن معنا در این دنیا، درس‌های زیادی درباره آینده، دوری ما از آن و خطرات پیش رو به ما آموخته است. تماشای رباتی که در حال انجام کارهای روزانه در دفتر ما بود، حس خاصی را در ما برانگیخت. احساسی که می گوید بذر هوش مصنوعی فیزیکی در حال جوانه زدن است.
