دانشمند ارشد آنتروپیک از احتمال «کشتهشدن همه انسانها به دست هوش مصنوعی» میگوید
زومیت: دو محقق آنتروپیک در مورد مسابقه خطرناک ساخت «هوش مصنوعی خود بهبود بخش» صحبت کردند و احتمال وقوع یک فاجعه بزرگ را گزارش کردند.
دو صدا از داخل انتروپیک تصویر نگران کننده ای از شتاب صنعت هوش مصنوعی ترسیم کردند. تصویری که در آن رقابت برای ساختن سیستمهای خود-بهبود مرز احتیاط را درنوردیده و با خطرات وجودی به میدان قمار نزدیک شده است.
یک محقق ارشد در Anthropic Safety گفته است که بیش از 10 درصد احتمال دارد که هوش مصنوعی «همه انسانها» را تا پایان این دهه بکشد. این اظهارات تنها چند ساعت پس از آن بیان شد که یکی از همکارانش شرکت را در اعتراض به رویکردی سهلانگیز در قبال ایمنی ترک کرد.
جاکوب کاکسن، محققی که در Anthropic روی آموزش سیستمهای هوش مصنوعی کار کرده بود و قبلاً در OpenAI کار میکرد، در پستی در X نوشت که دلیل استعفای او نگرانی از همان مسیری است که شرکتهای بزرگ در حال طی کردن آن هستند. راهی که به گفته او به «خودسازی» و در عین حال «قمار با زندگی ما» می انجامد. او ادعا کرد که کسانی که هوش مصنوعی میسازند صادقانه معتقدند که این فناوری ممکن است تا پایان دهه همه را از بین ببرد.
نگرانی در مورد سیستم هایی که می توانند خود را بهبود بخشند، جدید نیست. برای سالها، برخی از فعالان و محققان هشدار میدهند که چنین مدلهایی ممکن است در یک چرخه شتابدهنده از کنترل انسان خارج شوند. چنین وضعیتی هنوز به طور کامل محقق نشده است، اما شرکت ها در واقع در همین راستا سرمایه گذاری می کنند و بخش مهمی از کدهای امروزی نیز با کمک خود هوش مصنوعی نوشته شده است.
ایوان هابینگر، که رهبری یکی از تیمهای ایمنی هوش مصنوعی Entropic را بر عهده دارد، به Cooksen گفت که نگرانیهای او در مورد سیستمهای خودترمیمی جدی است و سرعت پیشرفت آنها از تخمینهای قبلی فراتر رفته است. او با ارزیابی همکار سابق خود موافق بود و گفت: “ما واقعا صادقانه معتقدیم که هوش مصنوعی می تواند همه انسان ها را بکشد.” هوبینگر شخصاً احتمال چنین سناریویی را بیش از یک در ده و در “دهه آینده” تخمین زد.
در عین حال، او اعتراف کرد، آنتروپیک هنوز “برنامه ای” برای اطمینان از ایمن بودن سیستم های پیشرفته و همسو با ارزش های انسانی ندارد و حتی به وضوح در مسیر ساختن آن نیست. به گفته کوکسون، شرکت ها در یک “مسابقه قفل شده” گرفتار شده اند. مسابقه ای برای رسیدن به سیستم های پیشرفته زودتر، حتی اگر خطرات باقی بماند.
خروج کوکسن یکی از بارزترین نمونه های جدایی یک کارمند از انتروپیک است. شرکتی که توسط تعدادی از اعضای سابق OpenAI در پاسخ به نگرانی های امنیتی در آن گروه تاسیس شد. در سال های اخیر، چندین محقق دیگر گفته اند که نگرانی های ایمنی دلیل اصلی کنار گذاشتن OpenAI بوده است.
برای صنعت هوش مصنوعی، چنین هشدارهایی به طور همزمان دو معنی دارند. از یک طرف نشان می دهد که نگرانی در مورد کنترل پذیری مدل ها دیگر در حاشیه نیست. از سوی دیگر، روشن می کند که شکاف بین جاه طلبی فنی و آمادگی ایمنی هنوز پر نشده است و حتی در شرکت هایی که به شعارهای احتیاط و ایمنی معروف هستند، هیچ پاسخ قطعی برای آینده وجود ندارد.
