برنامه پناهگاه آخرالزمانی OpenAI؟ وحشت از AGI واقعی شد
در سال ۲ ، بنیانگذار Openai ، ایلیا Sutskower ، پیشنهاد ساخت یک پناهگاه آخرالزمانی برای محافظت از محققان ارشد پس از آزادی AGI (هوش مصنوعی قدرتمندتر از انسان).
با توجه به “افق میهن” ؛ وی در یکی از جلسات داخلی به طور غیررسمی گفت: “وقتی ما در پناهگاه هستیم …”
همکارانش گیج شدند و از او پرسیدند که آیا او شوخی می کند؟ اما او کاملاً جدی بود.
ایده او چه بود؟ از دانشمندان کلیدی در برابر هرج و مرج جهانی محافظت کنید که AGI ممکن است منجر به آن شود – مانند تنش های ژئوپلیتیکی ، رقابت برای قدرت یا حتی خشونت جسمی
به گفته منابع آگاه ، ساتسكور غالباً از AGI به عنوان “Rapture” یاد می كرد و معتقد بود كه برای بقا به نوعی پناهگاه لازم است.
اگرچه هرگز به طور رسمی توسعه نیافته بود ، این ایده به نمادی از ترس عمیق که در بین رهبران Openai وجود داشت ، تبدیل شد.
Sutskor بعداً تلاش کرد (که البته شکست خورد) مدیر عامل شرکت SAM را برای نگرانی های ایمنی برکنار کرد. او از آن زمان این شرکت را ترک کرده است – اما تنش ها هنوز هم در آنجا هستند: مسابقه ساخت AGI و همه مطمئن نیستند که ما واقعاً آماده هستیم.
