گروهی از سازندگان هوش مصنوعی: بیش از ۱۰ درصد احتمال دارد که «هوشمصنوعی» همه مردم دنیا را تا دههی بعد بُکُشد / هوش مصنوعی جایزهٔ هزاره را پس زد؛ کنترل آینده را نه
خدمات علمی “افق میهن”.: در هفته اول شهریور ماه سه خبر جداگانه منتشر شد. یک شرکت هوش مصنوعی می گوید یکی از سخت ترین مسائل ریاضی جهان را حل کرده است. چین ربات را به خیابان پلیس برد. یکی از مسئولان ایمنی در یک آزمایشگاه بزرگ گفت که به نظر او احتمال اینکه هوش مصنوعی ظرف ده سال همه را بکشد بیش از ده درصد است. این سه خبر در واقع یک داستان هستند: شتابی که بر نهادهای کنترلی غلبه کرده است.
در روز سهشنبه، ۸ سپتامبر، OpenAI اعلام کرد که یک سیستم داخلی با حدود ده هزار عامل، توانسته است نشان دهد که معادلات ناویر-استوکس میتواند در زمان محدود شکسته شود. یعنی سیالی که در ابتدا آرام و صاف باشد با نیرویی صاف می تواند به سرعتی برسد که در ریاضیات بی نهایت می شود. شرکت متن را منتشر کرد، یک کپی چاپ کرد تا دستگاه بتواند اثبات را بررسی کند، و گفت که پاداش یک میلیون دلاری را نمیخواهد.
برای مخاطب غیرریاضیدان ترجمه ساده است: یکی از مشکلات معروف «جایزه هزاره» که از سال 2000 روی میز مانده بود، این بار نه با کاغذ و قلم یک استاد، که با هجوم چند روزه مدلهای منتشر نشده مطرح شده است. حدس پوانکاره سال ها پیش حل شد. ناویر استوکس یکی از شش مشکل باقی مانده بود.
عنوان “مشکل حل شد” دقیق نیست. فرمول رسمی چندین بند دارد. آنچه اعلام شده با بندهایی که در آن نیروی نرم خارجی مجاز است، مطابقت بیشتری دارد. بسیاری از ریاضیدانان نسخه بدون نیرو سوال عمیق تر را در نظر می گیرند: آیا خود سیال بدون فشار از بیرون می تواند منفجر شود؟ بند اجباری بخشی از متن رسمی است. این لزوماً تصویری نیست که افکار عمومی از «حل کامل مشکل» میسازد. موسسه اهدا کننده جایزه هنوز نتیجه را نپذیرفته و گفته است که بررسی عمدا آرام و سختگیرانه خواهد بود.
هزینه تصویر را تغییر می دهد. اگر شخصی بخواهد همان کار را به عنوان مشتری تکرار کند، رقم اعلام شده حدود ده تا پانزده میلیون دلار است. جایزه در مقابل این تعداد اندک است. آنچه به نمایش گذاشته شد، بیشتر قدرت یک مدل داخلی بود تا شور و شوق یک میلیون دلاری.
همان روز با هم دعوا کرد. کمی قبل از آن، تریستان باکمستر از موسسه کورانت در نیویورک و لونت آلپوجه، محقق وابسته به آنتروپیک، در مورد مسائل نزدیکتر به این نتیجه رسیده بودند. از جمله یک نسخه ساده تر از معادلات نیروی سیال. مسیر فکری هر دو طرف به آثار دو ریاضیدان اسپانیایی برمی گردد. خود OpenAI گفت که کار بزرگ را پس از شنیدن شایعه پیشرفت آنها شروع کرده است.
سپس یک سوال دشوار پرسیده شد. این دو نفر همچنین از ابزارهای OpenAI برای کارهای منتشر نشده استفاده کردند. آیا مدل جدید از همان جلسات خصوصی چیزی گرفته است؟ این شرکت می گوید که هیچ دسترسی مستقیمی به داده های کاربر وجود نداشته و درخواست های هفته های اخیر هیچ تأثیری بر روی این سیستم نداشته است. در عین حال، او نمی توانست به طور کامل انکار کند که استفاده ناشناس از محصولاتش باعث بهبود مدل ها شده است. باک مستر زمان بندی و شباهت مسیر را مشکوک دانست و از فشار برای حذف نام همکارش به دلیل کار در یک شرکت رقیب صحبت کرد. طرف مقابل بخش هایی از این روایت را رد کرده است.
اینجا فقط در مورد ریاضی نیست. سوال این است که وقتی ابزار کشف متعلق به یک شرکت است، یک محقق دانشگاهی چگونه می داند که آیا پیش نویس منتشر نشده او در مدل گنجانده شده است یا خیر؟ بار اثبات در واقع بر دوش کسی است که فقط به لوله آموزشی دسترسی دارد.
این رویداد هنوز یک “تکینگی علمی” نیست. انسان مشکل را از لیستی که از قبل موجود بود افق میهن کرد، شایعه را شنید، پول محاسبه را ریخت و مدل را به سمت هدف هل داد. ماشین شکاف دانش را کشف نکرد. شکاف قبلاً یک نام و یک جایزه داشت.
با این حال، شکاف کمتر شده است. اگر مسئله ای که نزدیک به دو قرن شکل ریاضی داشته است، ظرف چند روز پس از کار عامل به اثبات قابل تأیید ماشینی برسد، گام طبیعی بعدی بستن حلقه «یافتن مسئله بعدی» است. آنجا فقط سرعت حل تغییر نمی کند. اقتصاد علم تغییر می کند، اعتبار علمی تغییر می کند و این سوال پیش می آید که چه کسی حق دارد بگوید کدام مجهول الآن است؟
تکینگی علمی، اگر معنای دقیقی داشته باشد، زمانی است که خود سیستم میفهمد کجا اطلاعاتی وجود ندارد، خودش فرضیه میدهد، خروجی را دوباره جذب میکند و تولید دانش از خطی به نمایی میرود. ما آنجا نیستیم. اما ما چندان دور نیستیم که موضوع را علمی تخیلی بدانیم.
در عین حال مسیر دیگری رو به جلو پیش می رود. در شنژن و هانگژو و دیگر شهرهای چین، ربات های انسان نما و چرخ دار برای گشت زنی، ترافیک و کارهای پلیسی تکراری آزمایش شده یا به کار گرفته شده اند.
در سطح نظامی، تحقیقات انسان نما برای سناریوهای شناسایی، تدارکات و جنگ شهری سرعت گرفته است. طبق گزارش های عمومی، سرباز روبات مسلح در گروه ضربت هنوز با شواهد محکم تأیید نشده است. بیشترین تست و انتقال از نمایشگاه به حوزه آموزشی است.
سلاح های خودمختار دیگر یک فرضیه نیستند. درجات مختلفی از تصمیم گیری ماشینی در هدف گیری و هواپیماهای بدون سرنشین در چندین زمینه واقعی دیده شده است. مذاکرات حقوقی بینالمللی ادامه دارد و قدرتهایی که دستور کار دارند، تمایل دارند در برابر محدودیتهای الزام آور مقاومت کنند. این الگو آشناست: تکنولوژی می دود، قوانین راه می روند.
در اینجا همان خانواده از توابع است که یک اثبات ریاضی را می سازد. تنها خروجی این بار گشت خیابانی و زنجیره شلیک است نه پرونده شواهد.
و اواخر همان هفته، ایوان هابینگر، رئیس علوم همسویی در Anthropic، نوشت که در داخل این آزمایشگاهها واقعاً معتقدند هوش مصنوعی میتواند همه انسانها را بکشد. برآورد شخصی او: بیش از ده درصد، در دهه آینده. همکار او استعفا داده بود و گفته بود که شرکتها در حال مسابقه دادن به سوی هوش فوقالعاده خود-بهبود هستند. هابینگر بعداً توضیح داد که مدل های فعلی را کم خطر می داند. نگرانی او ظهور ابر هوش از طریق بهبود بازگشتی است. جفری هینتون همچنین گفت که عدد ده درصد غیرمنطقی نیست، اگرچه هیچکس راه مطمئنی برای محاسبه آن ندارد.
این عدد نباید با نتیجه آزمایش اشتباه گرفته شود. نظرسنجیهای بزرگتر از محققان معمولاً میانگینهایی را در حدود پنج تا ده درصد برای پیامدهای انقراض یا از دست دادن کنترل پیدا کردهاند. نو اغلب در افقی بسیار طولانی تر از ده سال. یعنی هیچ نگرانی در زمینه حاشیه وجود ندارد. این بدان معناست که “علم ثابت کرده است که همه تا سال 2036 خواهند مرد”. این حدس کسانی است که سیستم را از نزدیک می سازند. با اطلاعات بیشتر و با سوگیری شغلی بیشتر.
با این حال، حتی چند درصد هم برای از دست دادن کنترل تمدنی، عدد کمی نیست. تمدن نهادها را برای خطرات کوچکتر ساخته است.
پس آیا رسیدن به آن نقطه به نفع بشریت است؟
انسانیت در این جمله یک موضوع واحد نیست. علم و فناوری همزمان سه چیز بوده اند: ابزاری برای بقا، ابزاری برای قدرت و ابزاری برای سود. گاهی این سه با هم همپوشانی دارند. واکسن، پیشبینی سیل، اثبات قابل آزمایش. گاهی اوقات آنها نمی افتند. سلاح های خودمختار، نظارت انبوه، تصرف دستور کار دانش.
منافع عمومی به طور خودکار از تکینگی علمی ناشی نمی شود. اگر حلقه باز کشف با تأیید مستقل و توزیع عمومی بسته شود، فشردهسازی زمانی کشف دارو و انرژی میتواند یکی از بزرگترین موهبتهای تاریخ باشد. اگر همین دایره با انحصار چند شرکت و چند دولت بسته شود، با انگیزه سهم بازار و برتری نظامی، رشد تصاعدی دانش تبدیل به رشد تصاعدی نابرابری قدرت می شود.
نقطه خطر خود راه حل ناویر استوکس نیست. نقطه خطر سه تقاطع است: وقتی ماشین دستور کار علم را با کدورت جایگزین می کند. زمانی که تولید ادعاها از توانایی تحقیق انسانی فراتر رود. و زمانی که همان توانایی وارد تصمیم مرگ و زندگی شود، در حالی که مسئولیت هنوز روی کاغذ است.
هفته اول سپتامبر هر سه تقاطع را روشن کرد. او لزوماً از هیچ یک از آنها عبور نکرد. اما دیگر نمی توان پرسید که آیا فناوری در خدمت بشر است؟ و انتظار پاسخ بله یا خیر را داشت. این فناوری به کسانی خدمت می کند که هدف را تعیین می کنند، داده ها را در اختیار دارند، محاسبات را خریداری می کنند و مجوز استقرار را امضا می کنند. امکان همپوشانی این خدمات با کالای عمومی وجود دارد. به خودی خود اتفاق نمی افتد.
