استعفای پژوهشگر آنتروپیک در اعتراض به رقابت خطرناک هوش مصنوعی: اوپنایآی و آنتروپیک با جان و زندگی همه ما قمار میکنند /قدرت این فناوری را دستکم نگیرید؛ این سیستمها بهزودی به سامانههایی فرابشری تبدیل خواهند شد که میتوانند یکشبه قدرت و منابع واقعی به دست آورند / هوش مصنوعی ممکن است تا پایان این دهه همه ما را به کام مرگ بکشاند
Jacob Coxon محقق سابق هوش مصنوعی در شرکت معروف Anthropic نوشت: امروز از آنتروپیک استعفا دادم. من سه سال گذشته را صرف تحقیق در مورد مدلهای پیشآموزشی، هم در OpenAI و هم در Anthropic کردهام. هیچ یک از این دو شرکت مسئولیت پذیر عمل نمی کنند. آنها مستقیماً به سمت هوش فوق العاده خود-بهبود می شتابند و با زندگی همه ما قمار می کنند. در ادامه نظرات بیشتری را ارائه خواهم کرد.
به گزارش «افق میهن»؛ این مقاله ادامه می دهد: قدرت این فناوری را دست کم نگیرید. این سیستم ها به زودی به سیستم های مافوق بشری تبدیل خواهند شد که می توانند هر چیزی را هک کنند، یک شبه هر زمینه ای را متحول کنند و قدرت و منابع واقعی را به دست آورند. همه ما شاهد پیشرفت در هر یک از این زمینهها بودهایم و سرعت پیشرفت کاهش نمییابد.
افرادی که در حال ساخت هوش مصنوعی هستند صادقانه معتقدند که این فناوری ممکن است تا پایان این دهه همه ما را بکشد. این یک نمایش تبلیغاتی نیست.
در غیر این صورت، بسیاری از مدیران و محققین ارشد در رسانه ها در مورد این موضوع به گونه ای صحبت می کنند که منطقی به نظر می رسد. اما همین افراد را در محافل خصوصی می شنوم که ترس خود را ابراز می کنند. هیچ فعالیت انسانی دیگری چنین سطحی از خطر را به همراه ندارد.
یک پاسخ رایج این است: “اگر آنها واقعاً به این اعتقاد دارند، پس چرا آن را ادامه می دهند؟”
در OpenAI، بسیاری هنوز عمیقاً ابعاد تمدنی این موضوع را درک نکرده اند. در Entropic، اهمیت و ابعاد این خطر به خوبی درک شده است، اما آنها در یک مسابقه برای رسیدن به آنجا گرفتار شده اند. آنها بر این باورند که هیچ کس دیگری مسئولانه عمل نخواهد کرد، بنابراین باید خودشان علیرغم خطرات این کار را انجام دهند.
پذیرفتن این رقابت و ورود به مرحله «آخر بازی» یک قمار مغرور و بلندپروازانه است که نباید از طریق Slack یک شرکت خصوصی آغاز شود. تلاش برای ردیابی سریع همسویی هوش مصنوعی باید به اطمینان فوق العاده ای نیاز داشته باشد که هیچ مسیر بهتر و ایمن تری در دسترس نیست.
امیدوارم امکان هماهنگی و همکاری فراهم شود. هشدارهایی مانند حمله Hogging Face احتمال توافق بین آزمایشگاه های آمریکایی در مورد سرعت پیشرفت را بیشتر کرده است. با این حال، من احساس نمی کنم که در مسیر جلوگیری از رقابت جهانی هستیم. رقابتی که ممکن است برای توقف آن نیازمند اقدامات پرهزینهای باشد، مانند ممنوعیت موقت ارتقای قابلیتهای مدلها.
اگر محقق یک آزمایشگاه هوش مصنوعی هستید، میخواهم به این فکر کنید که چند سال آینده واقعاً چه حسی خواهد داشت. آیا می خواهید اجرای یک فرآیند یادگیری تقویتی (RL) را برای یک سیستم فوق هوشمند بدون داشتن درک دقیق و جامع از ذهن آن آغاز کنید؟ آیا باید سر خود را پایین بیاندازید و به کار خود ادامه دهید زیرا “به هر حال این اتفاق خواهد افتاد”؟ یا اینکه از این فرصت استفاده کنیم و شرایط مختلف را بخواهیم؟
