رئیس آنتروپیک خواستار کاهش سرعت توسعه هوش مصنوعی شد
بی بی سی: مدیر شرکت هوش مصنوعی Anthropic خواستار کاهش سرعت توسعه مدل های هوش مصنوعی و نظارت دقیق بر روند توسعه آنها شده است.
داریو آمودی در یادداشتی که در اینترنت منتشر شد، نوشت که موضوع اصل توسعه هوش مصنوعی نیست، بلکه خطرات مرتبط با آن «جدی» است و شرکتها و دولتها باید فرصت مقابله با این خطرات را داشته باشند.
مدیران دو شرکت هوش مصنوعی رقیب، سام آلتمن، مدیر عامل OpenAI و ایلان ماسک نیز گفته اند که با آقای آمودی موافق هستند.
در هفته های اخیر نگرانی ها در مورد خطرات احتمالی این فناوری افزایش یافته است. یک محقق هوش مصنوعی که Anthropic را ترک کرده است به بی بی سی گفت: «با این سرعت پیشرفت فعلی [هوش مصنوعی]اگر سرعت توسعه آن را کاهش ندهیم، احتمال مرگ همه ما در آینده نزدیک بسیار زیاد است.»
جاکوب کوکسون به لورا کونزبرگ گفت که افرادی که در شرکتهای هوش مصنوعی کار میکنند «واقعاً میترسند… واقعاً نگران سرنوشت بشریت در دو سال آینده هستند».
آقای کاکسون گفت: «بدون اغراق اگر بگوییم افرادی که هم در تأسیس این شرکتها و هم در ایجاد این فناوری دخیل بودند معتقدند که احتمال انقراض انسان وجود دارد».
آقای آمودی، مدیر شرکت هوش مصنوعی Entropic، در یادداشت خود با عنوان «ما باید سرعت فشار دادن مرزهای فناوری را کنترل کنیم» که روز شنبه منتشر شد، طرحی سه مرحلهای را پیشنهاد کرد که شامل نظارت مستقل بر مدلهای هوش مصنوعی در طول توسعه، مقررات سراسری صنعت و مقررات جهانی است.
پس از انتشار این پیشنهاد، حتی رقبای Entropic از ایده استفاده از ناظران مستقل برای ارزیابی ایمنی مدل ها در طول توسعه حمایت کردند.
سام آلتمن در شبکه اجتماعی X نوشت: “من با داریو موافقم که ما باید سرعت پیشرفت مرزهای فناوری را تنظیم و کنترل کنیم.” او استفاده از ارزیاب های مستقل را “ایده ای عالی” خواند.
در مصاحبه اخیر، آقای آلتمن نگرانی های مشابهی را در مورد ایمنی مطرح کرد و به مجله فورچون گفت که استانداردها هنوز “در نقطه ای” نیستند که قابلیت های هوش مصنوعی را بتوان خیلی بیشتر توسعه داد، و همچنین هشدار داد که او معتقد است هوش مصنوعی فراتر از کنترل انسان “قطعا” امکان پذیر است.
ایلان ماسک، بنیانگذار XIA، سازنده Grok، نیز گفت که مدیر Entropic “درست است.”
این هشدارها به درخواستها برای اقدام دامن میزند و دونالد ترامپ، رئیسجمهور آمریکا، که تا کنون چنین نگرانیهایی را رد کرده است، پنجشنبه گفت که نگران است که “اگر ما در هوش مصنوعی پیروز نشویم، در موقعیت بسیار بدی قرار خواهیم گرفت.”
با افزایش قابلیتهای قدرتمند مدلهای جدید هوش مصنوعی، نگرانیها در مورد امنیت سایبری نیز افزایش یافته است.
پس از اینکه در ماه آوریل فاش شد که مدل Mythos انتروپی می تواند به طور مستقل از سندباکس خارج شود، این شرکت مدل خود را در دسترس عموم قرار نداد.
در آستانه عرضه جدیدترین مدل “آسترا”، OpenAI اعلام کرد که برخی از جنبه های توسعه این مدل را به دلیل نگرانی های امنیتی سایبری متوقف کرده است.
آمودی گفت که عوامل هوش مصنوعی OpenAI “مانند یک گروه به شدت وفادار” عمل کرده اند. OpenAI همچنین اعلام کرده است که به دنبال این موضوع، آموزش برخی مدل ها و ابزارهای پیشرفته هوش مصنوعی را کاهش داده است.
موضوع ایمنی نیز به یکی از محورهای اصلی رقابت بین Entropic و OpenAI تبدیل شده است.
آقای آمودی که قبلاً معاون OpenAI بود، گفت که Entropic را در سال 2021 برای ساخت مدلهای هوش مصنوعی ایمنتر و مطمئنتر تأسیس کرد.
او در پست وبلاگ خود خاطرنشان کرد که هوش مصنوعی با سرعت “بسیار سریعتر” از جمله در “توانایی ساخت نسل بعدی هوش مصنوعی” در حال پیشرفت است.
او همچنین به یک حادثه مربوط به رقیب خود، OpenAI، در ماه جولای اشاره کرد، زمانی که فاش شد که عوامل این شرکت به اهداف خارجی حمله سایبری کرده اند. اهدافی که از آنها خواسته نشده بود به آنها حمله کنند.
آقای عمودی خواستار “توسعه هوش مصنوعی با سرعت متعادلی شد که ایمنی آن را تضمین می کند و از مزایای آن بهره می برد.”
او گفت که این “به معنای توقف آموزش مدل یا توسعه فنی نیست، بلکه اطمینان از اینکه شرکت ها زمان کافی برای همسوسازی و ایمن سازی مدل های خود صرف می کنند و ارزیاب های مستقل این را تایید می کنند.”
آقای آمودی اعلام کرد که انتروپیک “یکجانبه” به این رویکرد متعهد می شود و از دولت ها می خواهد که “از دیگر شرکت های پیشرو بخواهند از این روش پیروی کنند.”
داریو آمودی گفت که میداند مقررات ممکن است نتوانند همگام با سرعت توسعه هوش مصنوعی باشند و به همین دلیل از شرکتهای هوش مصنوعی خواست تا “داوطلبانه با یکدیگر برای تعیین استانداردها” در کنار مقررات دولتی همکاری کنند.
مدیرعامل انتروپیک البته با اشاره به پیامدهای کاهش سرعت توسعه بر این صنعت و رقابت با توسعه دهندگان بزرگ در سراسر جهان به ویژه چین گفت: معتقدم در صورت کاهش سرعت [توسعه هوش مصنوعی] حتی یک یا دو سال دیگر به ما فرصت میدهد تا این مدلهای هوش مصنوعی به سطوح حساسی از توانایی برسند.
او گفت که این باید به صورت هماهنگ انجام شود، “بدون قربانی کردن مزیت تجاری یا رهبری آمریکا در هوش مصنوعی.” به گفته وی، البته این کاهش سرعت باید کنترل و محدود شود، زیرا در غیر این صورت ممکن است چین از آمریکا پیشی بگیرد.
وی از دولت آمریکا خواست تدابیری اتخاذ کند تا تراشه های هوش مصنوعی شرکت های آمریکایی به چین فروخته نشود یا این فناوری در اختیار کشورهای مستبد قرار نگیرد.
با این حال، جاکوب کوکسون، کارمند سابق انتروپیک، به بیبیسی گفت که تلاشها برای کند کردن توسعه باید فراتر از ایالات متحده باشد: «اگر میخواهیم از رقابت در سطح بینالمللی اجتناب کنیم، باید نوعی کندی هماهنگ با چین وجود داشته باشد.»
یادداشت آقای عمودی واکنش های گسترده ای را در پی داشته است.
کولمن دلاگو، مدیر عامل پلتفرم هوش مصنوعی Hugging Face، گفت که در حال راهاندازی پروژه جدیدی به نام «ابتکار همترازی باز» است و میخواهد «ارزشدهندههای تثبیتشده» را که آقای آمودی به عنوان بخشی از راهحل پیشنهادی خود توصیف میکند، شامل شود.
در اوایل سال جاری، Hugging Face هدف حمله ماموران هوش مصنوعی OpenAI قرار گرفت که باعث اعتراضات در مورد ایمنی هوش مصنوعی شد.
آقای دلاگو در شبکه اجتماعی X نوشت: «بیایید هوش مصنوعی را با شفافتر کردن آن ایمنتر کنیم».
آقای ماسک که از پیشنهاد آمودی نیز حمایت کرده است، قبلا انتروپیک را “شیطان” نامیده بود، اما پس از امضای قراردادی 15 میلیارد دلاری برای فروش ظرفیت پردازش به انتروپیک در ماه می، آهنگ خود را تغییر داد.
با این حال، برخی ناظران بر این باورند که یادداشت آقای آمودی بیشتر تلاشی برای متمرکز کردن کنترل فناوری هوش مصنوعی است تا ایمنی.
Chamath Palihapitiya، سرمایه گذار و مجری مشترک پادکست All-In Tech، نوشت: “داریو سعی می کند بگوید که ما باید منبع باز (در دسترس قرار دادن کد برای همه) را متوقف کنیم و قدرت فناوری و اقتصادی عظیمی را در Entropy متمرکز کنیم.”
ایده کاهش یا حتی توقف توسعه هوش مصنوعی مدتهاست که در بخشهایی از سیلیکون ولی با شک و تردید مواجه شده است. منتقدان توسعه دهندگان اصلی هوش مصنوعی را به اغراق در توانایی های این فناوری برای اهداف بازاریابی متهم می کنند.
طبق گزارشها، هر دو Entropic و OpenAI در حال آمادهسازی برای IPOهای رکوردشکنی هستند.
