هشدار بیل گیتس: هوش مصنوعی میتواند عامل مرگ «یک میلیارد» انسان شود
فایننشال تایمز نوشت: بیل گیتس در مراسمی به مناسبت پنجاهمین سالگرد تاسیس مایکروسافت در حال سخنرانی و دست تکان دادن روی صحنه است.
به گزارش «افق میهن»؛ در ادامه میگوید که هوش مصنوعی آنقدر قدرتمند است که اگر به دست افراد نادرستی بیفتد، میتواند یک میلیارد انسان را بکشد. بیل گیتس، یکی از بنیانگذاران مایکروسافت، ضمن ابراز این هشدار، خواستار مقررات سختگیرانه دولت در مورد این فناوری شد.
گیتس به انبیسی نیوز گفت: «هوش مصنوعی مطمئناً به اندازهای قدرتمند است که رویدادهایی را بهوجود آورد که منجر به مرگ یک میلیارد نفر شود. بنابراین اگرچه به صد در صد می رسد [نابود کردن بشریت] این بسیار دشوار است، اما هرگز سلاحی به قدرت ترکیب افراد با نیت مخرب و استفاده از ابزارهای پیشرفته هوش مصنوعی وجود نداشته است.»
بحث در مورد ایمنی هوش مصنوعی در هفتههای اخیر و پس از یک سری حوادث امنیتی برجسته که توانایی آزمایشگاههای پیشرو هوش مصنوعی مانند OpenAI و Anthropic را برای کنترل مدلهای خود مورد تردید قرار داده، بالا گرفته است.
این هفته مشخص شد که یکی از سیستم های OpenAI وب سایت سرویس بهداشت عمومی استرالیا را هک کرده است. شرکت مستقر در سانفرانسیسکو تا ماهها پس از وقوع این حمله به دولت استرالیا گزارشی نداد. اقدامی که آنتونی آلبانیز، نخست وزیر استرالیا، آن را “به وضوح غیرقابل قبول” خواند.
این ماه، Entropic اعلام کرد که شبهنظامیان یمنی که گمان میرود حوثیهای مورد حمایت ایران باشند، تلاش کردهاند از مدل هوش مصنوعی کلود این شرکت برای توسعه نرمافزار هدایت، کنترل و ناوبری موشکهای بالستیک استفاده کنند.
علیرغم افزایش هشدار در دره سیلیکون و مخالفت گسترده مردم با این فناوری، دونالد ترامپ، رئیس جمهور ایالات متحده به شدت با مقررات هوش مصنوعی مخالف است و ترس های امنیتی را یک “فریب” می خواند و آنچه را “طرح جهانی” برای کنترل این فناوری می خواند، رد می کند.
سام آلتمن از OpenAI و داریو آمودی از Anthropic هر دو این هفته در شورای امنیت سازمان ملل سخنرانی کردند و از ایالات متحده خواستند تا رهبری یک ائتلاف بین المللی را برای تعیین استانداردهای ایمنی هوش مصنوعی، در میان درخواست های گسترده برای کاهش سرعت توسعه فناوری های پیشرو، رهبری کند.
با این حال، دیدار این هفته ترامپ و شی جین پینگ، رئیسجمهور چین در نیویورک هیچ تعهد معناداری برای مهار این فناوری به همراه نداشت.
گیتس در مصاحبه ای در چهارشنبه که قرار است آخر این هفته در شبکه NBC “Meet the Press” پخش شود، گفت که واشنگتن “قطعا” نیاز به تصویب قوانین فدرال برای ایجاد پادمان ها و نظارت بر پیشرفت های هوش مصنوعی دارد.
او افزود: “هیچ کس فکر نمی کند خودتنظیمی کافی است.” وی ادامه داد: این قوانین هزینه اداری کمی برای این صنعت ایجاد می کند، اما مانع قابل توجهی برای کاری که آنها انجام می دهند، نخواهد بود.
گیتس بین پتانسیل کوتاه مدت هوش مصنوعی برای سوء استفاده توسط تروریست ها یا دولت های سرکش و هشدارهای بلندمدت در مورد “خطر وجودی” که توسط فعالان امنیتی مانند محقق سابق Anthropic، Jacob Coxon مطرح شد، تمایز قائل شد. کوکسون گفت بسیاری از توسعه دهندگان هوش مصنوعی معتقدند که این فناوری می تواند “تا پایان دهه همه ما را بکشد.”
آخرین هشدار این میلیاردر یک ماه پس از آن است که او از سیاستگذاران خواست در مقاله ای ۶۰۰۰ کلمه ای که تغییرات گسترده در اشتغال را پیش بینی می کند، برخی مشاغل را به عنوان “شغل های محفوظ برای انسان” تعیین کنند.
