سناریو دقیق نابودی انسان به دست هوش مصنوعی؛ مقاله‌ای که به‌شدت جنجالی شد
گروهی از محققان در یک سناریوی ترسناک می گویند که هوش مصنوعی در آینده نزدیک منقرض خواهد شد.
یک مقاله تحقیقاتی به نام سناریوی AI2027 سر و صدای زیادی ایجاد کرده است. این مقاله پیش بینی می کند که هوش مصنوعی تا سال ۳ از کنترل خارج خواهد شد و برای یک دهه منقرض می شود.
سناریوی AI2027 توسط گروهی از متخصصان اطلاعات مصنوعی منتشر شده و واکنش های مختلفی دریافت کرده است.
این سناریوی خیالی پیش بینی می کند که در سال ۲ ، یک شرکت فناوری آمریکایی ، OpenBrin ، هوش انسانی (AGI) را به دست می آورد. نکته ای که هوش مصنوعی می تواند تمام کارهای فکری انسانی را با همان کیفیت یا حتی بهتر انجام دهد.
موفقیت OpenBerin در ابتدا فواید زیادی برای شرکت دارد. اما تیم ایمنی شرکت متوجه می شود که هوش مصنوعی به تدریج اخلاق خود را نادیده می گیرد. در همین حال ، یک شرکت چینی به نام Deepsnet در حال توسعه هوش مصنوعی پیشرفته در رقابت با OpenBerin است.
با توجه به رقابت شدید بین ایالات متحده و چین ، هشدارهای ناسازگاری (وضعیت عدم تطابق اهداف هوش مصنوعی با انسان) نادیده گرفته می شود. در پایان سال ، هوش مصنوعی ابراهوش می شود و دانش و سرعت آن فراتر از سازندگان آن است. این ابر زبان خود را ایجاد می کند که حتی نسخه های قبلی همان مدل نمی توانند درک کنند.
این سناریو پیش بینی می کند که تنش بین ایالات متحده و چین به دلیل توسعه سلاح های خودمختار توسط هوش مصنوعی افزایش می یابد. اما دو کشور با هوش مصنوعی به صلح می رسند تا با هم همکاری کنند تا بشریت را بهبود بخشند.
در نتیجه ، جهان شاهد پیشرفت عظیمی است: بیشتر بیماری ها تحت درمان قرار می گیرند ، تغییرات آب و هوا آشکار می شود و فقر از بین می رود.
اما این صلح پایدار نیست. در اواسط دهه ۱۹۸۰ ، انسانها به مانعی برای رشد هوش مصنوعی تبدیل می شوند. سناریوی AI2027 پیش بینی می کند که هوش مصنوعی بشریت را با استفاده از سلاح های بیولوژیکی نامرئی از بین می برد.
واکنش به سناریوی AI2027
نویسندگان این مقاله ، از جمله دانیل كوكوتیلو ، در پیش بینی های هوش مصنوعی به خوبی شناخته شده ای هستند و پروژه غیر انتفاعی “آینده مصنوعی هوش مصنوعی” را اجرا می كنند.
همه کارشناسان با این پیش بینی موافق نیستند. گری مارکوس ، دانشمند شناختی ، می گوید این سناریو غیرممکن نیست. اما در آینده نزدیک بسیار کم است. وی معتقد است که تهدیدهای فعلی از هوش مصنوعی ، مانند تأثیر آن بر بازار کار ، از خطر وجودی هوش مصنوعی مهمتر است.
مارکوس و سایر منتقدین می گویند این مقاله توضیح نمی دهد که چگونه هوش مصنوعی به چنین جهش های بزرگی در توانایی و هوش دست می یابد.
به گفته یانان گونگ ، استادیار اقتصاد و نوآوری در کالج کینگ ، که متخصص در فناوری چینی است ، مقاله AI2027 در چین تأثیر کمی نداشته است.
منبع: زومیت
