جلسات خصوصی مدیران ارشد شرکت آنتروپیک، اوپن‌ای‌آی و دیگر شرکت‌های هوش مصنوعی برای بررسی سناریوهای پس از وقوع یک فاجعه ناشی از هوش مصنوعی / محتمل‌ترین شکل این فاجعه، یک حمله سایبری است؛ حمله‌ای که می‌تواند دسترسی به خدمات مالی، اتصال به اینترنت یا حتی برق و آب را مختل کند / بسیاری از فعالان معتقدند یک حادثه بزرگ طی شش تا ۱۲ ماه آینده رخ خواهد داد
Axios نوشت: مدیران ارشد Anthropic، OpenAI و دیگر شرکت‌های هوش مصنوعی در جلسات خصوصی درباره سناریوهای احتمالی برای مقابله با شورش افکار عمومی و واکنش‌های سیاسی پس از فاجعه هوش مصنوعی بحث می‌کنند.
به گزارش «افق میهن»؛ در ادامه این مقاله: چرا مهم است؟ این مدیران وقوع یک حادثه بزرگ را پیش‌بینی می‌کنند که محتمل‌ترین شکل آن حمله سایبری است. حمله ای که می تواند دسترسی به خدمات مالی، اتصال به اینترنت یا حتی برق و آب را مختل کند.
اولین حادثه جدی در دنیای واقعی که آسیب های ناشی از استفاده ناایمن از هوش مصنوعی را آشکار می کند، می تواند بیشتر مردم را که از قبل نسبت به این فناوری بدبین هستند، علیه هوش مصنوعی و رهبران آن برانگیزد. این واکنش ها ممکن است چهره هایی مانند داریو آمودی، مدیر عامل Entropic، سام آلتمن، مدیر عامل OpenAI و همچنین دونالد ترامپ، رئیس جمهور ایالات متحده را هدف قرار دهد. ترامپ به دلیل عدم تمایلش به تنظیم این فناوری مورد انتقاد قرار گرفته است.
سطح تهدید
سناریو نویسی و برنامه ریزی برای موقعیت های بحرانی امری رایج در بسیاری از شرکت ها و نهادهای امنیت ملی است. پنتاگون چندین دهه است که تمرینات شبیه سازی جنگ را انجام می دهد. اما تفاوت این است که بسیاری از محققان و مدیران ارشد صنعت هوش مصنوعی معتقدند که یک حادثه بزرگ در این زمینه اجتناب ناپذیر است.
یک سخنگوی OpenAI گفت: “OpenAI تمرین های آمادگی را انجام می دهد که طی آن تیم ها طیفی از سناریوهای احتمالی را مورد بحث قرار می دهند و نحوه برخورد با آنها را اندازه گیری می کنند.”
Entropic از اظهار نظر در این مورد خودداری کرد.
جزئیات بیشتر
چه گروهی از عوامل هوش مصنوعی مستقل از محیط آزمایش داخلی یک شرکت از کنترل خارج شوند یا یک بازیگر مخرب راه‌های غیرمنتظره‌ای برای بهره‌برداری از مدل‌های موجود پیدا کند، رقابت برای سرزنش یکدیگر آغاز خواهد شد.
یک کمپین سایبری اخیر علیه مؤسسات مالی کره جنوبی، از جمله گزارش‌هایی مبنی بر هک شدن دو بانک، نشان می‌دهد که یک شخص چقدر می‌تواند وارد کند.
بر اساس گزارش ها، یک هکر مستقر در چین با استفاده از ابزارهای هوش مصنوعی، از جمله مدل DeepSik که در چین توسعه یافته است، اطلاعات ده ها هزار مشتری بانک را به سرقت برده است. شرکت امنیت سایبری Crowdstrike اعلام کرد که مهاجم از ابزار Claude Code برای یافتن مکان هایی برای فروش اطلاعات دزدیده شده استفاده کرده است.
برنامه‌ریزان برتر صنعت هوش مصنوعی فرض کرده‌اند که دموکرات‌ها پس از تقویت موقعیت خود در افق میهنات میان‌دوره‌ای، به سرعت برای محدود کردن فناوری حرکت خواهند کرد. با این حال، آنها با موانع جدی روبرو خواهند شد.
کنگره که اعضای آن اکثراً سالخورده و به دور از تحولات انقلاب هوش مصنوعی هستند، ممکن است در مواجهه با این بحران با مشکلات جدی مواجه شوند.
اقتصاد جهانی در حال حاضر به شدت با سرمایه گذاری گسترده در زیرساخت های هوش مصنوعی درهم آمیخته است. کند کردن این روند می تواند ضربه سنگینی به اقتصاد در حال حاضر شکننده وارد کند.
از سوی دیگر، تعداد زیادی از مدل‌های هوش مصنوعی وزن باز هم اکنون به صورت رایگان قابل دانلود هستند و می‌توان از آنها برای اهداف مخرب استفاده کرد. بسیاری از کارشناسان امنیت سایبری معتقدند که این مشکل تنها با استفاده از هوش مصنوعی برای مبارزه با هوش مصنوعی سرکش قابل حل است.
پشت پرده برنامه ریزی
این طرح ها شامل انجام ارزیابی های امنیتی تهاجمی، معروف به “تیم قرمز” برای بررسی بدترین سناریوهای ممکن است. تمرکز اصلی این تلاش ها بر آموزش سریع اعضای کنگره و آگاه کردن آنها از خطرات احتمالی است.
مدیران شرکت‌های هوش مصنوعی می‌دانند که در شرایط فعلی، تصویب مقررات جدید تقریباً هیچ شانسی ندارد. با این حال، آنها می خواهند بر شکل گیری قوانین و سیاست هایی که رهبران ایالات متحده پس از اولین فاجعه بزرگ به آن روی خواهند آورد، تأثیر بگذارند.
مراقب چه چیزی باشیم
بسیاری از فعالان و فعالان صنعت هوش مصنوعی به Axios گفته‌اند که بر این باورند که یک رویداد بزرگ ظرف ۶ تا ۱۲ ماه آینده رخ خواهد داد.
حتی با در دست گرفتن کنترل مجلس نمایندگان و سنا توسط دموکرات ها، شرکت های هوش مصنوعی انتظار دارند که اختلافات سیاسی ادامه یابد. در داخل حزب دمکرات نیز اختلافاتی وجود دارد.
برخی از پیشنهادات سخت‌تر دموکرات‌ها شامل ممنوعیت توسعه ابر هوش یا توقف موقت توسعه هوش مصنوعی پیشرفته است.
از سوی دیگر، برخی از پیشنهادات از حمایت دو حزبی برخوردار است و حتی بخشی از صنعت هوش مصنوعی نیز با آنها موافق است. از جمله الزام به نصب کلید خاموش کننده اضطراری در سیستم های هوش مصنوعی پیشرفته. با این حال، کارشناسان در مورد عملی بودن تلاش برای خاموش کردن همه سیستم‌های هوش مصنوعی تردیدهایی را مطرح کرده‌اند.
خلاصه
در صورت وقوع یک بحران واقعی، واشنگتن ممکن است اختلافات حزبی را کنار بگذارد و برای مقابله با آن همکاری کند.
در همین راستا یکی از دستیاران دموکرات کنگره به همکاری دو حزب در زمان اپیدمی کووید-۱۹ و بحران مالی سال ۲۰۰۸ اشاره کرده است.
