هشدار تکاندهنده رهبر هوش مصنوعی مایکروسافت؛ نابودی حتمی است؟
سرپرست تیم هوش مصنوعی مایکروسافت ضمن هشدار نسبت به احتمال نابودی بشریت، گفت که تمرکز آنها بر توسعه هوش مصنوعی انسان محور است.
مصطفی سلیمان، یکی از بنیانگذاران Google DeepMind و رهبر فعلی تیم هوش مصنوعی مایکروسافت، در بیانیه ای مهم اعلام کرد که این شرکت سیستمی را توسعه نخواهد داد که خارج از کنترل انسان باشد.
اظهارات جدید سلیمان نشان دهنده یک چرخش استراتژیک است و بر توسعه هوش مصنوعی انسان محور تاکید دارد. رویکرد جدید مایکروسافت امنیت را در اولویت قرار می دهد.
سلیمان تاکید کرد که مایکروسافت باید در زمینه هوش مصنوعی به خودکفایی برسد و مدل های پیشرفته خود را با داده ها و قدرت پردازش اختصاصی آموزش دهد. این تغییر رویکرد زمانی اتفاق میافتد که مایکروسافت سرمایهگذاریهای عظیمی در هوش مصنوعی انجام داده است، از جمله سرمایهگذاری ۱ میلیارد دلاری در OpenAI در سال ۲۰۱۹.
گزارش های اخیر حاکی از آن است که تلاش های داخلی مایکروسافت برای توسعه محصولات هوش مصنوعی چندان موفق نبوده و این شرکت را مجبور به کاهش اهداف فروش می کند. در واقع استفاده از محصولات هوش مصنوعی اختصاصی مایکروسافت در سطح بسیار پایینی قرار دارد.
در یک قرارداد جدید، مایکروسافت و OpenAI تصمیم گرفتهاند که از یکدیگر مستقلتر شوند و ردموند اکنون آزاد است تا هوش مصنوعی شبیه انسان (AGI) را مستقل یا با همکاری شرکتهای شخص ثالث توسعه دهد.
قرارداد جدید تضمین میکند که OpenAI نمیتواند با اعلام تصاحب AGI قبل از تایید هیئت متخصص مستقل، به رابطه خود با مایکروسافت پایان دهد.
مصطفی سلیمان می گوید مایکروسافت به توسعه سیستمی که می تواند منجر به نابودی بشریت شود ادامه نخواهد داد. وی هشدار داد که احتمال نابودی وجودی (انسانیت) تقریباً قطعی است و اگر خطرات افزایش یابد، توسعه هوش مصنوعی را کند می کند.
در گذشته، محققان ایمنی هوش مصنوعی مانند رومن یامپولسکی احتمال نابودی بشر توسط هوش مصنوعی را تا ۹۹.۹۹۹۹۹۹۹ درصد تخمین زدند. رویکرد محتاطانه و انسان محور مایکروسافت می تواند پاسخی به این نگرانی های جدی در جامعه فناوری باشد.
بخش هوش مصنوعی مایکروسافت تحت رهبری مصطفی سلیمان پیشرفت خوبی داشته است و این شرکت می خواهد به هوش مصنوعی انسان محور برسد. سیستمی که منحصراً در خدمت انسان ها خواهد بود.
مایکروسافت قبلا توسعه AGI و هوش مصنوعی را در ازای دسترسی به فناوریهای پیشگام OpenAI کنار گذاشته بود. قرارداد جدید بین دو شرکت به مایکروسافت اجازه می دهد تا به سمت AGI حرکت کند.
سلیمان همچنین اذعان کرد که محصولاتی مانند Copilot هنوز در حال توسعه هستند و ممکن است دارای خطا باشند.
منبع: زومیت
