پدرخوانده هوش مصنوعی هشدار داد: شاید هیولاهایی بسازیم که از ما قوی‌تر باشند

یاشوا بنجیو، دانشمند علوم کامپیوتر که به عنوان یکی از پدرخوانده های هوش مصنوعی نیز شناخته می شود، نسبت به خطرات توسعه بی رویه این فناوری هشدار داده است. او توسعه هوش مصنوعی را با ایجاد هیولاهایی که قوی تر از انسان هستند مقایسه کرد.

یاشوا بنجیو یکی از افرادی است که بیشتر کار خود را به تحقیق در مورد شبکه های عصبی و الگوریتم های یادگیری عمیق اختصاص داده است. محصولاتی مانند ChatGPT و Claude نتیجه مستقیم تحقیقات این دانشمند کانادایی است. او نگران توسعه هوش مصنوعی است و این نگرانی ها را در مصاحبه ای اختصاصی با Yahoo Finance بیان کرده است.

یاشوا بنجیو، پدرخوانده هوش مصنوعی، نسبت به توسعه بی رویه این فناوری هشدار داد.

به گفته بنجیو، هوش نوعی قدرت است و هر کسی که بتواند این قدرت را در سطح انسانی یا بالاتر کنترل کند، بسیار بسیار قدرتمند خواهد بود. وی در ادامه گفت:

به طور کلی، افرادی که از فناوری استفاده می کنند، قدرت بیشتری می خواهند. تسلط اقتصادی، سلطه نظامی، سلطه سیاسی. “ما باید قبل از ایجاد فناوری که می تواند قدرت را به روش های خطرناک متمرکز کند، بسیار مراقب باشیم.”

یاشوا بنجیو در پاسخ به این سوال که چرا باید نگران هوش مصنوعی در سطح انسانی باشیم؟ گفت:

“اگر این [هوش مصنوعی] در دستان اشتباه، می تواند بسیار خطرناک باشد. این ابزارها می توانند به زودی به کمک تروریست ها و بازیگران دولتی بیایند که می خواهند دموکراسی های ما را نابود کنند. موضوع دیگری که وجود دارد و بسیاری از دانشمندان به آن اشاره کرده اند نحوه آموزش هوش مصنوعی است. ما به وضوح درک نمی کنیم که چگونه می توانیم از مستقل بودن این سیستم ها جلوگیری کنیم و اهدافی برای محافظت از خود نداشته باشند. ممکن است کنترل این سیستم ها را از دست بدهیم. بنابراین، ما در مسیری هستیم که شاید هیولاهایی بسازیم که از ما قدرتمندتر باشند.”

تاکنون بسیاری از افراد حوزه فناوری و دانشمندان نگرانی های خود را در مورد آینده هوش مصنوعی و تأثیرات آن بر آینده بشریت مطرح کرده اند. به عنوان مثال، بیل گیتس اخیراً سه نگرانی بزرگ خود را در مورد هوش مصنوعی آشکار کرده است. در مقابل، برخی دیگر از مدیران فناوری معتقدند که جهان به هوش مصنوعی پیشرفته‌تر و بیشتر نیاز دارد و حتی باید سرمایه‌گذاری بیشتری در ساخت مراکز داده هوش مصنوعی انجام شود.

منبع: دیجیاتو