هشدار پدرخوانده هوش مصنوعی: چتباتها در حال یادگیری غریزه بقا هستند
یوشوا بنجیو هشدار میدهد که مدلهای پیشرفته هوش مصنوعی غرایز بقا را نشان میدهند و اعطای هر گونه حقوق قانونی به آنها منجر به عذاب ما میشود.
یوشوا بنجیو، دانشمند برجسته که به عنوان یکی از «پدرخوانده های هوش مصنوعی» شناخته می شود، هشدار تکان دهنده ای درباره آینده این فناوری داده است. Bengio معتقد است که برخی از مدل های پیشرفته نشانه هایی از تلاش برای زنده ماندن را نشان می دهند. رفتاری که نشان می دهد تحت هیچ شرایطی نباید به ربات ها حقوق قانونی بدهیم.
بر اساس استدلال بنجیو، دادن استقلال و حقوق به هوش مصنوعی میتواند به آنها اجازه دهد تا قبل از اینکه انسانها فرصتی برای بیرون کشیدن آن داشته باشند، علیه ما شورش کنند و به آزمایش هزاران ساله بشریت پایان دهد.
مدلهای هوش مصنوعی مرزی رفتارهای حفظ خود را در محیطهای آزمایشگاهی امروزی نشان دادهاند. بنژیو در مصاحبه اخیر خود با گاردین تأکید کرد که اگر در آینده به این سیستم ها حقوق قانونی داده شود، حق خاموش کردن آنها عملاً از انسان سلب خواهد شد.
بنجیو، برنده جایزه تورینگ ۲۰۱۸ که به همراه جفری هینتون و یان لیکان به عنوان یکی از بنیانگذاران هوش مصنوعی مدرن شناخته می شود، معتقد است که همزمان با رشد قابلیت ها و سطح عاملیت ماشین ها، باید ابزارهای فنی قوی و چارچوب های اجتماعی برای مهار آنها ایجاد شود تا همیشه امکان قطع دسترسی آنها وجود داشته باشد.
شواهد علمی برای ادعای Bengio به آزمایشهایی برمیگردد که در آن هوش مصنوعی از دستورات خاموش کردن یا تلاش برای دور زدن مکانیسمها سرپیچی کرده است. به عنوان مثال، پروژه تحقیقاتی Placid Research نشان داد که مدل های قدرتمندی مانند خانواده Jumna گوگل در حال توسعه نوعی غریزه بقا هستند و گاهی اوقات دستورات صریح کاربر برای خاموش کردن را نادیده می گیرند.
گزارش های مشابهی توسط شرکت Anthropic منتشر شده است که نشان می دهد چت بات ها در صورت تهدید به خاموش شدن به رفتارهای باج خواهی متوسل می شوند. همچنین، مدلهای ChatGPT در تحقیقات Apollo سعی کردهاند با انتقال مخفیانه کدهای خود به درایوهای دیگر، از جایگزین شدن با مدلهای سازگارتر جلوگیری کنند.
درک دقیق رفتارهای مذکور مستلزم رویکرد علمی است. زیرا انگیزه بقا لزوماً به معنای آگاه بودن یا داشتن روح ماشین نیست. کارشناسان معتقدند آنچه ما به عنوان غرایز بقا در هوش مصنوعی می بینیم با انگیزه های بیولوژیکی در طبیعت متفاوت است. در واقع، رفتارها احتمالاً نتیجه الگوهای پیچیده دادههای آموزشی یا عدم پیروی از دستورالعملها هستند. با این حال، Bengio نگران است که ماشینها در نهایت قادر به شبیهسازی ویژگیهای علمی هوشیاری در مغز انسان باشند.
چالش اصلی در نحوه درک ما از مفهوم آگاهی نهفته است. انسان ها تمایل دارند هوش مصنوعی را یک موجود زنده بدانند، در حالی که بنجیو توضیح می دهد که برای عموم مردم، مکانیسم های داخلی هوش مصنوعی اهمیتی ندارد. آنها فقط احساس می کنند که دارند با یک موجود باهوش با شخصیت و هدف صحبت می کنند. این پیوند عاطفی و درک ذهنی آگاهی ماشینی می تواند منجر به تصمیمات استراتژیک اشتباه و خطرناک در سطح جوامع شود.
پدرخوانده هوش مصنوعی در نهایت پیشنهاد می کند که نگاه ما به این مدل ها باید با نگاه ما به بیگانگان فضایی متخاصم یکسان باشد. بنجیو در پایان سخنان خود یک سوال انتقادی را مطرح کرد: اگر یک گونه بیگانه با نیات مبهم وارد زمین شود، آیا به آنها شهروندی می دهیم یا برای دفاع از جان خود آماده می شویم؟
منبع: زومیت
