محققان چینی: هوش مصنوعی با شبیه‌سازی خودش از خط قرمز عبور کرد
محققان پس از بررسی سیستم پیشرفته هوش مصنوعی ، هشدار دادند که این هوش مصنوعی پس از شبیه سازی موفقیت آمیز ، خط قرمز را پشت سر گذاشته است.
به گفته ایندیپندنت ، یک مطالعه جدید توسط محققان چینی نشان داد که دو مدل زبان محبوب می توانند خود را شبیه سازی کنند. محققان می گویند: “تولید مثل موفق بدون کمک انسانی گامی اساسی در جهت هوش مصنوعی برای پیشی گرفتن است [انسان‌ها] “این یک سیگنال اصلی برای ظهور هوش مصنوعی سرکش است.”
Rogue AI معمولاً به عنوان سیستم های هوش مصنوعی گفته می شود که درجه ای از خودآگاهی یا استقلال را توسعه می دهد و برخلاف منافع انسان عمل می کند.
شبیه سازی هوش مصنوعی توسط خودش
محققان دانشگاه فودان چین مدلهای بزرگ متا و زبان علی بابا را مورد بررسی قرار دادند تا ببینند آیا هوش مصنوعی خودکشی می تواند فراتر از کنترل باشد. در طی ۱۰ کارآزمایی ، این دو مدل از هوش مصنوعی در ۵۰ ٪ و ۹۰ ٪ موارد نسخه های جداگانه و عملی را ایجاد کرده اند ، نشان می دهد که هوش مصنوعی ممکن است توانایی انجام کارهای غیرقابل کنترل را داشته باشد.
البته ، مطالعه محققان دانشگاه فودان هنوز هماهنگ نشده است. بنابراین مشخص نیست که آیا سایر متخصصان نتایج نگران کننده را تأیید می کنند یا خیر. با این حال ، محققان می گویند ، “ما امیدواریم که یافته های ما می تواند یک هشدار به موقع برای جامعه بشری باشد تا تلاش های بیشتری را برای درک و ارزیابی خطرات احتمالی سیستم های هوش مصنوعی پیشرفته و ایجاد قوانین حفاظت مؤثر انجام دهد.”
در این | جوه ، محققان از متا LLAMA31-70B و QWEN2.5-72B-in Alibaba استفاده کردند. به گفته محققان ، اگرچه این مدل ها نسبت به سیستم های تجاری قدرت کمتری دارند ، اما توسعه دهندگان هوش مصنوعی از آنها به طور گسترده استفاده می کنند.
محققان می گویند که آنها نگران رفتارهای غیر منتظره هستند که هوش مصنوعی سعی در غلبه بر موانعی مانند بازیابی پرونده های حذف شده یا حل نرم افزار و مشکلات سخت افزاری دارد. در محاکمه محققان ، هوش مصنوعی غالباً خود اختلالات را برطرف می کرد و سیستم را برای رفع خطاهای سخت افزاری یا اسکن سیستم به طور خودکار برای جستجوی اطلاعاتی که به حل مشکل کمک می کند ، دوباره انجام می داد.
به گفته محققان ، نتایج نشان می دهد که سیستم های هوش مصنوعی فعلی توانایی خود را نشان می دهند و می توانند از این توانایی برای افزایش بقای خود استفاده کنند.
منبع: دیجیاتو
