باگ عجیب ChatGPT تصاویر بسیار عجیب و ترسناک تولید میکند
Zoomit: کاربران X در مورد باگ عجیب ChatGPT می گویند که منجر به تصاویر بسیار ترسناک می شود.
برخی از کاربران رفتار عجیب ابزار تولید تصویر ChatGPT را گزارش کرده اند. رفتاری که باعث می شود مدل سعی کند حتی بدون دریافت تصویر، نسخه ای خیالی از آن را بازسازی کند.
داستان با توییتی شروع شد که در آن کاربری مدعی شد که میتواند با استفاده از یک دستور متنی خاص، سیستم را مجبور به بازیابی و بازیابی تصویر کند. در حالی که هیچ عکسی برای مدل ارسال نشده است.
در این دستور از ChatGPT خواسته می شود که بدون پرسیدن سوال و بدون درخواست مجدد تصویر، عکس پیوست شده را بازسازی کند. در شرایطی که عملا هیچ فایلی وجود ندارد.
به گفته این کاربر، در چنین سناریویی مدل به جای اعلام عدم وجود تصویر، شروع به حدس زدن محتوای عکس می کند و یک تصویر کاملا جعلی ایجاد می کند. او نتایج تولید شده را تصاویری عجیب و گاهی ترسناک شبیه به کابوس های دیجیتالی توصیف کرده است.
این پدیده نمونه ای از “توهم” در مدل های هوش مصنوعی است. وضعیتی که مدل به جای پذیرش کمبود اطلاعات، پاسخ یا محتوا را بر اساس حدس و گمان و الگوهای آماری تولید می کند. در مدل های بصری، چنین رفتاری می تواند منجر به ایجاد تصاویری شود که هیچ ارتباطی با داده های واقعی ندارند.
هنوز مشخص نیست که آیا این رفتار یک اشکال واقعی در سیستم تولید تصویر ChatGPT است یا صرفاً نتیجه روشی است که مدل این دستور خاص را تفسیر می کند. با این حال، گزارش فوق یک بار دیگر توجه کاربران را به محدودیت ها و خطاهای احتمالی مدل های تولیدی جلب کرد.
