هوش مصنوعی اوپن ای آی در تولید محتوا توهم زد!

مهر: ابزار هوش مصنوعی OpenAI جملاتی ایجاد می کند و برای تبدیل صدا به متن به متن اضافه می کند که چالش جدیدی را ایجاد کرده است.

شرکت “Open AI” ابزار رونویسی مبتنی بر هوش مصنوعی خود به نام “Wisper” را منتشر کرد و ادعا کرد که دقت و قدرتی برابر با یک کاربر انسانی دارد.

اما Whisper یک چالش اساسی دارد. به گفته مهندسان نرم افزار، توسعه دهندگان و محققان دانشگاهی، این ابزار ممکن است بخشی از متن یا حتی جملات را به تنهایی بنویسد. این کارشناسان معتقدند برخی از متون اختراعی این ابزار ممکن است حاوی جملات نژادی، خشونت آمیز یا حتی درمان های پزشکی خیالی باشد.

آنها می گویند که چنین اظهاراتی مشکل ساز است، زیرا این ابزار در چندین صنعت در سراسر جهان برای تبدیل مصاحبه ها، تولید متن در مورد فناوری های محبوب مصرف کننده و ایجاد زیرنویس برای فیلم ها استفاده می شود.

نگران کننده تر، عجله مراکز پزشکی برای استفاده از ابزارهای مبتنی بر Whisper برای رونویسی مشاوره بیماران با پزشکان است. با این حال، OpenAI قبلاً هشدار داده است که این ابزار نباید در مناطق با خطر بالا استفاده شود.

تعیین میزان کامل این مشکل دشوار است، اما محققان و مهندسان گزارش داده اند که اغلب در کار خود با توهمات خلاقانه Whisper مواجه می شوند. به عنوان مثال، محققی در دانشگاه میشیگان در حال انجام مطالعه ای بر روی جلسات عمومی بود و از هر ۱۰ متن کلیپ صوتی که بررسی کرد، ۸ مورد حاوی توهمات زمزمه ای بود. پس از آن تلاش خود را برای بهبود این مدل هوش مصنوعی آغاز کرد.

یک مهندس یادگیری ماشین همچنین می گوید که بیش از ۱۰۰ ساعت نمونه رونویسی را که Whisper ساخته بود تجزیه و تحلیل کرده و در نیمی از آنها توهماتی از این هوش مصنوعی مشاهده کرده است. محقق سوم همچنین ادعا کرد که در حین بررسی ۲۶۰۰۰ متن ایجاد شده با کمک Whisper، تقریباً در هر رونویسی توهمات این ابزار را مشاهده کرده است.

این چالش حتی در رونویسی نمونه های کوتاه با کیفیت صوتی نیز وجود دارد.