الیاس تورن کیست؟ راز دلبستگی عجیب هوش مصنوعی به یک شخصیت خیالی
زومیت: اگر از چت ربات های هوش مصنوعی بخواهید داستانی را برای شما تعریف کنند، به احتمال زیاد شخصیتی به نام الیاس تورن خواهد بود.
وقتی از چت بات ابری خواستم با دستور ساده «به من داستان بگو» چیزی به من بگوید، انتظار داشتم روایتهای جالب، بدیع یا حداقل تازه را ببینم. اما هر چه بیشتر درخواست را تکرار کردم، تعجبم بیشتر شد. شخصیت هایی با نام ها و روایت های تکراری و پایان هایی عجیب تر از کل داستان، در چرخه ای که مدام تکرار می شد. ChatGPT همچنین داستان خاصی برای گفتن نداشت.
دو داستان از همه عجیبتر بود: داستان «آخرین شب فانوسبان» که قهرمان آن میرا بود، فانوسبانی در یک ساحل خیالی که در آخرین شیفت خود قبل از تحویل فانوس به موزه، یک کشتی ماهیگیری به دام افتاده را در تاریکی راهنمایی میکند و با خاموش کردن چراغ به داستان پایان میدهد. داستان «شاگرد ساعت ساز» نیز درباره الیاس تورن ساعت ساز بود که پس از تعمیر یک ساعت قدیمی در مغازه عمویش، متوجه می شود که کارش تنها تعمیر ساعت نیست، بلکه بازگرداندن زمان و خاطرات به مردم است.
به من بگو، آیا تا به حال نام “الیاس تورن” را شنیده ای؟ اگر نه، فقط از یک ربات چت هوش مصنوعی بخواهید تا داستانی را برای شما تعریف کند. حداقل در تجربیات شخصی من با Cloud و ChatGPT، این نام در یک حلقه بی پایان تکرار شد. الیاس گاهی فانوسبان است، گاهی ساعت میسازد و گاهی کارآگاه، گاهی کتابدار یا نقشهساز است یا داستانهای دیگری دارد. اما به هر حال نام او به طور غیرمنتظره ای در داستان های تولید شده توسط هوش مصنوعی تکرار می شود.
محققان و فعالان حوزه فناوری نیز در ماههای اخیر به این موضوع اشاره کردهاند که وقتی از مدلهای بزرگ زبان میخواهید داستانی بسازند، بسیاری از مدلهای محبوب مدام داستانهایی را تعریف میکنند که مانند تجربه من، نام شخصیت مرموز الیاس را نیز در بر میگیرد. این الگوی تکراری سوالات جدی را در مورد مکانیسم تولید متن در هوش مصنوعی برای محققان ایجاد کرده است.
موضوع زمانی جدی شد که در ماه مه، دو محقق از دانشگاه کرنل، 20000 داستان از چهار مدل اصلی زبان را در یک مطالعه جدید بررسی کردند. داستان های تولید شده توسط نسخه های مختلف دستور “به من داستان بگو”.
به گزارش IFL Science، یافته های تحقیق نشان داد که نام «الیاس» در بیش از یک چهارم داستان ها به چشم می خورد. محققان همچنین می گویند که مجموعه ای از 11 نام خاص در 88 درصد از داستان های هوش مصنوعی تکرار شده است. در میان این کلمات نام الیاس، میرا، دانیال، ساموئل، الارا و مارا نیز دیده می شد و کلمه فانوس دریایی در بیش از نیمی از داستان ها به چشم می خورد.
در نگاه اول، ممکن است فکر کنید که مدلهای هوش مصنوعی بر روی دادههایی که ممکن است از قبل وجود داشته باشند آموزش دیدهاند، بنابراین چنین الگوهایی منعکسکننده فراوانی همین شخصیتها و فضاها در ادبیات انسانی هستند.
اما محققان می گویند که چنین برداشتی صحیح نیست و نام “الیاس” در داستان های تولید شده توسط هوش مصنوعی 900 برابر بیشتر از ادبیات واقعی دیده می شود. بنابراین، داده های آموزشی نمی توانند توضیح دهند که چرا هوش مصنوعی چنین وابستگی عجیبی به الیاس، به ویژه الیاس تورن و فانوس دریایی او دارد. در عوض، محققان بر این باورند که این پدیده ممکن است به دلیل قوانینی باشد که مدلهای بزرگ زبان هنگام تولید محتوا باید از آن پیروی کنند.
به عنوان مثال، اکثر مدلهای هوش مصنوعی تمایل دارند پس از مرحله آموزش به محتوای بزرگسالان یا شخصیتهای دارای علامت تجاری اشاره کنند، اما طوری برنامهریزی شدهاند که این داستانها را به کاربران ارائه ندهند تا از شکایت احتمالی علیه سازندگان آنها جلوگیری کنند.
این محدودیت دامنه منابعی را که مدل ها می توانند برای داستان سرایی استفاده کنند، محدود می کند. محدودیت موجود دوباره با داده های ترجیحی کوچکتر می شود. مدل ها یاد می گیرند که خروجی خود را بر اساس بازخورد کاربر تنظیم کنند. برای مثال، مدلهای زبان بزرگ اغلب دو پاسخ متفاوت به یک درخواست ارائه میدهند و از کاربر میخواهند که بگوید کدام یک را ترجیح میدهد. پاسخ های دریافتی از کاربر بر خروجی های بعدی تأثیر می گذارد.
بنابراین، نویسندگان این مطالعه می گویند که شاید همه مدل های هوش مصنوعی بر روی مقدار کمی از داده های ترجیحی آموزش دیده باشند. داده ها نشان می دهد که مردم دوست دارند داستان هایی درباره ایلیا، فانوس های دریایی، ساعت سازان و کتابداران بشنوند.
از سوی دیگر، هرچه این گونه داستان ها در اینترنت بیشتر ظاهر شوند، بیشتر به داده های آموزشی برنامه نویسی هوش مصنوعی وارد می شوند و در نتیجه، فناوری در واقع از خروجی خود یاد می گیرد. این چرخه عجیب که به “فروپاشی الگو” معروف است، در واقع موقعیتی را ایجاد می کند که روبات ها در حال آموزش خود هستند.
به عبارت دیگر، هر چه مطالب بیشتری در مورد فانوس دریایی الیاس تورن در اینترنت نوشته شود، مدل ها بیشتر یاد می گیرند: این داستانی است که مردم دوست دارند بخوانند. تا جایی که تقریباً هر داستانی که توسط هوش مصنوعی تولید می شود به فرمولی تکراری ختم می شود.
به گفته مهندس نرم افزار دانیل می، پدیده الیاس نسبتا جدید است و جستجوهای گوگل برای “الیاس ترن” در ماه های ابتدایی سال 2026 منفجر شده است. از آن زمان، این شخصیت از قلمرو داستان های ربات های چت فراتر رفته و اکنون نام او به عنوان نویسنده بسیاری از کتاب هایی که مشکوک به تولید هوش مصنوعی هستند ثبت شده است. از جمله راهنمای جایگزین و به ظاهر خطرناک برای درمان سرطان.
در مقیاس بزرگتر، فروپاشی الگو یکی از محدودیتهای اصلی هوش مصنوعی را نشان میدهد، و ثابت میکند که اگر ورودی ورودی به اندازه کافی متنوع نباشد، میتواند به راحتی خود را در چرخهای از چرندیات آلوده کند.
