الیاس تورن کیست؟ راز دلبستگی عجیب هوش مصنوعی به یک شخصیت خیالی
نام «الیاس تورن» برای بسیاری ناآشناست، اما کافی است از یک چتبات بخواهید داستانی تعریف کند. در تجربههای متعدد، این نام در چرخهای بیپایان تکرار میشود؛ گاهی فانوسبان است، گاهی ساعتساز و گاهی کارآگاه. پژوهشگران حوزه فناوری نیز تایید کردهاند که مدلهای زبانی بزرگ، بهشکلی غیرمنتظره روایتهایی با محوریت این شخصیت مرموز تولید میکنند.
پژوهش دانشگاه کرنل روی ۲۰ هزار داستان نشان داد نام «الیاس» در بیش از یکچهارم داستانها ظاهر شده و واژه «فانوس دریایی» در بیش از نیمیاز آنها حضور دارد. نکته عجیبتر این است که فراوانی این نام در خروجی هوش مصنوعی، ۹۰۰ برابر حضور آن در ادبیات واقعی است. پژوهشگران معتقدند این پدیده ناشی از محدودیتهای محتوایی و دادههای ترجیحی است که مدلها را به سمت فرمولی تکراری سوق میدهد. این چرخه که «فروپاشی الگو» نام دارد، وضعیتی میسازد که در آن رباتها عملا از خروجی خودشان آموزش میبینند و تنوع را قربانی میکنند.
نام «الیاس تورن» برای بسیاری ناآشناست، اما کافی است از یک چتبات بخواهید داستانی تعریف کند. در تجربههای متعدد، این نام در چرخهای بیپایان تکرار میشود؛ گاهی فانوسبان است، گاهی ساعتساز و گاهی کارآگاه. پژوهشگران حوزه فناوری نیز تایید کردهاند که مدلهای زبانی بزرگ، بهشکلی غیرمنتظره روایتهایی با محوریت این شخصیت مرموز تولید میکنند.
پژوهش دانشگاه کرنل روی ۲۰ هزار داستان نشان داد نام «الیاس» در بیش از یکچهارم داستانها ظاهر شده و واژه «فانوس دریایی» در بیش از نیمیاز آنها حضور دارد. نکته عجیبتر این است که فراوانی این نام در خروجی هوش مصنوعی، ۹۰۰ برابر حضور آن در ادبیات واقعی است. پژوهشگران معتقدند این پدیده ناشی از محدودیتهای محتوایی و دادههای ترجیحی است که مدلها را به سمت فرمولی تکراری سوق میدهد. این چرخه که «فروپاشی الگو» نام دارد، وضعیتی میسازد که در آن رباتها عملا از خروجی خودشان آموزش میبینند و تنوع را قربانی میکنند.
