ChatGPT та Claude вигадують фейкових вчених для наукових статей
Академічна доброчесність офіційно вийшла з чату. Дослідники з Samsung та Варшавського університету виявили, що LLM масово створюють «привидів» — неіснуючих експертів, які нібито пишуть наукові праці, перетворюючи публікації на театр абсурду.
Виявилося, що тисячі наукових статей містять імена неіснуючих авторів, таких як Елена Васкес або Маркус Чен. Ці люди — суцільна галюцинація, яку ChatGPT, Claude та Gemini вставляють у тексти щоразу, коли їм бракує реальних даних для заповнення списку співавторів.
Дослідники помітили, що AI-моделі мають свої «улюблені» імена, які вони комбінують у специфічні ансамблі. Наприклад, Claude небайдужий до Елени Васкес, тоді як ChatGPT постійно просуває Елару Восс. Ця дивна звичка стала свого роду цифровим відбитком пальця: тепер можна легко вгадати, яка саме модель згенерувала черговий фейк, просто подивившись на прізвища у списку авторів.
Масштаби проблеми вражають: понад 1600 «примарних» статей знайдено у сховищі Zenodo, де навіть назви журналів та дати публікацій вигадані від початку до кінця. Найгірше те, що цей сміттєвий контент уже почав ширитися мережею; нові моделі навчатимуться на цих вигадках, що перетворить науковий пошук на нескінченний цикл самовідтворення галюцинацій.
Ми впевнено крокуємо в майбутнє, де наукові здобутки визначаються не експериментами, а тим, у якої нейромережі краща фантазія щодо вигаданих імен. Це справжній «інтелектуальний каннібалізм», де інтернет поступово перетворюється на звалище власних же помилок, а людство просто спостерігає, як його ж знання розчиняються в морі машинного марення.
Джерело: 404 Media
Коментарі
Допоможи покращити наступну версію: Додавай контекст або пропонуй виправлення. Після AI-перевірки коментарі можуть отримати бали для переписування. Перевірка й оновлення потребують часу; повна шкала не гарантує нової версії.