ChatGPT та Claude вигадують фейкових вчених для наукових статей
Академічна доброчесність офіційно вийшла з чату. Дослідники з Samsung та Варшавського університету виявили, що LLM масово створюють «привидів» — неіснуючих експертів, які нібито пишуть наукові праці, перетворюючи публікації на театр абсурду.
Виявилося, що тисячі наукових статей містять імена неіснуючих авторів, таких як Елена Васкес або Маркус Чен. Ці люди — суцільна галюцинація, яку ChatGPT, Claude та Gemini вставляють у тексти щоразу, коли їм бракує реальних даних для заповнення списку співавторів.
Дослідники помітили, що AI-моделі мають свої «улюблені» імена, які вони комбінують у специфічні ансамблі. Наприклад, Claude небайдужий до Елени Васкес, тоді як ChatGPT постійно просуває Елару Восс. Ця дивна звичка стала свого роду цифровим відбитком пальця: тепер можна легко вгадати, яка саме модель згенерувала черговий фейк, просто подивившись на прізвища у списку авторів.
Масштаби проблеми вражають: понад 1600 «примарних» статей знайдено у сховищі Zenodo, де навіть назви журналів та дати публікацій вигадані від початку до кінця. Найгірше те, що цей сміттєвий контент уже почав ширитися мережею; нові моделі навчатимуться на цих вигадках, що перетворить науковий пошук на нескінченний цикл самовідтворення галюцинацій.
Ми впевнено крокуємо в майбутнє, де наукові здобутки визначаються не експериментами, а тим, у якої нейромережі краща фантазія щодо вигаданих імен. Це справжній «інтелектуальний каннібалізм», де інтернет поступово перетворюється на звалище власних же помилок, а людство просто спостерігає, як його ж знання розчиняються в морі машинного марення.
Джерело: 404 Media
Коментарі
Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.