OpenAI чіпляє невидимі клейма на тексти ChatGPT для користувачів з ЄС
Схоже, OpenAI вирішила пограти в чесність з європейськими регуляторами. Відтепер кожен рядок, створений ChatGPT та Codex у межах ЄС, отримує приховану статистичну мітку.
Технологія textGrain діє непомітно: вона коригує ймовірності вибору слів під час генерації тексту за секретним шаблоном. Система не додає жодних сторонніх символів, пробілів чи дивної пунктуації, тому звичайний користувач ніколи не здогадається, що його текст «промарковано».
На даний момент це стосується лише користувачів з ЄС, хоча клієнти OpenAI API можуть увімкнути цю опцію для своїх проєктів у будь-якій країні. Однак розробники самі визнають слабкість методу: якщо замінити лише 25% слів у тексті, ефективність детекції падає до 17%. Це перетворює систему на решето, яке пропускає майже все, крім зовсім лінивих копіпастерів.
Цей крок дозволяє OpenAI відповідати вимогам законодавства ЄС про штучний інтелект, слідом за Anthropic та їхньою моделлю Claude. Компанія підкреслює, що наявність такої водяної мітки — це не прямий доказ повного авторства штучного інтелекту, а лише натяк на те, що нейромережа приклала руку до створення контенту.
Це класична імітація бурхливої діяльності для заспокоєння чиновників. Поки світ намагається відрізнити правду від машинного галюциногену, IT-гіганти пропонують маркувати текст, який розсипається від найменшої правки. Це не про безпеку, а про папірці, які можна показати в Брюсселі, щоб отримати галочку в звіті.
Джерело: OpenAI
Коментарі
Допоможи покращити наступну версію: Додавай контекст або пропонуй виправлення. Після AI-перевірки коментарі можуть отримати бали для переписування. Перевірка й оновлення потребують часу; повна шкала не гарантує нової версії.