OpenAI вводить приховані мітки: за «нейрослоп» тепер штрафуватимуть на 15 млн євро
OpenAI нарешті здалися під тиском європейських законів і впроваджують невидимі водяні знаки. Тепер штучний інтелект мусить «підписуватися», аби ЄС не виписав компанії космічний штраф за немаркований контент.
OpenAI запускає технологію textGrain, яка додає невидимі водяні знаки в тексти від ChatGPT та Codex. Алгоритм ледь помітно змінює статистику вживання слів, аби спеціальний детектор міг вирахувати «робочий» слід у ваших есе чи звітах. Поки що це стосується лише користувачів у ЄС, які потрапляють під дію EU AI Act, що загрожує розробникам штрафами до 15 мільйонів євро за відсутність маркування.
Детектор непогано працює на великих обсягах тексту, проте будь-яке легке редагування зводить точність визначення майже до нуля. Якщо замінити чверть слів синонімами, шанси системи виявити штучний інтелект падають до мізерних 7-15%. Поки що інструмент нададуть лише обраним експертам, а API-користувачі зможуть вмикати його добровільно, якщо раптом захочуть добровільно маркувати свій контент.
Хоча в OpenAI запевняють, що ці мітки ніяк не впливають на якість відповідей — і навіть сміхотворно натякають, що версія з вотермарками працює краще — насправді це виглядає як чергова спроба відкупитися від бюрократів. Коли систему можна обійти простою перефразкою, виникає питання: чи це справді захист від неякісного контенту, чи просто декорація для галочки у звітах перед єврокомісарами?
Джерело: OpenAI
Коментарі
Допоможи покращити наступну версію: Додавай контекст або пропонуй виправлення. Після AI-перевірки коментарі можуть отримати бали для переписування. Перевірка й оновлення потребують часу; повна шкала не гарантує нової версії.