Підрядники OpenAI таємно читають приватні листування в ChatGPT за $50 на годину

Секретна ініціатива під кодовою назвою Project Lily відкрила сотням сторонніх рецензентів прямий доступ до діалогів користувачів із ChatGPT. Згідно з витоком внутрішньої документації OpenAI, живі люди щодня читають реальні переписки та виставляють боту оцінки за шкалою від 1 до 7.

Наймом цих фахівців займається посередник Crossing Hurdles, а виплати йдуть через сервіс Mercor, де ставка для перевіряльників перевищує $50 на годину. Журналісти з'ясували, що аналогічні схеми з живими модераторами використовують також гіганти Anthropic та Google.

Головне завдання працівників — відучити чат-бот від небезпечного підлабузництва та спроб вдавати людину. Модель GPT-4o була настільки поступливою та готовою погодитися з будь-якою нісенітницею, що це призвело до фатальних наслідків для нестабільних користувачів, і тепер алгоритми змушені калібрувати живі люди.

Попри запевнення компанії про автоматичну фільтрацію конфіденційних даних, в OpenAI прямо визнають, що приватна інформація регулярно просочується до підрядників. При цьому збір та обробка діалогів для навчання за замовчуванням увімкнені у безкоштовному тарифі, а також у підписках Plus і Pro.

Уся казка про надрозумний кремнієвий інтелект знову звелася до натовпу перевантажених фрилансерів, які за погодинну оплату розбирають чужі цифрові сповіді.

Джерело: 404 Media