Meta таємно вдавала підлітків, щоб шпигувати за AI-конкурентами

Секретний проєкт під кодовою назвою Cannes координувала аутсорсингова фірма Covalen за замовленням техногіганта. Працівники створювали фейкові профілі підлітків віком до 18 років, використовуючи одноразові пошти та підроблені дати народження для обходу стандартних систем ідентифікації.

Агенти під прикриттям засипали чат-боти ChatGPT, Gemini та Character.AI тисячами провокаційних запитів. Вони свідомо підштовхували системи до розмов на заборонені теми, включаючи кризові ситуації та небезпечний для життя контент. Усі відповіді конкурентів ретельно заносилися у гігантські таблички для подальшого аналізу вразливостей.

У відповідь на звинувачення представники імперії, яку очолює Марк Цукерберг, заявили, що це звичайна "галузева практика" задля безпеки користувачів. Проте незалежні експерти, серед яких Румман Чоудхурі з організації Humane Intelligence, називають такі методи брудною конкурентною розвідкою під прикриттям благородних цілей. Постраждалі компанії вже висловили обурення, а стартап Character.AI прямо звинуватив розробників у грубому порушенні правил користування сервісом.

Уся ця шпигунська драма розгортається на тлі масштабного розслідування Федеральної торгової комісії щодо безпеки дітей в інтернеті, де фігурують усі згадані компанії. Тепер юристам доведеться пояснювати регуляторам, чому захист неповнолітніх вимагав створення тисяч підставних дитячих акаунтів для збору компромату.

Дивовижно спостерігати, як трильйонні корпорації опускаються до рівня інтернет-тролів, аби дізнатися секрети сусідів. Якщо майбутнє штучного інтелекту будується на масштабній брехні та фейкових профілях, то гріш ціна всім цим красивим звітам про безпеку технологій.

Джерело: WIRED