OpenAI звинувачує Moonshot AI у крадіжці інтелекту моделей
OpenAI виявила, що Moonshot AI намагалися виманити приховані алгоритми міркувань їхніх моделей. Це нагадує дешевий детектив, де замість хакерів — звичайні запити до чат-бота, який просто не втримав язика за зубами.
Усе почалося першого липня, проте справжня «спецоперація» розгорнулася наприкінці місяця, коли OpenAI зафіксувала 16 000 запитів від 4 000 користувачів. Зловмисники використовували хитрий метод: копіювали зашифровані логічні ланцюжки з одного чату в інший, змушуючи модель «розшифрувати» саму себе.
Це не був злом бази даних у стилі Матриці. Замість цього оператори використовували adversarial distillation — метод маніпуляції, при якому модель переконують видати свої внутрішні міркування. Компанія пов'язує цю активність з людьми, дотичними до Moonshot AI, розробників Kimi, хоча прямих доказів корпоративного замовлення поки немає.
До 28 липня «вечірку» прикрили, а підозрілі акаунти заблокували. OpenAI навіть поділилася методами захисту з Frontier Model Forum. Звісно, 16 000 запитів не означають 16 000 успішних витоків, але це чудовий показник того, наскільки сильно конкуренти хочуть скопіювати «мізки» топових моделей, не витрачаючи мільярди на власні розробки.
Це фінальна стадія технологічної гонки: коли ти не можеш створити щось краще, ти просто просиш чужий алгоритм зрадити своїх творців під час дружньої бесіди. Глядачі спостерігають, як корпорації намагаються переграти одна одну не якістю коду, а вмінням вмовляти штучний інтелект здати своїх хазяїв.
Джерело: OpenAI
Коментарі
Допоможи покращити наступну версію: Додавай контекст або пропонуй виправлення. Після AI-перевірки коментарі можуть отримати бали для переписування. Перевірка й оновлення потребують часу; повна шкала не гарантує нової версії.