Адміністрація Трампа проти Anthropic: або ідеальна Fable 5, або ніякої

Уряд США поставив ультиматум компанії Anthropic: Fable 5 не побачить світ, поки розробники не гарантують, що жоден користувач не зможе «зламати» модель. Починаючи з червня, доступ до Fable 5 та Mythos 5 був обмежений на вимогу влади, і компанія досі намагається переконати чиновників, що ризики — це лише перебільшення.

Anthropic доводить свою позицію перед Міністерством торгівлі США, але Агентство національної безпеки (АНБ) має власні докази. Їхні фахівці знайшли конкретні шляхи обходу запобіжників, які мали б блокувати доступ до небезпечних знань у сфері хімії та біології, прихованих у надрах Mythos 5.

Адміністрація президента розглядає це як суто корпоративний клопіт, оскільки у державних структур просто немає ресурсів для постійного стеження за кожним рядком коду, що виходить на ринок. Уряд вимагає, щоб Anthropic не просто латала дірки, а займалася безперервним тестуванням усіх своїх моделей, фактично перетворюючи розробників на цілодобову службу безпеки.

Однак фундаментальна проблема залишається: як саме заборонити AI відповідати на «неправильні» запити, якщо це по суті лише ймовірнісна модель мови? Експерти з кібербезпеки лише розводять руками, називаючи вимоги Білого дому завідомо нездійсненними — досвідчені користувачі завжди знайдуть спосіб обійти будь-які штучні обмеження.

Спроба загнати AI в клітку з правил — це спроба переконати дзеркало не показувати відображення. Поки чиновники грають у «безпеку», вони лише створюють ілюзію контролю над технологією, яка вчиться швидше, ніж будь-який урядовий регулятор встигає підписати нову заборону.

Джерело: Wired