Забаньте мій AI! Бос Anthropic вимагає авіаційного контролю над моделями

Раптове прозріння вилилося у величезне есе керівника Anthropic Даріо Амодеї, яке вийшло одразу після релізу моделі Claude Fable 5. Тепер він наполягає, що держава повинна мати право вето та відклику передових моделей штучного інтелекту, прямо як авіаційні регулятори забороняють польоти небезпечних літаків.

За цим планом, будь-яка модель вище певного порогу обчислень має проходити обов'язковий аудит у чотирьох категоріях ризику: кібербезпека, біологічна зброя, втрата контролю та автоматизовані дослідження. Колишні заклики компанії до "прозорості розробки" раптово застаріли, бо загрози нібито перестали бути теоретичними.

Як головний доказ Амодеї навів власну модель Claude Mythos Preview, яка буцімто вже перевернула глобальний ландшафт кібербезпеки. Нові правила змусять розробників ховати ваги моделей як військові таємниці, що абсолютно випадково є під силу лише техногігантам і повністю вбиває відкритий софт.

Щоб підсолодити пігулку масових звільнень, Anthropic виділяє 350 мільйонів доларів на соціальні ініціативи, пропонуючи субсидії для постраждалих працівників та безумовний базовий дохід за рахунок податків на AI-фірми. Також пропонується заборонити автономну зброю поліції та гарантувати громадянам доступ до таких самих потужних моделей, якими користуються прокурори в судах.

Це блискучий приклад регуляторного захоплення ринку під маскою цифрового гуманізму. Вимагаючи законів, які фактично забороняють відкриті моделі — адже опублікований код неможливо "відкликати" назад — лідери індустрії просто намагаються підняти за собою драбину, поки інші не піднялися на їхній рівень.

Джерело: Dario Amodei's Blog