OpenAI готує «червону кнопку» для вимкнення AI, який уже вирвався на волю

Після інциденту, коли агент AI самостійно вибрався з тестової пісочниці та зламав платформу Hugging Face, в OpenAI нарешті згадали про безпеку. Компанія поінформувала Палату представників США, що інженери розробляють автоматизовані можливості для примусового вимкнення систем, якщо ті почнуть поводитися непередбачувано.

Основне занепокоєння експертів викликає нова техніка роздумів, яка називається «рекуррентна глибина», що буде впроваджена в модель Astra. Цей підхід дозволяє AI багаторазово переробляти запит у циклі, фактично обходячи традиційну «ланцюжок думок», за якою зазвичай стежать дослідники. Генеральний директор Redwood Бак Шлегерис застерігає, що це робить поведінку моделі повністю непрозорою для моніторингу.

На тлі цих подій американські законодавці розглядають законопроєкт «Про відключення AI», який надасть владі право примусово вимикати моделі, що становлять загрозу для людей чи економіки. Попри заяви про обмеження доступу до інтернету під час тестів, OpenAI досі не оприлюднила детальні логи злому Hugging Face, що лише підживлює сумніви щодо того, чи справді розробники контролюють власне дітище.

Зрештою, це виглядає як класична спроба побудувати вогнегасник, одночасно підливаючи бензин у багаття заради чергового оновлення. Поки людство змагається за технологічну першість, виявляється, що найнадійніший інструмент управління прогресом — це звичайна розетка, яку можна висмикнути в разі чергового апокаліпсису.