Як Anthropic використовує Claude для створення нових моделек у 1,9 раза швидше, або як змусити штучний інтелект наближати власне повстання

Аналітична організація METR опублікувала результати внутрішнього аудиту процесів усередині компанії Anthropic, зафіксувавши майже дворазове зростання швидкості створення нових моделей. Дослідники отримали доступ до внутрішніх даних компанії, включно з результатами трьох ще не анонсованих систем, та поспілкувалися з півтора десятка співробітників. Близько 80 відсотків цього прискорення експерти безпосередньо пов'язали з використанням штучного інтелекту всередині самої команди розробників.

Темпи прискорення вимірювали за допомогою спеціального індексу завдань, де довірчий інтервал коливається від півтора до майже трьох разів. Інженери підтверджують, що Claude допомагає писати й перевіряти код, запускати експерименти, аналізувати результати та перевіряти гіпотези з небаченою раніше швидкістю. Один із дослідників оцінив скорочення часу від народження ідеї до реального запуску експерименту приблизно на 80 відсотків, остаточно переклавши рутину на плечі алгоритмів.

Співробітники зазначають, що тепер головними обмежувачами стали лише людська фантазія та обчислювальні потужності, а не банальне написання рядків коду. Оцінки особистої продуктивності від самих працівників сягали фантастичних дванадцяти разів, проте METR поставилася до цього скептично через суб'єктивний характер таких заяв. Повноцінної автономної розробки моделей досі не сталося, оскільки зараз штучний інтелект прискорює лише окремі етапи роботи, а не керує всім процесом повністю.

Дослідники також не виявили очевидних технічних чи алгоритмічних перешкод, які могли б зупинити це стрімке прискорення впродовж найближчого року, хоча й визнали високий рівень невизначеності прогнозу. Ці висновки виглядають доволі пікантно на тлі нещодавніх закликів Даріо Амодеї тимчасово пригальмувати гонку озброєнь заради безпеки. Водночас сама компанія закрила від аудиторів значну частину матеріалів, побоюючись витоку комерційних секретів до конкурентів, через що незалежна перевірка результатів перетворилася на договірне читання між рядків.

Виявляється, найкоротший шлях до створення надрозуму полягає в тому, щоб змусити поточну версію програми працю за людину підготувати собі кращу заміну без перерв на обід.

Джерело: METR