Хакер Джордж Готц назвав AI-програмістів найдорожчою помилкою в історії ІТ

Джордж Готц, який у 17 років став першим у світі зломщиком iPhone, а згодом обійшов захист PlayStation 3, пів року намагався вбудувати AI-агентів у свою повсякденну роботу. Він залучав їх до написання коду свого фреймворку tinygrad та реверс-інжинірингу інтерфейсного чіпа, але результати виявилися невтішними.

Його експеримент показав сумну реальність: агенти насправді не вміють програмувати, а лише майстерно імітують процес написання коду, що робить цей обман дедалі непомітнішим для недосвідченого ока. Готц порівняв аргументи фанатів нейромереж із порадами ігроманів у казино, які пропонують смикати за важіль грального автомата й вірити в успіх. Хоча AI корисний для швидких прототипів або пошуку інформації, він не дотягує до рівня професійного інженера.

Головна небезпека криється у великих корпораціях, які примусово впроваджують ці технології. Досвідчені розробники здатні відрізнити якісний код від генеративного сміття, тоді як слабкі розробники використовують AI для імітації шаленої продуктивності, завалюючи репозиторії низькоякісним сміттям. Готц відкрито сумнівається у майбутній якості macOS, оскільки компанія Apple тепер зобов'язує своїх інженерів використовувати штучний інтелект.

Для створення справжнього AI-інженера потрібні повноцінні моделі світу, а не прості системи навчання з підкріпленням (RLVR), де алгоритм просто виправляє тести навпомацки, доки вони не перестануть падати. Готц резюмував, що головним досягненням сучасності стане здатність окремих компаній не покалічити себе під час цього масового психозу навколо нейромереж.

Технологічна індустрія стрімко перетворюється на звалище цифрового непотребу, де замість розробки софту інженери займатимуться прибиранням за алгоритмами. Переможе не той, хто згенерує більше коду, а той, хто вчасно зупинить це безумство.

Джерело: geohot's blog