KPMG написала звіт про AI за допомогою AI, і той вигадав майже всі джерела

Аудиторський гігант KPMG поспіхом видалив свій пафосний звіт про користь "агентного AI" після того, як розслідування GPTZero виявило, що документ є суцільною галюцинацією. Як з'ясувалося, консалтингова фірма довірила написання тексту самому AI, який мав переконати топменеджерів купувати більше послуг із AI-інтеграції.

Із 45 посилань на джерела, які гордо прикрашали звіт, лише п'ять виявилися справжніми та коректними. Решта 40 лінків були дикою сумішшю битих адрес, перекручених цитат та абсолютно вигаданих вебсторінок, створених фантазією надто впевненої в собі мовної моделі.

Журналісти видання Financial Times вирішили перевірити кейси та звернулися до компаній, які згадувалися у звіті. Представники банку UBS, британської NHS, Швейцарських залізниць та Transport for London офіційно заявили, що описи їхніх успіхів у роботі з AI є або неточними, або просто вигаданими від початку до кінця.

Деякі помилки AI виглядали особливо безглуздо. Наприклад, на підтвердження того, що швейцарська залізниця активно використовує AI-агентів, звіт посилався на пресреліз 2019 року — за п'ять років до того, як сам цей термін взагалі з'явився у широкому вжитку.

Віртуальний копірайтер також продемонстрував проблеми з логікою, регулярно плутаючи авторів публікацій із героями їхніх матеріалів.

Найбільш кумедно те, що AI примудрився заперечити власним офіційним даним аудиторів. Текст стверджував, що лише 55% генеральних директорів вважають AI пріоритетом для інвестицій, хоча у фірмовому дослідженні KPMG за той самий місяць фігурувала цифра у 71%.

Видовище того, як аудиторська компанія з мільярдними оборотами не спромоглася провести аудит власного рекламного буклету, ідеально описує сучасний стан індустрії. Після публічного викриття компанія видалила документ і випустила заяву про необхідність "людського контролю" — довівши, що найкращий спосіб продавати технології майбутнього, це сподіватися, що ніхто не читатиме дрібний шрифт.

Джерело: The Register