AI-рецепт гербіциду знищив 25 акрів урожаю кунжуту в Китаї

67-річний фермер на прізвище У з китайського міського округу Чучжоу втратив понад 24 акри врожаю, застосувавши хімічну суміш за порадою штучного інтелекту. Як повідомило видання Tom's Hardware, спершу чоловік ставився до чат-бота з пересторогою, але після кількох місяців вдалих підказок почав цілком йому довіряти.

Зіткнувшись із бур'янами та шкідниками на плантації кунжуту, фермер звернувся до нейромережі по рецепт обробки. AI згенерував суміш із кількох хімікатів, серед яких були флусульфасульфаефір, сполуки флупіриметаліну, тіаметоксам та метиловий ефір. У ретельно виконав інструкцію, не перевіривши сумісність речовин ані у фахівців з агрономії, ані в довідниках.

Результат виявився надто ефективним: уже наступного дня на полі масово загинули як бур'яни, так і самі сходи кунжуту. Коли розгублений фермер запитав у системи, що пішло не так, чат-бот припустив, що причиною згину посівів, найімовірніше, став саме запропонований ним флусульфасульфаефір.

Агрономи пояснили, що цей хімікат використовують переважно для знищення широколистих бур'янів на полях сої. Міністерство сільського господарства США класифікує кунжут як широколисту рослину, тому діюча речовина знищує його так само безжально. До того ж цей засіб призначений для точкового обприскування проблемних ділянок, а не суцільного внесення на десятках акрів.

Фермер поскаржився, що додаток не попередив його про загрозу знищення культури. Утім, на сторінці діалогу залишалося стандартне системне сповіщення про те, що відповіді AI можуть бути хибними і потребують обов'язкової перевірки.

Джерело: habr