ФСБ та Яндекс сперечаються через таємні іспити на "духовність" для AI
Поки світ міряє AI терафлопсами та якістю коду, російські чиновники готують для нейромереж тест на скрєпи. Силовики вимагають засекретити питання, а розробники в паніці від перспективи вгадувати невидимі критерії святості.
Російські IT-компанії разом із Мінцифри зібралися для обговорення національного бенчмарка для нейромереж. Головне завдання датасета — оцінювати відповідність мовних моделей законам і так званим «традиційним духовно-моральним цінностям».
Дискусія миттєво вперлася в питання відкритості завдань. Представники ФСБ наполягають на повністю закритому форматі, щоб інженери не могли підігнати відповіді моделей під відомі запитання. Бізнес у відповідь забив на сполох, зазначаючи, що оцінка абстрактної моралі за таємними критеріями перетворює будь-яке тестування на чисту рулетку й гальмує релізи.
У результаті сторони зійшлися на компромісі: відкритий набір даних дадуть для попередніх тренувань, а підсумковий іспит проводитимуть на засекреченому пулі з іншими формулюваннями. Формувати остаточні критерії духовної благонадійності для алгоритмів доручать спільній комісії силовиків та чиновників.
Спроба втиснути абстрактну державну ідеологію в метрики валідації нейромереж нагадує цифровий сюрреалізм. Коли пріоритетом для моделей стає не точність фактів, а відповідність секретним нормам цензури, технологічний розвиток неминуче поступається місцем панічній підгонці під методички.
Коментарі
Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.