Google створив штучний інтелект без галюцинацій для вчених
Техногігант Google нарешті змирився з тим, що вигадувати наукові джерела — погана ідея, і випустив прототип, який принципово відмовляється брехати.
Корпорація анонсувала експериментальний Science One Framework — автономний інструмент для перевірених наукових досліджень. Модель працює в «режимі детектива», самостійно шукає публікації та аналізує бази даних перед тим, як зробити бодай один висновок.
В основі лежить система ланцюжка доказів, яка прив'язує кожне твердження до задокументованого факту. Якщо пряме підтвердження в знайдених документах відсутнє, штучний інтелект взагалі викреслює тезу зі звіту, повністю блокуючи генерацію фейків.
На виході науковці отримують структурований підсумковий звіт, де до кожного речення прикріплено пряме посилання на першоджерело, конкретний графік чи рядок даних.
Замість фантазій про несумісні джерела розробники змусили нейромережу грати за правилами жорсткого бібліографа, для якого відсутність доказу означає мовчання.
Створення цілих окремих систем лише для того, щоб змусити базовий AI не вигадувати дурниць, чудово описує нинішній стан індустрії. Справжній прогрес зараз виглядає як мільйонні інвестиції в здатність комп'ютера ставити звичайні зноски.
Джерело: research.google
Коментарі
Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.