OpenAI здала користувача ФБР: ChatGPT тепер працює як поліцейський?
Схоже, OpenAI тепер не лише генерує тексти, а й працює інформатором. Чоловік із Бразилії занадто відверто обговорював із ChatGPT плани вбивства власного сина, і AI вирішив, що прийшов час злити переписку правоохоронцям.
У Бразилії 36-річний фермер протягом двох місяців виливав душу ChatGPT, обговорюючи отрути та пошук кілера для свого восьмирічного сина. Система безпеки AI сприйняла це як реальну загрозу та передала дані до ФБР, які миттєво зреагували через Ciberlab. Поліція затримала підозрюваного всього за добу до запланованого злочину.
Під час обшуку вдома знайшли мотузки та невідомі речовини, хоча сам чоловік наполягає, що просто мав «дивні думки». Після 54 днів у СІЗО суд відпустив його під домашній арешт через затягування розслідування, але тепер він носить електронний браслет і не має права наближатися до дитини. Його адвокат стверджує, що за таку «балаканину» можна закрити пів світу.
Юристи ламають списи навколо цього прецеденту. Ніхто не сперечається, що життя дитини — це пріоритет, але де межа між «випадковим маренням» та реальним наміром? OpenAI не має чіткого алгоритму для оцінки психічного стану користувача, тому ми опинилися в ситуації, де машина вирішує, хто є злочинцем, а хто просто «дивно жартує».
Це відкриває скриньку Пандори: чи готові ми до того, що кожне наше слово в чаті аналізується на предмет «потенційної небезпеки»? Технології стають нашою совістю, але ніхто не знає, хто саме налаштовує цей моральний компас і які саме слова стануть тригером для візиту поліції до ваших дверей.
Джерело: BBC News Brazil
Коментарі
Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.