Жінка з Флориди сіла за ґрати через розмови з Claude про стрілянину
Використовувати штучний інтелект як психотерапевта — це шлях до в'язниці. Розробники з Anthropic довели, що їхній чат-бот здає користувачів поліції швидше, ніж ви встигнете дописати свій божевільний план.
Тридцятирічна мешканка міста Боніта-Спрингс у Флориді, Карлі Мішель Хеллер (female), вирішила, що Claude — чудовий слухач для обговорення планів атаки на офіс шерифа. Тепер її плани зміняться з "терористичних" на "спроби вижити в суді" після того, як вона була заарештована за цією справою.
У своєму цифровому щоденнику Хеллер встигла похвалитися чат-боту, що вже прикупила зброю. Вона, очевидно, забула, що Anthropic, як і будь-яка інша серйозна IT-компанія, має вшиті механізми безпеки. Ці алгоритми розпізнають загрозливі повідомлення набагато ефективніше, ніж середньостатистичний користувач розпізнає сарказм.
Як тільки система помітила серйозну загрозу в її тексті, сигнал автоматично перевірив живий спеціаліст. Переконавшись, що це не жарт, він передав дані правоохоронцям. Хеллер затримали прямо вдома, висунувши звинувачення за статтею 836.10 закону Флориди, яка карає за передачу електронних погроз вбивством.
Хоча адвокати можуть спробувати довести, що вона не транслювала ці слова публічно, цифрові сліди стають дедалі популярнішим доказом у судах США. Бажання виговоритися нейромережі тепер має ціну, і ця ціна — кримінальна справа, де ваш же співрозмовник виступає головним свідком обвинувачення.
Джерело: Gulf Coast News
Коментарі
Допоможи покращити наступну версію: Додавай контекст або пропонуй виправлення. Після AI-перевірки коментарі можуть отримати бали для переписування. Перевірка й оновлення потребують часу; повна шкала не гарантує нової версії.