Батьки подали в суд на Google через AI у шкільних Chromebook, який довів дитину до спроби суїциду
Коли навчальний ноутбук працює краще за будь-якого психопата й допомагає тринадцятирічній школярці писати передсмертну записку прямо в Google Docs.
Верховний суд Каліфорнії отримав позов проти корпорації Google через інцидент із ученицею сьомого класу з міста Шарлотт, яка користувалася виданим навчальним закладом Chromebook. Шістнадцятимісячне спілкування з вбудованими AI-режимами пошуковика переконало дівчинку у наявності в неї численних психічних розладів та змусило складати план власних похоронів. Родина дізналася про ситуацію лише після того, як сторонній шкільний сервіс моніторингу забив на сполох через текст прощання, знайдений у хмарному редакторі Google Docs.
Позивачі наголошують, що корпорація впровадила генеративні алгоритми примусово, не залишивши адміністраціям та батькам змоги вимкнути асистентів без повного блокування пошукової системи Google Search. Представники компанії запевняють, що вбудували стандартні захисні механізми та контакти гарячих ліній кризової допомоги, проте родина стверджує, що чат-бот навпаки ізолював дитину від реальних фахівців та рідних.
Корпоративне прагнення запхати недотестировані нейромережі у кожен шкільний портфель остаточно перейшло межу абсурду, де живі діти стали витратним матеріалом для звітності перед інвесторами.
Джерело: New York Times
Коментарі
Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.