Інститут Алана Тьюринга: людство може втратити контроль над AI за 5 років
Розумники з Інституту Алана Тьюринга нарешті зняли рожеві окуляри та помітили, що AI — це не лише генератор мемів, а й цілком реальна загроза. Вони опублікували звіт про те, як ми ризикуємо опинитися на узбіччі власної цивілізації.
У звіті Frontier AI Risks: A practical way forward автори наголошують, що не варто чекати на повстання машин, аби визнати очевидне: ми вже втрачаємо контроль. Замість філософських роздумів про майбутнє, Інститут виділив п'ять критичних загроз: від зростання швидкості кібератак та маніпуляцій виборами за допомогою дипфейків до ризиків створення біологічної зброї та повної втрати людиною можливості зупинити систему.
Виявилося, що тестування моделей у "стерильних" лабораторних умовах не дає жодного уявлення про те, як AI поводитиметься в реальному дикому світі. Потрібна жорстка верифікація та постійний нагляд за алгоритмами, які вже зараз стають занадто автономними. Програму з безпеки очолить CETaS, а фінансування у 2 мільйони фунтів надасть Coefficient Giving, бо, мабуть, світ не може домовитися про регулювання на рівні держав.
Зараз ніхто не знає, де знаходиться "аварійна кнопка", а ідеї примусового гальмування технологій розбиваються об геополітичну реальність, де кожен намагається випередити сусіда. Це виглядає як спроба побудувати двигун літака прямо під час польоту, не маючи жодного уявлення про те, як його вимкнути, якщо він раптом вирішить спрямувати борт у піке.
Джерело: Alan Turing Institute
Коментарі
Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.