Боси AI благають Конгрес США заборонити друк синтетичної ДНК для біозброї

3 червня лідери провідних AI-лабораторій — Сем Альтман з OpenAI, Даріо Амодеї з Anthropic, Деміс Гассабіс з Google DeepMind та Мустафа Сулейман з Microsoft AI — надіслали відкритого листа до Конгресу США. Вони вимагають на законодавчому рівні зобов'язати компанії-виробники синтетичної ДНК та РНК перевіряти замовників та вміст їхніх замовлень.

Цей раптовий напад миролюбства виглядає дивно, адже Альтман та Амодеї зазвичай конкурують із пристрастю персонажів "Гри престолів". Організаторами звернення виступили аналітичні центри Institute for Progress та Foundation for American Innovation, а підписи також поставили боси біотех-компаній Twist Bioscience та Ansa Biotechnologies.

Головна проблема полягає в тому, що сучасні мовні моделі значно знижують поріг входу для створення біологічної зброї. AI поки не здатний синтезувати новий супервірус з нуля, але він може підказати, як перефразувати послідовність генів так, щоб вона пройшла повз прості фільтри безпеки.

Дослідження Microsoft показало, що інструменти штучного інтелекту для дизайну білків можуть генерувати потенційно небезпечні структури, які повністю копіюють дію отрут, але не викликають підозри у сучасних систем скринінгу.

Схоже, розробники штучного інтелекту винайшли ідеальний маркетинг: вдень вони обіцяють, що їхні технології врятують людство від усіх хвороб, а ввечері благають уряд контролювати принтери ДНК, щоб випадковий ентузіаст не надрукував нову чуму в гаражі. Чудова бізнес-модель, де за всі потенційні катастрофи відповідатиме законодавець.

Джерело: Interesting Engineering