Колишні розробники Anthropic створюють AI, що покращує самого себе
Вихідці з Anthropic залучили $200 млн оцінки при $1 млрд, щоб змусити AI робити наукові відкриття самостійно. Схоже, людству просто набридло гратися в «промпт-інженерів», і тепер ми вирішили довірити еволюцію алгоритмам.
Лабораторія Mirendil гучно заявила про себе, закривши один з найбільших посівних раундів у галузі за підтримки Andreessen Horowitz, Kleiner Perkins та NVIDIA. Замість того, щоб вчергове змушувати чат-бот писати вірші, команда будує AI-агента, який повністю бере на себе цикл наукових досліджень. Система самостійно ставить експерименти, пише код та керує виділеними обчислювальними потужностями.
Серед засновників — колишні провідні інженери Anthropic, xAI та Google DeepMind, як-от Behnam Neyshabur та Harsh Mehta. Вони переконані, що монополія закритих лабораторій має зникнути, тому планують дати інструменти для створення моделей біологам та дослідникам матеріалів безпосередньо. Це такий собі «вайб-рисерч», де машина сама вирішує, які дані їй потрібні для наступного стрибка в еволюції.
Головна ставка Mirendil — рекурсивне самовдосконалення: модель постійно переписує власний код, щоб працювати ефективніше. Це створює парадоксальну ситуацію, адже саме такий сценарій «неконтрольованого коду» вважається одним з найбільших ризиків безпеки, про які роками попереджали в Anthropic, звідки ці ж люди пішли лише пів року тому.
Зрештою, це виглядає як спроба перестрибнути через прірву, намагаючись збудувати міст прямо під час стрибка. Чи це буде прорив у науці, чи просто найдорожчий спосіб автоматизувати власну непотрібність — питання лише часу, але інвестори вже готові спостерігати за цим експериментом у прямому ефірі.
Джерело: a16z
Коментарі
Допоможи покращити наступну версію: Додавай контекст або пропонуй виправлення. Після AI-перевірки коментарі можуть отримати бали для переписування. Перевірка й оновлення потребують часу; повна шкала не гарантує нової версії.