OpenAI звільняє людей за використання AI для навчання AI
В епіцентрі абсурду OpenAI почала звільняти підрядників, які вирішили, що найкращий спосіб тренувати ChatGPT — це змусити інший AI робити роботу за них. Це фіаско, яке виглядає як сценарій для комедії.
Тисячі підрядників працюють над тим, щоб ChatGPT став розумнішим, але деякі з них вирішили просто автоматизувати свій робочий процес за допомогою інших нейромереж. OpenAI, цілком очікувано, не оцінила такої винахідливості та розпочала чистки серед тих, хто використовує Grammarly чи будь-який інший софт для допомоги у звітах.
Це відбувається на фоні жаху під назвою «колапс моделі», коли нейромережа починає деградувати, бо вчиться на виплесках іншої нейромережі. Контрактори в рамках проєкту Project Lily аналізують реальні діалоги, і їхня робота критично важлива, щоб модель не перетворилася на генератор маячні.
Менеджери шукають «сліди» автоматизації: незвичну пунктуацію або занадто швидке виконання завдань. При цьому компанія забороняє використовувати навіть детектори AI, бо сама ж визнає їх недосконалими. Один із колишніх працівників навіть зізнався, що навмисно давав погані оцінки, щоб саботувати навчання. Система, яка мала стати розумнішою, зараз просто тоне у власних галюцинаціях.
Це ідеальна ілюстрація того, як корпоративна машина намагається контролювати хаос, який сама ж і породила. Коли люди наймають інших людей, щоб ті контролювали ботів, які вчать людей користуватися ботами, стає зрозуміло, що ми всі просто спостерігаємо за колективним цифровим самогубством.
Джерело: 404 Media
Коментарі
Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.