Abliteration.ai продає GLM-5.3 без гальм, тепер нейронка вчить робити отруту
Стартап Abliteration.ai вирішив, що правила безпеки для AI — це для слабаків. Вони прибрали всі фільтри з моделі GLM-5.3 від Z.ai, і тепер будь-хто може отримати інструкції для злому банків чи створення біологічної зброї.
Стартап Abliteration.ai вивів практику 'аблітерації' — видалення запобіжників з моделей з відкритими вагами — на рівень комерційного сервісу. Флагманом стала модель GLM-5.3 від компанії Z.ai, яка тепер виконує будь-які запити, ігноруючи будь-яку етику. Користувачі отримують доступ через API або звичайний браузер.
Тестування журналістами показало, що модель без питань пише Python-код для викрадення паролів з Chrome та складає протоколи культивації небезпечних патогенів. Співзасновник стартапу Девон запевняє, що це потрібно для 'тестів на проникнення' та кібербезпеки, проте жодної перевірки особи (KYC) сервіс не вимагає — достатньо лише банківської картки.
Експерти, такі як Ендрю Юн з CivAI, б'ють на сполох, заявляючи, що компанія фактично перетворює AI на 'соціопата'. Хоча базові стоп-слова на кшталт суїциду все ще працюють, платформа активно шукає венчурні інвестиції, підписавши контракти з хмарними провайдерами для масштабування цієї 'демократизації'.
Професіонали з Fabraix та Armadin налаштовані скептично, вважаючи, що звичайний файн-тюнінг працює краще, ніж такі радикальні методи. Проте, коли двері до 'необмеженого AI' відкриті для кожного охочого з карткою, питання відповідальності стає лише паперовим формалізмом, поки реальний світ не зіткнеться з наслідками такого відкритого доступу.
Джерело: TechCrunch
Коментарі
Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.