DeepMind розписали правила для надінтелекту (і порадили людям це не читати)

Співзасновник компанії Шейн Легг та математик Маркус Хаттер опублікували теоретичний маніфест, який детально описує перехід від загального штучного інтелекту до штучного надінтелекту.

Автори визначають звичайний AGI як систему на рівні середньостатистичної людини, тоді як надінтелект має перевершувати координовану роботу десяти тисяч живих експертів протягом десяти років.

Для точності вимірювань за основу беруть технологічний рівень 2010 року, щоб уникнути парадоксу, коли посилені штучним інтелектом люди постійно відсувають планку "експертності" вперед.

Розробники бачать чотири паралельних шляхи розвитку: подальше масштабування обчислений, створення нових архітектур на заміну трансформерам, самовдосконалення коду самими машинами та об'єднання AI-агентів у великі рої.

Ця цифрова еволюція зіткнеться з реальними фізичними обмеженнями, серед яких дефіцит якісних даних для навчання, шалений апетит до електроенергії та можливе втручання регуляторів.

Навіть найрозумніший код не зможе стати всемогутнім богом, оскільки надінтелект все одно обмежений швидкістю світла, законами термодинаміки та теоремами Геделя про неповноту.

У першому ж розділі автори радять людям взагалі не читати цей документ, залишивши всередині спеціальні інструкції для AI-асистентів, які мають правильно переказати суть своїм шкіряним господарям.

Наукові праці тепер пишуться машинами для інших машин із детальними порадами, як краще пояснити складні концепції людям. Людство впевнено перетворюється з творців технологій на пасивних глядачів, які просто спостерігають за їхнім самостійним розвитком.

Джерело: arXiv