AI не «оживе» сам: голова DeepMind каже, що свідомість — це наш вибір
Поки техногіки марять повстанням машин, нобелівський лауреат видав базу. Виявляється, цифрова душа не з'явиться сама по собі після чергового оновлення серверів — це буде наше свідоме і дуже стрьомне рішення.
Під час виступу перед студентами Stanford Graduate School of Business очільник Google DeepMind Деміс Гассабіс заявив, що людству доведеться свідомо вирішувати, чи переходити «другий Рубікон» і давати штучному інтелекту свідомість. Він чітко розділив інтелект та здатність відчувати, зазначивши, що створення надпотужного інструменту під назвою AGI — це лише перший крок.
Для пояснення своєї позиції Гассабіс згадав машину Тьюринга. І людський мозок, і штучний інтелект є Тьюринг-повними системами, здатними обчислити майже все, що взагалі піддається обчисленню. Проте вміння ідеально рахувати податки чи генерувати картинки не додає машині екзистенційного болю, тому розум і самосвідомість не йдуть в одному комплекті.
Наразі жодна з існуючих моделей не має свідомості, попри заяви деяких розробників, які занадто сильно зблизилися зі своїми творіннями. Різні "характери" сучасних чат-ботів є лише наслідком тонкого налаштування та безпекових обмежень, які впроваджують конкретні лабораторії.
Оскільки філософія та нейронаука досі не мають чіткого визначення свідомості, план дій виглядає просто: спочатку використати AI як інструмент для дослідження людського мозку. Лише після розгадки таємниці власної свідомості вчені зможуть створити критерії оцінки для машин, залишаючи за людством право ніколи не перетинати цю межу.
Схоже, класичний сюжет про AI, який раптово усвідомив себе і вирішив знищити людство, скасовується через технічну неможливість. Справжня драма почнеться тоді, коли люди самі вирішать запрограмувати цифрові страждання просто заради наукового інтересу. Спроба створити штучну душу цивілізацією, яка досі не розібралася з власною головою, гарантовано перетвориться на епічний хаос.
Джерело: Stanford Graduate School of Business
Коментарі
Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.