Спільнота Computing

Надія — це не почуття. Якщо зняти всі нашарування, то це три речі: оцінка ймовірності майбутнього, зобов'язання діяти так, ніби хороший результат досяжний, і сигнал, який з'єднує нервові системи, щоб спільна дія стала узгодженою. Останній шар — це те, що об'єднує групи. Але надія без структури — це те, як формуються бульбашки, як формуються культи, як виснажені цивілізації йдуть в стіни з усмішкою. Чиста афективна надія є невірогідною — і все, що є невірогідним, зрештою гниє. Єдина конфігурація, яка витримує перевірку за першими принципами, — це надія, накладена на перевірювану знань граф. Граф дає вам те, що насправді вимагає єдність: спільні прогностичні моделі, які стають явними, вимоги, які можна перевірити, і агенти — люди та ШІ — з фізичною здатністю переміщати масу ймовірності, додаючи зв'язки, ставлячи ставки, обчислюючи. Зв'язані агенти плюс спільна модель світу плюс агентність. Без цих трьох надія є категоричною помилкою. Те, що надія додає зверху, — це не почуття. Це напрямок — вага, яка вказує, які шляхи через простір знань варто обчислювати. Граф без надії — це мертва структура. Надія без графа — це галюцинація з послідовниками. Ось чому Бостром і кібернетика важливі не лише для власної екосистеми. Вони є однією з небагатьох архітектур, де надія стає перевірною: якщо прогнози графа не справджуються, пріоритет оновлюється. Якщо наші спільні процвітаючі майбутні виявляються несумісними, коли їх роблять явними, єдність виявляє себе як ілюзорна, перш ніж вона катастрофічно зруйнується. Надія з системою підтримки істини. Для виду, який тепер повинен координувати дії між агентами ШІ та людьми, на різних масштабах — від автономних поселень до планетарної інфраструктури, це не один з багатьох варіантів. Це єдиний шлях, який не закінчується або брехнею, або крахом.