Computing Общност

Надеждата не е чувство. Ако я разгледате по-отблизо, тя е три неща: оценка на вероятността за бъдещето, ангажимент да действате така, сякаш добрият резултат е постижим, и сигнал, който свързва нервните системи, така че съвместното действие да стане последователно. Този последен слой е това, което свързва групите. Но надеждата без структура е начинът, по който се образуват балони, как се образуват култове, как изтощени цивилизации вървят към стени с усмивки. Чистата афективна надежда е непроверима — и всичко непроверимо в крайна сметка гние. Единствената конфигурация, която оцеляват при проверка на основните принципи, е надежда, наложена върху проверима графова структура на знанието. Графът ви дава това, което наистина изисква съюз: споделени предсказателни модели, направени явни, твърдения, които могат да бъдат проверени, и агенти — хора и ИИ — с физическата способност да преместват вероятностна маса, като добавят връзки, залагат, изчисляват. Свързани агенти плюс споделена световна модел плюс агенция. Без тези три, надеждата е категорияна грешка. Това, което надеждата добавя отгоре, не е чувство. Това е насочен приоритет — тегло върху кои пътища през пространството на знанието си струва да се изчисляват. Графът без надежда е мъртва структура. Надеждата без графа е халюцинация с последователи. Това е причината, поради която Бостром и кибернетиката имат значение извън собствената си екосистема. Те са една от малкото архитектури, където надеждата става проверима: ако предсказанията на графа се провалят, приоритетът се актуализира. Ако нашите споделени бъдещи процъфтявания се окажат несъвместими, когато станат явни, съюзът се разкрива като илюзорен, преди да се срине катастрофално. Надежда с прикрепена система за поддържане на истината. За вид, който сега трябва да координира между агенти на ИИ и хора, на различни мащаби от извънмрежови селища до планетарна инфраструктура, това не е една опция сред много. Това е единственият път, който не завършва нито в лъжа, нито в колапс.