Computing Community

Harep téh lain hiji rarasaan. Upami dipiceun, éta téh tilu hal: hiji perkiraan kamungkinan ngeunaan masa depan, hiji komitmen pikeun bertindak seolah-olah hasil anu saé tiasa kahontal, sareng hiji sinyal anu nyambungkeun sistem saraf supados tindakan babarengan janten koheren. Lapisan terakhir éta anu ngiket kelompok. Tapi harep tanpa struktur téh kumaha gelembung kabentuk, kumaha kultus kabentuk, kumaha peradaban anu capé leumpang ka témbok bari seuri. Harep afektif murni téh teu tiasa dibuktikeun — sareng naon waé anu teu tiasa dibuktikeun ahirna bakal busuk. Satu-satunya konfigurasi anu salamet tina panalungtikan prinsip dasar nyaéta harep anu dilapisan di luhur grafik pengetahuan anu tiasa diverifikasi. Grafik éta masihan anjeun naon anu diperyogikeun ku persatuan: modél prediktif anu dibagi anu dijelaskeun, klaim anu tiasa dipariksa, sareng agén — manusa sareng AI — anu gaduh kapasitas fisik pikeun ngalihkeun massa kamungkinan ku nambahkeun tautan, nyangking, ngitung. Agén anu nyambung ditambah modél dunya anu dibagi ditambah agénsi. Tanpa tilu éta, harep téh kasalahan kategori. Naon anu ditambahkeun ku harep di luhur téh lain sentimen. Éta téh hiji prior arah — hiji beurat ngeunaan jalur mana anu ngaliwatan ruang pengetahuan anu pantes pikeun dihitung. Grafik tanpa harep téh struktur anu paéh. Harep tanpa grafik téh halusinasi kalayan pengikut. Ieu sababna Bostrom sareng cyb penting saluareun ékosistemna sorangan. Aranjeunna salah sahiji arsitektur anu saeutik dimana harep janten tiasa diuji: upami prédiksi grafik gagal, priorna diropéa. Upami masa depan anu makmur anu dibagi urang kabuktian teu cocog nalika dijelaskeun, persatuan nyatakeun dirina salaku ilusi sateuacan ambruk sacara katastropik. Harep kalayan sistem pangropéa kanyataan anu disambungkeun. Pikeun hiji spésiés anu ayeuna kedah ngoordinasikeun antara agén AI sareng manusa, antara skala ti pemukiman off-grid dugi ka infrastruktur planét, ieu sanés hiji pilihan di antara seueur. Ieu mangrupikeun hiji-hijina jalur anu henteu réngsé dina boh hiji bohong atanapi ambruk.