jakiro
作者：Vitalik，以太坊創始人；編譯：0xjs@比特鏈視界
大約一年前，我寫了 一篇關於技術樂觀主義的文章 ，描述了我對技術的熱情以及它能帶來的巨大好處，以及我對一些具體問題的謹慎，這些擔憂主要集中在超級智能AI上，以及如果技術以錯誤的方式構建，它可能會帶來厄運或不可逆轉的人類無能為力的風險。我這篇文章的核心思想之一是 ：去中心化、民主化、差異化防禦加速主義（
在那之後的一年裡，我的理念和想法已經成熟了很多。我在 80,000 Hours 上談到了這些想法，看到了很多反響，大部分是積極的，也有批評性的。這項工作本身正在繼續，並取得成果：我們看到可驗證 開源疫苗的 進展 ，人們越來越認識到健康室內空氣的價值，Community Notes 繼續閃耀， 預測市場作為信息工具 的突破之年， 政府ID 和 社交媒體 中的 ZK-SNARK （以及通過 帳戶抽象 保護 以太坊 錢包 ）， 開源成像工具 在醫學和 BCI 中的應用，等等。秋天，我們舉辦了第一個重要的 d/acc 活動： 在 Devcon的「d/acc發現日」（d/aDDy） ，一整天都有來自 d/acc 所有支柱（生物、物理、網絡、信息防禦以及神經技術）的演講者。多年來一直致力於這些技術的人們越來越了解彼此的工作，而外界人士也越來越意識到更大的故事：激發以太坊和加密貨幣的相同價值觀可以應用於更廣闊的世界。
本文目錄
-
一、d/acc 是什麼，不是什麼
-
二、第三維度：生存與發展
-
三、難題：AI安全、緊迫的時間線和監管
-
四、加密貨幣在 d/acc 中的作用
-
五、d/acc和公共物品融資
-
六、未來展望
一、d/acc 是什麼，不是什麼
現在是 2042 年。你在媒體上看到有關你所在城市可能出現新流行病的報導。你已經習慣了這種情況：人們對每種動物疾病突變都興奮不已，但大多數都無濟於事。之前兩次實際的潛在流行病都是通過廢水監測和社交媒體的開源分析很早就發現的，並完全阻止了它們的傳播。但這一次，預測市場顯示至少 10,000 例病例的可能性為 60%，所以你更擔心。
病毒的序列昨天被確定下來。可攜式空氣檢測儀的軟體更新已經可用，可以檢測出新病毒（從一次呼吸，或在室內空氣中暴露 15 分鐘）。使用全球任何現代醫療機構都可以找到的設備生產疫苗的開源說明和代碼應該在幾周內可用。大多數人還沒有採取任何行動，主要依靠廣泛採用空氣過濾和通風來保護自己。你有免疫疾病，所以你更謹慎：你的開源本地運行的個人助理AI，它處理導航、餐廳和活動推薦等任務，還考慮了實時空氣測試儀和二氧化碳數據，只推薦最安全的場所。數據由數千名參與者和設備提供，使用ZK-SNARK 和差異隱私（differential privacy ）來最大限度地降低數據洩露或濫用於任何其他目的的風險（如果你想為這些數據集貢獻數據，還有其他個人助理AI可以驗證這些加密小工具確實有效的正式證明）。
兩個月後，疫情消失了：似乎有 60% 的人遵循了基本的規程，即如果空氣檢測儀發出嗶嗶聲並顯示存在病毒，就戴上口罩，如果他們的個人檢測呈陽性，就呆在家裡，這足以將傳播率（由於被動的重度空氣過濾，已經大大降低）推至 1 以下。模擬顯示，這種疾病可能比二十年前的 Covid 嚴重五倍，但今天卻不是什麼問題。
Devcon d/acc 日
Devcon 上 d/acc 活動最積極的收穫之一是 d/acc 這個傘狀結構成功地將來自不同領域的人們聚集在一起，並讓他們真正對彼此的工作感興趣。
創造「多樣性」的活動很容易，但讓具有不同背景和興趣的人真正相互聯繫卻很難。我仍然記得在中學和高中被迫觀看長歌劇的記憶，我個人覺得它們很無聊。我知道我「應該」欣賞它們，因為如果我不欣賞 ，那麼我就會成為一個沒有文化的計算機科學懶漢，但我並沒有在更真實的層面上與內容產生聯繫。d/acc day 根本沒有這種感覺：感覺人們實際上喜歡學習不同領域的不同類型的工作。
如果我們想要創造一個比統治、減速和毀滅更光明的替代方案，我們需要這種廣泛的聯盟建設。d/acc 似乎確實取得了成功，僅此一點就足以說明這個想法的價值。
d/acc 的核心思想很簡單：去中心化和民主化的差異化防禦加速主義（decentralized and democratic differential defensive acceleration）。建立將進攻/防禦平衡轉向防禦的技術，並且不依賴於將更多權力移交給中央集權機構。這兩者之間存在著內在聯繫：任何一種去中心化、民主或自由的政治結構在防禦容易時都會蓬勃發展，而在防禦困難時會遭受最大的挑戰——在這些情況下，更有可能的結果是一段人人反對所有人的戰爭時期，最終實現強者統治的平衡。
d/acc 的核心原則涵蓋許多領域：
圖表來自去年我的文章「 我的技術樂觀主義」
理解同時努力實現去中心化、防禦性和加速主義的重要性的一種方法是將其與放棄這三者時所獲得的哲學進行對比。
-
去中心化加速主義，但不關心「差異化防禦」部分。 基本上，成為一個e/acc，但要去中心化。有很多人採取這種方法，有些人將自己標記為 d/acc，但將他們的重點描述為「進攻」，但也有很多人以更溫和的方式對「去中心化AI」和類似主題感到興奮，但在我看來，他們對「防禦」方面關注不夠。
在我看來，這種方法可能會避免你所擔心的特定部落的全球人類獨裁風險，但它無法解決潛在的結構性問題：在有利於進攻的環境中，存在持續的災難風險，或者有人將自己定位為保護者並永久確立自己的地位。在AI的具體情況下，它也無法很好地解決人類整體與AI相比被剝奪權力的風險。 -
差異化防禦加速主義（Differential defensive acceleration），但不在乎「去中心化和民主化」。 為了安全而擁抱中心化控制對一小部分人來說具有永久的吸引力，讀者無疑已經熟悉了許多例子，以及它們的缺點。最近，一些人擔心極端的中心化控制是未來技術走向極端的唯一解決方案：看看這個假設場景，「每個人都被裝上『自由標籤』——這是今天熟悉的更有限的可穿戴監控設備的延續，比如在幾個國家用作監獄替代品的腳踝標籤……加密的視頻和音頻被持續上傳並實時由機器解釋」。然而，中心化控制是一個範圍。一個通常被忽視但仍然有害的較溫和的中心化控制版本是對生物技術領域公眾監督的抵制（例如食品、 疫苗），以及允許這種抵制不受挑戰的閉源規範。
當然，這種方法的風險在於中心化本身往往是風險的來源。我們在新冠疫情中看到了這一點，由多個世界主要政府資助的功能獲得性研究可能是此次疫情的源頭，中心化的認識論導致世衛組織多年來一直不承認新冠病毒是通過空氣傳播的，強制性的社交隔離和疫苗接種要求導致了可能持續數十年的政治反彈。任何與AI或其他高風險技術有關的風險都可能出現類似的情況。去中心化的方法可以更好地應對來自中心化本身的風險。 -
去中心化防禦，但不關心加速 ——基本上，試圖減緩技術進步或經濟衰退。
這一戰略的挑戰是雙重的。首先，總體而言，技術和經濟增長對人類大有裨益， 任何延遲都會 帶來 難以 估量 的代價。其次，在非極權主義的世界裡，不進步是不穩定的：誰「作弊」最多，找到看似合理的進步方式，誰就會領先。減速主義戰略在某些情況下可以在一定程度上發揮作用：歐洲食品比美國食品更健康就是一個例子，迄今為止核不擴散的成功是另一個例子。但它們不可能永遠有效。
通過 d/acc，我們希望：
-
在世界大部分地區變得部落化的時代，我們要堅持原則，而不是隨便建設什麼——相反，我們要建設一些具體的事物，讓世界變得更安全、更美好。
-
承認指數級的技術進步意味著 世界將變得非常奇怪，人類在宇宙中的「足跡」會持續增加。我們必須提高保護脆弱的動物、植物和人類免受傷害的能力，但唯一的出路是向前邁進。
-
開發能夠保障我們安全的技術，而不是假設「好人（或好的AI）掌權」。我們通過開發工具來實現這一點，這些工具在用於建設和保護時 自然 比用於破壞時更有效。
思考 d/acc 的另一種方式是回顧2000年代後期歐洲海盜黨運動的一個框架：賦權。
我們的目標是建立一個保留人類自主權的世界，既要實現消極自由，避免主動幹預（無論是來自其他作為私人公民的人，還是來自政府，還是來自超級智慧機器人）我們塑造自己命運的能力，又要實現積極自由，確保我們擁有知識和資源。 這呼應了幾個世紀以來的古典自由主義傳統，其中還包括斯圖爾特·布蘭德 (Stewart Brand) 對「獲取工具」的關注，約翰·斯圖爾特·密爾 (John Stuart Mill)對教育和自由作為人類進步關鍵組成部分的強調——也許，人們可以補充一點，巴克敏斯特·富勒 (Buckminster Fuller) 希望看到全球解決進程具有參與性和廣泛分布性。考慮到 21 世紀的技術格局，我們可以將 d/acc 視為實現這些相同目標的一種方式。
二、第三維度：生存與發展
在我去年的文章中，d/acc 特別關注了防禦技術：物理防禦、生物防禦、網絡防禦和信息防禦。然而，去中心化防禦不足以讓世界變得更美好：你還需要一個前瞻性的積極願景，看看人類可以利用其新發現的去中心化和安全性來實現什麼。
去年的文章確實包含了積極的看法，表現在兩個地方：
-
針對超級智能所面臨的挑戰，我提出了一條不剝奪權力就能擁有超級智能的途徑（這對我來說遠非原創）：
-
今天，要將AI打造為工具，而不是高度自主的智能體
-
明天將利用虛擬實境、肌肉電信號和腦機接口等工具在人工智慧和人類之間建立越來越緊密的反饋
-
隨著時間的推移，最終的結果是超級智能成為機器和我們緊密結合的組合。
-
在談論信息防禦時，我也順便提到，除了試圖幫助社區在攻擊者面前保持凝聚力、進行高質量討論的防禦性社交技術之外，還有一些進步的社交技術可以幫助社區更容易地做出高質量的判斷： pol.is 就是一個例子，預測市場是另一個例子。
但這兩點與 d/acc 的論點似乎脫節：「這裡有一些在基礎層創建一個更加民主和有利於防禦的世界的想法，順便說一下，這裡有一些關於我們如何實現超級智能的不相關的想法」。
然而，我認為實際上，上面所說的「防禦性」和「進步性」d/acc 技術之間存在一些非常重要的聯繫。讓我們擴展去年文章中的 d/acc 圖表，在圖表中添加此軸（同樣，讓我們 將其重新標記為「生存與繁榮」），看看會出現什麼結果：
在所有領域中，都有一個一致的模式，即可以幫助我們在一個領域「生存」的科學、思想和工具與可以幫助我們「繁榮」的科學、思想和工具密切相關。以下是一些例子：
-
最近許多抗擊新冠病毒的研究都關注病毒在體內的持久性，這是長新冠如此嚴重的一個原因。最近也有跡象表明病毒的持久性可能是導致阿爾茨海默病的原因——如果屬實，這意味著解決病毒在所有組織類型中的持久性可能是解決衰老問題的關鍵。
-
Openwater正在開發的一些低成本微型成像工具可以有效治療微血栓、病毒持續存在和癌症，也可以用於BCI。
-
非常相似的想法促使人們構建為高度對抗環境構建的社交工具，例如Community Notes，以及為合理合作環境構建的社交工具，例如pol.is。
-
預測市場 在高度合作和高度逆境的環境中都很有價值 。
-
零知識證明和類似的在保護隱私的同時對數據進行計算的技術既增加了可用於科學等有用工作的數據，又增強了隱私。
-
太陽能和電池對於推動下一波清潔經濟增長大有裨益，但它們在去中心化和物理彈性方面也表現出色。
除此之外，學科領域之間也存在重要的交叉依賴關係：
-
BCI 作為一種信息防禦和協作技術非常重要，因為它可以讓我們更詳細地交流我們的想法和意圖。BCI 不僅僅是機器人與意識之間的溝通，它還可以是意識與機器人與意識之間的溝通。這與 Pluality 關於 BCI 價值的理念 相呼應。
-
許多生物技術都依賴於信息共享，在許多情況下，人們只有在確信信息將用於一個應用程式且只用於一個應用程式時才會願意共享信息。這取決於隱私技術（例如 ZKP、FHE、obfuscation……）
-
協作技術可用於協調任何其他技術領域的資金
三、難題：AI安全、緊迫的時間線和監管
不同的人有著截然不同的 AI 時間表。圖表來自黑山的 Zuzalu，2023 年。
我發現，對我去年文章最有說服力的反對意見是來自AI安全社區的批評。該論點是：「當然，如果我們有半個世紀的時間才能獲得強大的AI，我們可以集中精力打造所有這些好東西。但實際上，我們很可能還有三年的時間才能實現 AGI，再過三年才能實現超級智能。因此，如果我們不想讓世界被毀滅或陷入不可逆轉的陷阱，我們就不能 只加速好事的發生，還必須減緩壞事的發生，這意味著要通過強有力的法規，這可能會讓有權勢的人感到不安。」在我去年的文章中，我確實沒有呼籲任何具體的策略來「減緩壞事的發生」，只是含糊地呼籲不要建立有風險的超級智能形式。因此，在這裡，值得直接回答這個問題：如果我們生活在最不方便的世界，人工智慧風險很高，時間表可能還需要五年時間，我會支持什麼法規？
首先，對新法規持謹慎態度
去年，加州提出的最主要的人工智慧監管法案是 SB-1047 法案。SB-1047 要求最強大的模型（那些花費超過 1 億美元進行訓練，或微調超過 1000 萬美元的模型）的開發者在發布之前採取一些安全測試措施。此外，它還規定，如果人工智慧模型的開發者不夠謹慎，他們要承擔責任。許多批評者認為該法案是「對開源的威脅」；我不同意，因為成本門檻意味著它只影響最強大的模型：即使是 LLama3 也可能低於門檻。然而，回頭看，我認為該法案有一個更大的問題：像 大多數法規一樣，它與當今的情況過度擬合。在新技術面前，對訓練成本的關注已經顯得脆弱：最近最先進的 Deepseek v3 模型的訓練成本僅為600 萬美元，而在像 o1 這樣的新模型中，成本正在從訓練轉向更普遍的推理。
其次，最有可能真正對人工智慧超級智能毀滅場景負責的參與者實際上是軍隊。正如我們在過去半個世紀（及以後）的生物安全領域所看到的那樣，軍隊願意做可怕的事情，而且他們很容易犯錯。人工智慧軍事應用正在迅速發展（見烏克蘭、 加沙）。政府通過的任何安全法規默認都會豁免本國軍隊以及與軍方密切合作的公司。
儘管如此，這些論點並不是我們放棄和不採取任何行動的理由。相反，我們可以將其作為指導，並嘗試製定出最少引發這些擔憂的規則。
策略一：責任
如果某人的行為造成了可訴諸法律的損害，他們可能會被起訴。這並不能解決來自軍隊和其他「凌駕於法律之上」的行為者的風險問題，但它是一種非常通用的方法，可以避免過度擬合，並且通常 因為這個原因而受到自由主義傾向經濟學家的支持。
迄今為止考慮的責任主要目標是：
-
用戶——使用人工智慧的人
-
部署者——為用戶提供 AI 服務的中介機構
-
開發人員——構建人工智慧的人
讓用戶承擔責任似乎最符合激勵機制。雖然模型的開發方式與最終使用方式之間的聯繫通常不清楚，但用戶決定了人工智慧的具體使用方式。 讓用戶承擔責任會給人工智慧帶來強大的壓力，迫使人們以我認為正確的方式開發人工智慧：專注於為人類思維打造機甲套裝，而不是創造新形式的自我維持智能生命。前者會定期響應用戶意圖，因此不會導致災難性行為，除非用戶希望這樣做。後者最有可能失控並造成典型的「人工智慧失控」場景。將責任儘可能靠近最終使用位置的另一個好處是，它可以最大限度地降低責任導致人們採取其他有害行為的風險（例如，閉源、KYC 和監視、國家/企業勾結以秘密限制用戶，例如取消銀行業務、封鎖世界大部分地區）。
有一種經典的論點反對將責任完全歸咎於用戶：用戶可能是沒有太多錢的普通人，甚至是匿名的，沒有人能夠真正為災難性的傷害買單。這種論點可能被誇大了：即使有些用戶太小而不需要承擔責任，但人工智慧開發人員的普通客戶卻不是這樣，因此人工智慧開發人員仍然會受到激勵去構建能夠向用戶保證不會面臨高責任風險的產品。話雖如此，這仍然是一個有效的論點，需要加以解決。你需要激勵管道中擁有資源的人採取適當的謹慎措施，而部署者和開發人員都是容易被攻擊的目標，他們仍然對模型的安全性有很大的影響。
部署者責任似乎是合理的。一個常見的擔憂是，它不適用於開源模型，但這似乎是可以控制的，特別是因為最強大的模型很有可能是閉源的（如果它們最終是開源的，那麼雖然部署者責任最終沒有多大用處，但也不會造成太大傷害）。開發者責任也有同樣的擔憂（儘管對於開源模型，需要對模型進行微調以使其執行一些最初不允許的事情），但同樣的反駁也適用。作為一般原則， 對控制徵收「稅」，本質上說「你可以建造你無法控制的東西，或者你可以建造你控制的東西，但如果你建造你控制的東西，那麼 20% 的控制權必須用於我們的目的」，這似乎是法律體系的合理立場。
一個似乎未被充分探索的想法是將責任歸咎於管道中的其他參與者，他們更能保證獲得充足的資源。一個非常有利於 d/acc 的想法是，在執行某些災難性有害行動的過程中，將責任歸咎於人工智慧接管（例如通過黑客攻擊）的任何設備的所有者或操作員。這將產生非常廣泛的激勵，促使人們努力工作，使世界（尤其是計算和生物）基礎設施儘可能安全。
策略二：工業級硬體上的全局「軟暫停」按鈕
如果我確信我們需要比責任規則更「有力」的東西，這就是我要追求的。目標是能夠在關鍵時期將全球可用計算能力減少約 90-99% 達 1-2 年，為人類爭取更多時間做好準備。1-2 年的價值不應被誇大：在自滿的情況下，一年的「戰時模式」很容易抵得上一百年的工作。已經探索了實施「暫停」的方法，包括要求註冊和驗證硬體位置等具體建議。
更先進的方法是使用巧妙的加密技巧：例如，生產的工業級（但不是消費級）人工智慧硬體可以配備一個可信的硬體晶片，只有每周從主要國際機構（包括至少一個非軍事附屬機構）獲得 3/3 的籤名，它才能繼續運行。這些籤名將與設備無關（如果需要，我們甚至可以要求提供零知識證明，證明它們已在區塊鏈上發布），因此這將是全有或全無：沒有實際的方法可以在不授權所有其他設備的情況下授權一臺設備繼續運行。
這感覺就像是在最大化利益和最小化風險方面「勾選了方框」：
-
這是一種很有用的能力：如果我們收到警告信號，表明近乎超級智能的 AI 開始做一些有可能造成災難性破壞的事情，我們就會希望更緩慢地進行轉變。
-
在這種關鍵時刻發生之前，僅僅擁有軟暫停功能不會對開發人員造成太大的傷害。
-
專注於工業規模的硬體，並且只以 90-99% 為目標，可以避免在消費者筆記本電腦中安裝間諜晶片或終止開關，或強迫小國採取嚴厲措施等反烏託邦的做法。
-
專注於硬體似乎對技術變化非常有效。我們已經看到，在多代人工智慧中，質量在很大程度上取決於可用的計算能力，尤其是在新範式的早期版本中。因此，將可用計算能力減少 10-100 倍，很容易決定失控的超級智能人工智慧在與試圖阻止它的人類的快節奏戰鬥中勝出或失敗。
-
每周需要上網一次籤名本身就很煩人，這會對將該計劃擴展到消費硬體產生強大的壓力。
-
它可以通過隨機檢查來驗證，並且在硬體級別進行驗證將使特定用戶的豁免變得困難（基於法律強制關機而不是技術上的方法不具有這種全有或全無的屬性，這使得它們更有可能滑向軍隊等的豁免）
硬體監管已經在被認真考慮，儘管通常是通過出口管制的框架，而出口管制本質上是一種「我們信任我們一方，但不信任另一方」的理念。利奧波德·阿申布倫納 (Leopold Aschenbrenner) 曾主張美國應該競相獲得決定性優勢，然後迫使中國籤署一項協議，限制他們允許運行的盒子數量 。在我看來，這種方法似乎很危險，可能結合了多極競爭和中心化化的缺陷。如果我們必須限制人們，那麼似乎最好在平等的基礎上限制每個人，並努力嘗試合作來組織這項工作，而不是一方試圖主宰其他所有人。
AI風險中的d/acc 技術
這兩種策略（責任和硬體暫停按鈕）都有漏洞，而且很明顯它們只是暫時的權宜之計：如果某件事在 T 時間可以在超級計算機上完成，那麼在 T + 5 年後，它很可能在筆記本電腦上完成。因此，我們需要更穩定的東西來爭取時間。許多 d/acc 技術都與此相關。我們可以這樣看待 d/acc 技術的作用：如果人工智慧接管世界，它會怎麼做？
-
它入侵我們的計算機 → 網絡防禦
-
它會引發超級瘟疫→生物防禦
-
它讓我們信服（要麼相信它，要麼互相不信任）→信息防禦
正如上文簡要提到的，責任規則是一種天然的 d/acc 友好型監管方式，因為它們可以非常有效地激勵世界各地採用這些防禦措施並認真對待。中國臺灣最近一直在試驗虛假廣告的責任，這可以被視為使用責任來鼓勵信息防禦的一個例子。我們不應該過於熱衷於在任何地方都施加責任，並記住普通自由的好處，即讓小人物參與創新而不必擔心訴訟，但在我們確實希望更有力地推動安全的地方，責任可以非常靈活和有效。
四、加密貨幣在 d/acc 中的作用
d/acc 的大部分內容遠遠超出了典型的區塊鏈主題：生物安全、BCI 和協作話語工具似乎與加密貨幣人士通常談論的內容相去甚遠。然而，我認為加密貨幣和 d/acc 之間存在一些重要的聯繫，特別是：
-
d/acc 是加密的底層價值（去中心化、抗審查、開放的全球經濟和社會）到其他技術領域的延伸。
-
由於加密用戶是天生的早期採用者，並且價值觀一致，因此加密社區是 d/acc技術的天然早期用戶。對社區的高度重視（包括線上和線下，例如活動和彈出窗口），以及這些社區實際上在做高風險的事情而不是僅僅互相交談的事實，使得加密社區成為特別有吸引力的 d/acc 技術的孵化器和試驗臺，這些技術從根本上是針對群體而不是個人（例如，很大一部分信息防禦和生物防禦）。加密人只是一起做事。
-
許多加密技術可以應用於d/acc 主題領域：用於構建更強大和去中心化的金融、治理和社交媒體基礎設施的區塊鏈，用於保護隱私的零知識證明等。今天，許多最大的預測市場都建立在區塊鏈上，並且它們正逐漸變得更加複雜、去中心化和民主。
-
在加密相關技術方面也有雙贏的機會進行合作，這些技術對加密項目非常有用，但也是實現 d/acc 目標的關鍵：形式化驗證、計算機軟體和硬體安全以及對抗性強的治理技術。這些東西使以太坊區塊鏈、錢包和 DAO 更加安全和強大，它們還實現了重要的文明防禦目標，例如降低我們對網絡攻擊的脆弱性，包括可能來自超級智能 AI 的攻擊。
Cursive 是一款使用全同態加密 (FHE )的應用程式，它允許用戶識別與其他用戶共同感興趣的領域，同時保護隱私。Zuzalu位於清邁的眾多分支機構之一 Edge City 就使用了這項技術。
除了這些直接的交集之外，還有另一個重要的共同利益點：資金機制。
五、d/acc 和公共物品融資
我一直以來的興趣之一是想出更好的機制來資助公共產品：對大量人群有價值但沒有自然可行商業模式的項目。我過去在這方面的工作包括我對二次融資及其在Gitcoin資助、Retro PGF和最近的深度融資中的應用的貢獻。
許多人對公共物品這一概念持懷疑態度。這種懷疑通常來自兩個方面：
-
事實上，公共物品在歷史上曾被用作嚴厲的中央計劃和政府對社會和經濟進行幹預的藉口。
-
人們普遍認為，公共物品資助缺乏嚴謹性，是基於社會期望偏見（聽起來好，而不是實際上好）的，並且青睞於能夠玩社交遊戲的內部人士。
這些都是重要的批評，也是很好的批評。然而，我認為強大的去中心化公共物品融資對於 d/acc 願景至關重要，因為 d/acc 的一個關鍵目標（儘量減少中央控制點）本質上會挫敗許多傳統的商業模式。在開源基礎上建立成功的企業是可能的——許多Balvi受助者 正在這樣做——但在某些情況下，這已經足夠困難了，以至於重要的項目需要額外的持續支持。因此，我們必須做困難的事情，並找出如何以一種解決上述兩個批評的方式來進行公共物品融資。
第一個問題的解決方案基本上是可信的中立 和去中心化。中央計劃是有問題的，因為它將控制權交給了可能濫用職權的精英，而且它往往與當前的情況過度吻合，隨著時間的推移，其效率越來越低。二次融資和類似機制正是以儘可能可信的中立和（在架構和政治上）去中心化的方式為公共物品提供資金。
第二個問題更具挑戰性。對於二次方融資，一個常見的批評是它很快就會變成一場人氣競賽，要求項目資助者花費大量精力進行公開宣傳。此外，那些「在人們眼前」的項目（例如最終用戶應用程式）會獲得資助，但那些更隱蔽的項目（典型的「由內布拉斯加州的人維護的依賴關係」）根本得不到任何資助。Optimism 的retro融資依賴於少數專家徽章持有者；在這裡，人氣競賽的影響被削弱，但與徽章持有者保持密切個人關係的社會影響被放大。
深度融資是我為解決這個問題而做出的最新努力。深度融資有兩個主要創新：
-
依賴關係圖。我們不會向每個陪審員提出一個全局問題（「項目 A 對人類的價值是什麼？」），而是提出一個局部問題（「項目 A 或項目 B 對結果 C 更有價值嗎？價值高多少？」）。眾所周知，人類不擅長回答全局問題：在一項著名的研究中，當被問及他們願意花多少錢來拯救 N 只鳥時，受訪者回答 N=2,000、N=20,000 和 N=200,000 的答案約為 80 美元。局部問題更容易處理。然後，我們通過維護「依賴關係圖」將局部答案組合成全局答案：對於每個項目，還有哪些其他項目對其成功做出了貢獻，貢獻程度如何？
-
人工智慧是 經過蒸餾的人類判斷。陪審員只會被分配到所有問題的一小部分隨機樣本。有一個公開競賽，任何人都可以提交人工智慧模型，試圖有效地填補 圖中的所有邊。最終答案是與陪審團答案最兼容的模型的加權和。請參閱 此處的代碼示例 。這種方法允許機制擴展到非常大的規模，同時要求陪審團只提交少量的信息「位」。這減少了腐敗的機會，並確保了每一位都是高質量的：陪審員可以對每個問題進行長時間的思考，而不是快速點擊數百個問題。通過使用人工智慧的公開競爭，我們減少了任何單一人工智慧訓練和管理過程的偏見。人工智慧的開放市場是引擎，人類是方向盤。
但深度資助只是最新的例子；以前也曾有過其他公共物品資助機制的想法，未來還會有更多。allo.expert 對 它們進行了很好的分類。其根本目標是創建一個社會小工具，可以資助公共物品，其準確性、公平性和開放性至少接近市場資助私人物品的方式。它不必完美；畢竟，市場本身也遠非完美。但它應該足夠有效，以便致力於造福所有人的頂級開源項目的開發人員可以繼續這樣做，而不必感到有必要做出不可接受的妥協。
如今，大多數 d/acc 主題領域的領先項目：疫苗、BCI 、腕部肌肉電信號和眼球追蹤等「邊緣 BCI」 、抗衰老藥物、硬體等，都是專有的。這在確保公眾信任方面有很大的缺點，正如我們已經在 上述許多 領域看到的那樣。它還將注意力轉移到競爭動態（「我們的團隊必須贏得這個關鍵行業！」），而不是更大的競爭，即確保這些技術發展得足夠快，以便在超級智能的 AI 世界中保護我們。出於這些原因，強大的公共物品資金可以有力地促進開放和自由。這是加密社區可以幫助 d/acc 的另一種方式：通過認真努力探索這些融資機制，並使它們在自己的環境中發揮良好作用，為更廣泛地採用開源科學和技術做好準備。
六、未來展望
未來幾十年將面臨重大挑戰。我最近一直在思考兩個挑戰：
-
強大的新技術浪潮，尤其是強人工智慧，正在迅速湧現，而這些技術伴隨著我們需要避免的重要陷阱。「人工智慧超級智能」可能需要五年才能實現，也可能需要五十年。無論如何，目前尚不清楚默認結果是否一定是積極的，正如本文和前一篇文章所述，有多個陷阱需要避免。
-
世界正變得越來越缺乏合作。許多強大的行為體過去似乎至少有時會按照高尚的原則行事（世界主義、自由、共同人性……等等），但現在卻更加公開、積極地追求個人或部落的私利。
然而，這些挑戰都有一線希望。首先， 我們現在有了非常強大的工具來更快地完成剩餘的工作：
-
當前和不遠的將來，AI可用於構建其他技術，並可作為治理的組成部分（如深度融資或 信息金融 ）。它也與 BCI 非常相關，BCI 本身可以進一步提高生產力。
-
大規模協調現在比以前更加可能。網際網路和社交媒體擴大了協調的範圍，全球金融（包括加密貨幣）增強了其 力量，現在信息防禦和協作工具可以提高其質量，也許很快人機對人形式的 BCI 可以增加其深度。
-
形式驗證、沙盒（網絡瀏覽器、 Docker 、 Qubes 、 GrapheneOS 等）、安全硬體模塊和其他技術正在不斷改進，從而可以實現更好的網絡安全。
-
編寫任何類型的軟體都比兩年前容易得多。
-
最近關於病毒作用機制的基礎研究，尤其是對病毒傳播最重要的防控形式是空氣傳播這一簡單認識，為如何提高生物防禦能力指明了更加清晰的路徑。
-
生物技術的最新進展（例如 CRISPR、生物成像 方面的進步）正在使各種生物技術變得更加容易實現，無論是用於防禦、長壽、超級幸福，還是探索多種 新穎的生物假設，或者只是做一些非常酷的事情。
-
計算和生物技術的進步共同促成了合成生物工具的出現，您可以使用這些工具來調整、監測和改善您的健康。密碼學等網絡防禦技術使個性化變得更加可行。
其次，既然我們所珍視的許多原則不再被少數保守派所佔據，那麼它們就可以被一個歡迎世界上任何人加入的廣泛聯盟所重新奪回。這可能是最近世界各地政治「重新調整」的最大好處，值得利用。加密貨幣已經很好地利用了這一點並獲得了全球吸引力；d/acc 也可以做到這一點。
獲得工具意味著我們能夠適應和改善我們的生物學和環境，而 d/acc 的「防禦」部分意味著我們能夠在不侵犯他人自由的情況下做到這一點。 自由多元主義原則 意味著我們可以在如何做到這一點方面擁有很大的多樣性，而我們對共同的人類目標的承諾意味著它應該實現。
我們人類仍然是最耀眼的明星。我們面臨的任務是建設一個更加光明的 21 世紀，在邁向星空的過程中保護人類的生存、自由和自主權，這是一個具有挑戰性的任務。但我相信我們能做到。
