政府知道通用人工智慧即將到來

政府知道通用人工智慧即將到來

2025 年 3 月 4 日
埃茲拉·克萊因

拜登政府的人工智慧顧問本·布坎南 (Ben Buchanan) 討論了美國政府如何為通用人工智慧做準備——以及仍然存在的所有挑戰。

在過去的幾個月裡，我一直有這種奇怪的經歷，來自人工智慧實驗室、來自政府的人一個接一個地來找我，告訴我，這真的即將發生。通用人工智慧，AGI AGI，AGI。這確實是人工智慧的聖杯。在幾乎所有任務上都比幾乎所有人類表現更好的人工智慧系統。他們之前曾想過，也許需要五年、十年、十年或十五年。現在他們相信這一目標將在兩到三年內實現。

很多人沒有意識到人工智慧將成為唐納德·川普第二任期內的一件大事。我認為他們是對的。但我們還沒有做好準備，部分原因是我們不清楚做好準備意味著什麼。我們不知道勞動市場將會如何反應。我們不知道哪個國家會先到達那裡。我們不知道這對戰爭意味著什麼。我們不知道這對和平意味著什麼。

儘管世界上還有那麼多事情需要報導，但我確實認為，當我們回顧人類歷史上的這個時代時，這很有可能是最重要的事情。這就是事件視界。在它之前的世界和在它之後的世界只是不同的世界。與我聯繫的人之一是本‧布坎南 (Ben Buchanan)，他曾擔任拜登白宮的人工智慧特別顧問。近年來，他是我們制定政策的核心人物，但現在政府已經發生了深刻的變化。新政府中有很多人對人工智慧持有非常非常強烈的看法。那他們要做什麼呢？我們需要做出什麼樣的決定，現在需要開始進行什麼樣的思考，以便為幾乎所有在這個領域工作的人都試圖盡可能大聲地告訴我們即將發生的事情做好準備。本·布坎南，歡迎參加節目。

謝謝你的邀請。
所以，在拜登政府任期結束後，你給我打電話，我接到了拜登政府中很多人的電話，他們想告訴我他們所做的所有偉大的工作，而你似乎想警告人們你現在所做的事情。思緒漸漸湧現。接下來會發生什麼事。

我認為我們將會看到功能極其強大的人工智慧系統。我不喜歡通用人工智慧這個術語，但我認為它很有可能在未來幾年內流行起來。在唐納德·特朗普擔任總統期間，我認為有一種觀點認為，這一直是企業的炒作或猜測。我認為，當我不再擔任公司職務時，我在白宮看到的一件事就是趨勢線看起來非常清晰。在總統的領導下，我們試圖做的是，在我們了解做好準備意味著什麼之前，讓美國政府和社會為這些系統做好準備。

這是什麼意思。是的，當您說非常有能力的系統能夠做什麼時。

AGI 的規範定義是一個系統，這也是我不喜歡的術語。

如果每次你說 AGI 警告時你不喜歡這個術語，它就會深入人心，那就太好了。

我正嘗試將其放入訓練資料中。 Ezra 對 AGI 的典型定義是：一種能夠完成人類幾乎所有認知任務的系統。我不知道我們是否會在未來四年左右看到這一點，但我確實認為我們會看到類似的東西，這個系統的廣度不僅令人驚嘆，而且它的深度、它的推進能力在某些情況下確實超越了人類的能力，無論認知學科系統是否可以取代人類從事認知要求高的工作。

是的，或是認知要求高的工作的關鍵部分。

是的，我要說的是，我非常確信我們正處於這個邊緣。因此，我並不是以懷疑論者的身分來看待這個問題，但我仍然發現在精神上很難在 IT 世界中生存。

我也是。

它處於更昂貴的水平。所以我認為大多數人沒有使用過它，但它可以在幾分鐘內建立出更像科學分析簡報的東西。我和該節目的製片人一起工作。我僱用了非常有才華的人去做非常艱鉅的研究工作，我要求它就麥迪遜憲法制度和我們現在高度兩極分化的國有政黨之間的緊張關係撰寫這份報告，而它在幾分鐘內就得出了結論，我至少可以說，這是我曾與之合作過的任何團隊在幾天內得出的結論的平均水平。我與許多從事大量編碼工作的公司員工進行了交談，他們告訴我，他們預計到今年年底或明年年底，大多數程式碼將不再是由人類編寫的。我真的不明白這怎麼可能不對勞動市場產生影響。

我認為那是對的。我不是勞動市場經濟學家，但我認為這些系統在某些方面非常有效。我非常喜歡威廉·吉布森的這句名言。未來已經到來。只是分佈不均而已。

我認為，除非你正在使用這項技術，否則你可能無法意識到它現在有多好。重要的是認識到今天的情況是有史以來最糟糕的。情況只會越來越好。我認為這就是白宮正在追蹤的動態，而且我認為下一屆白宮和我們整個國家都必須在很短的時間內追蹤和適應這一動態。

令我著迷的是，我認為我們考慮或實施的幾乎每項人工智慧政策在某種意義上都有一條思想主線，即這基本上是第一個未經國防部資助的革命性技術。如果回顧歷史，過去 100 年左右，有核武、太空、網路早期、微處理器早期、大型航空雷達早期、 GPS 早期。這份名單非常很長。所有這些技術基本上都來自國防部的資金。但中央政府的角色讓國防部和美國政府了解到這項技術預設不具備人工智慧，也讓美國政府有能力塑造這項技術的發展方向，而預設情況下我們沒有眼睛。

美國內部關於人工智慧存在著許多爭論。有一件事似乎沒有引起爭論，幾乎得到了普遍認同，並且佔據主導地位。在我看來，控制優先順序和政策就是讓我們獲得 AGI，我以前就聽說你不喜歡這個術語。中國有。

我確實認為，AGI 或變革性人工智慧的實現將帶來深遠的經濟、軍事和情報能力，我確實認為，繼續引領人工智慧對美國國家安全至關重要。我認為我反覆思考的那句話實際上是甘迺迪 1962 年在他著名的賴斯演講中說的。我們選擇在未來十年內登陸月球並完成其他任務，並不是因為它們很容易，而是因為它們很難，

每個人都記得它，因為他說我們要登陸月球。但實際上，在演講的最後，我認為他對太空科學、核子科學和所有技術都沒有自己的良知給出了更好的解釋。它將成為一股正義的力量還是邪惡的力量，取決於人類，而只有美國佔據主導地位才能實現這一點。我們能否幫助決定這片新海洋將是和平之海還是新的、可怕的戰場。

我認為人工智慧領域確實存在這樣的情況，這項技術存在著許多巨大的不確定性。我並不是一名人工智慧的傳播者。我認為這項技術存在巨大風險，但我確實認為美國在決定其發展方向方面發揮根本性作用，這並不是說我們不想在國際上合作，這並不是說我們不想與中國人合作。

值得注意的是，總統關於人工智慧的行政命令。其中有一句話說，我們甚至願意與競爭對手合作開發人工智慧安全。但值得一提的是，我深切地認為，美國在這裡發揮著我們不能放棄的基本作用。

所以我認為讓我們只看一下人工智慧在情報分析和網路操作方面的一個狹義案例。

我認為，如果你擁有更強大的人工智慧能力，那可能會讓你在進攻和防禦上做得更好。網路行動是指闖入對手網路收集資訊，如果收集的資訊量夠大，人工智慧系統可以幫助您進行分析。

我們實際上透過 DARPA 做了一件大事，美國國防高級研究計劃局發起了這項名為「人工智慧網路挑戰」的活動，旨在測試人工智慧的這項能力。這主要集中在防禦上，因為我們認為我可以代表我們在進攻和防禦方面進行網路行動方式的根本轉變。我不希望生活在這樣一個世界：中國擁有網路攻防能力，但美國卻沒有。我認為，在國家安全競爭的一系列核心領域中，情況都是如此。

我的感覺是，大多數人、大多數機構對於有能力的國家行為者來說都是相當容易被駭客攻擊的。雖然不是全部，但有很多。現在，兩國的駭客技術都將得到提升，而且他們將擁有更強大的能力，因為人工智慧駭客的數量將遠遠超過人類駭客。

我們是否即將進入這樣一個世界：在數位時代，我們比一般人更容易受到攻擊？我所說的不僅僅是那些國家可能想要監視的人，而且所有類型的不良行為者都會獲得這些系統的版本。您是否擔心它會變得真正反烏托邦？

嗯，我們所說的駭客攻擊通常是指在軟體中發現漏洞，然後利用該漏洞進行非法存取。我認為，更強大的人工智慧系統將更容易發現漏洞、利用漏洞並獲得存取權限，這將為進攻方帶來優勢。

我認為，防禦方面更強大的人工智慧系統將使編寫更安全的程式碼變得更加容易，減少可發現的漏洞數量，並更好地檢測入侵的駭客，我們盡可能地將平衡轉向防禦方面，

但我認為在未來幾年，也就是我們一直在談論的過渡時期，將有一段時間，不具備最新人工智慧、防禦技術或軟體開發技術的舊式遺留攻擊者總體上將更容易受到攻擊者受到攻擊的能力。

另一方面也是很多人擔心的問題，也就是人工智慧實驗室本身的安全性。是的，對於另一個州來說，獲得最新的 OpenAI 系統是非常非常有價值的。一方面，與我交談過的這些公司的人都知道這是一個問題。另一方面，以真正安全的方式工作確實很煩人。

過去四年來我一直在這個禮物中工作，這是一個安全的房間，你不能帶手機進去，這一切都很煩人。我想這是毫無疑問的。

您如何看待目前人工智慧實驗室的脆弱性？

是的，我很擔心。我認為這裡有黑客風險。如果您在右邊閒逛，我也會。舊金山家庭聚會，他們不分享模型，但他們在某種程度上談論的是他們所使用的具有巨大價值的技術。

我確實認為，這是一個回到這種知識路線的案例，這是國家安全，相關技術，也許是改變世界的技術，它不是來自政府的支持，也沒有政府批准的安全要求，這也是以這種方式表現出來的。

在國家螢幕備忘錄中，總統方面試圖向實驗室發出這一信號，並試圖告訴他們，作為美國政府，我們想幫助你們完成這項任務。

該協議於 2024 年 10 月簽署，所以我們沒有太多時間在此基礎上繼續推進。但我認為這是川普政府的優先事項，我無法想像有什麼比保護正在創造未來的美國公司更不偏不倚的事情。

我發現人們常向我提起這方面的事。有趣的是資訊的處理。因此，與蘇聯和美國之間的間諜遊戲相比，我們現在擁有更多的數據。我們擁有所有這些衛星數據。我的意思是，顯然我們不會互相竊聽，但顯然我們會互相竊聽，並且會發生所有這些事情。

人類面臨著一個巨大的瓶頸。目前，他們正在開發分析這些數據的相當基本的程序，並且有一種觀點認為，如果擁有這些能夠吸入這些數據並進行模式識別的真正智能的系統，那麼這將比外界認為的更為顯著的權力平衡變化。

明白，是的，我認為我們對此非常公開。總統簽署了一份國家安全備忘錄，基本上相當於一份國家安全行政命令，表明這是美國至關重要的領域。

我甚至不知道美國每天收集多少衛星圖像。但這是一個巨大的數字。我們已經公開表示，我們根本沒有足夠的人力來瀏覽所有這些衛星圖像，這將是一項艱鉅的工作。如果我們這樣做了。人工智慧的角色是查看世界各地航運熱點區域的圖像，並以自動化方式進行分析，並挑選出最有趣和最重要的圖像供人工審核。

我認為，從某種程度上來說，你可以這樣看待這個問題，並且說，好吧，軟體並不能做到這一點。

我認為從某種程度上來說這當然是正確的。從另一個層面來說，可以說軟體功能越強大，分析的自動化程度越高，從資料中提取的情報優勢就越大。這最終會讓美國處於更有利的地位。

我認為其一階和二階後果也十分顯著。這意味著，在一個擁有強大人工智慧的世界裡，從事間諜活動的動機就會增加。因為如果現在我們收集的數據多於我們能夠分析的數據，那麼我們收集的每一條邊際數據就沒有那麼有價值。

我認為這基本上正確。我認為，有兩個相反的面向。首先，你需要擁有它。我堅信你需要擁有權利和保護，希望這些權利和保護能夠反擊，並說，不，這裡有關鍵類型的數據，包括你自己公民的數據。在某些情況下，你不應該收集同盟國的公民，即使有收集它的動機。

儘管美國情報監督程序存在諸多缺陷，我們對此也有很多爭論，但我認為，在龐大的人工智慧系統時代，這一點從根本上更為重要，

您對這一切對國家安全的影響有多害怕，也就是說，對國家進行監視的可能性。

美國創新基金會的經濟學家薩姆‧哈蒙德寫了一篇名為《關於人工智慧的 95 條論點》的文章。我經常思考的其中一點是，他指出，如果我們有能力完美地執行，那麼目前的許多法律將會變得極為嚴格。

制定法律時就知道人類勞動力稀缺。還有一個問題，當監控狀態變得非常好時會發生什麼，對吧。當人工智慧使警察國家變得與現在截然不同時，會發生什麼情況？當我們面臨無止盡的無人機戰爭時會發生什麼事？

我的意思是，Anduril 公司現在已經成為一個廣為人知的公司。我相信他們與 OpenAI 有合作關係。 Palantir 與 Anthropic 有合作關係。我們將要看到一種真正的變化，我認為從國家安全的角度來看，這種變化是令人恐懼的。

這就是我非常明白為什麼我們不希望中國遙遙領先我們的原因。就像，我完全明白這一點。但僅就它賦予我們政府的能力而言。您對此有何看法？

我會從本質上將這個關於人工智慧和專製或監控國家的問題分解為兩部分，無論你想如何定義它。

首先是中國部分。在一個骨子裡就是專制國家，甚至沒有絲毫民主的幌子，這種情況會如何發生？我想我們可能很快就會達成一致。這使得某些可能對他們的社會願望至關重要的東西變得非常具體，就像只有人工智慧系統才能幫助實現的某種控制水平，我認為這令人恐懼。

另外，我覺得俄語和中文裡都有這樣一句話，天高皇帝遠，

從歷史上看，即使在那些專制政權中，由於國家的規模和廣度，存在著某種國家無法侵入的空間。而事實上，在那些專制政權下，我認為我會讓政府權力變得更糟。

那麼在美國有一個更有趣的問題，基本上，人工智慧和民主之間的關係是什麼。

我覺得我也有同樣的不適感。歷史上有些思想家說過，我們修改法律的原因之一是人們會違反法律，因此法律是有空間的。我認為我們的司法系統和司法執行都具有人性，我不想失去這種人性。

我們責成司法部啟動相關流程並對此進行思考，並制定在刑事司法中使用人工智慧的原則。我認為在某些情況下，它有其優勢，即與機器同等對待。但我也認為有巨大的偏見和歧視風險。等等，因為這些系統有缺陷，而且在某些情況下，也因為這些系統無所不在。我確實認為，執法系統中廣泛、不受約束地使用人工智慧可能會從根本上侵犯權利，我們應該對此保持高度警惕，作為公民，我們應該對此表示嚴重關切。

我發現這一切都讓我非常不舒服，其中一個原因是，有一種很遺憾的方式來表達這一點。這就像我們正在召喚盟友。我們正嘗試與另一個幾乎是星際盟友的國家建立聯盟。我們正在與中國競爭建立這項聯盟。但是我們不了解盟友，也不了解讓盟友加入我們的所有系統和所有計劃意味著什麼。

就我所知，每個致力於此的公司、每個致力於此的政府都相信，在不久的將來，透過讓人工智慧更加自主，你將擁有更好、更快、更具主導性的決策循環。一旦你了解了我們正在談論的 AGI，你就會想把相當多的決策權交給它。所以我們正在朝著這個目標努力，因為我們不希望其他人在沒有真正理解那是什麼或那意味著什麼的情況下先到達那裡。

這似乎是一件具有歷史意義的危險的事情，我成熟的那一刻正值美國和中國陷入「修昔底德陷阱」式的超級大國主導地位競賽。這對於創造地球上下一個智慧轉折點而言是一套相當危險的激勵措施。

是的，這裡有很多東西要解開，所以讓我們按順序進行。

但基本上，我認為我在白宮以及現在離開白宮後，都深感不適。我認為出口管制等措施的吸引力在於它確定了一個瓶頸，可以不同程度地減緩中國的發展速度，為美國的領先創造空間，在我看來，理想的情況是，將這種領先優勢用在安全和協調上，而不是倉促行事，這包括再次與中國進行潛在的協調，但又不加劇這種軍備競賽的態勢。

我不會說我們試圖在國家安全應用方面領先。因此，國家安全備忘錄的一部分是對我們不會對人工智慧系統做什麼的相當詳細的描述，以及一系列禁止使用的案例，以及高影響力的用例。還有治理和風險管理。

你不再掌權了。

嗯，這是一個合理的問題。現在他們還沒有廢除這項規定。川普政府並未廢除這項規定。但我確實認為，公平地說，在我們擁有權力的那段時期，我們試圖用人工智慧建立基礎，我們試圖非常清楚地認識到這種動態。您剛才談到了安全方面的逐底競爭，而我們在試圖確保我們的卓越地位的同時，也試圖防止這種情況的發生。

是否有人擔心，如果我們將中國視為敵意競爭對手，我們會盡一切辦法阻止其發展，包括對先進技術實施出口管制，從而將中國變成更強勁的競爭對手？

我的意思是，他們不想對中國的製度或中共的意識形態抱持天真的認識，他們想要力量和統治地位，並希望下一個時代是中國時代。所以也許你對此無能為力，但試圖將下一個時代的核心技術晶片輸送給另一個最大的國家是相當具有對抗性的。

我不知道說我們不會向你們出售世界上最先進的技術是否具有敵意。這本身並無意義。這並不是宣戰。這甚至不是冷戰的宣言。我認為這只是表明這項技術極為重要。

您認為他們就是這樣理解的嗎？

這比你想要的更具學術性。但我當教授以來的學術研究基本上都陷入了困境。在學術界，我們稱之為國家之間相互誤解的安全困境。所以我確信中國和美國在這一領域在某種程度上存在著誤解。但我卻認為他們並沒有讀到事實的簡單內容。那是不是不向他們出售晶片，我不認為這是宣戰，

但我不認為他們確實誤解了我們。我的意思是，也許他們有不同的看法。但我想你稍微看一下，我知道華盛頓的政治是如何運作的。在這段期間我和很多人交談過。我看到了與中國走向更對抗的態勢。我知道傑克·沙利文和拜登總統想將此稱為戰略競爭，而不是新冷戰。我明白這一切。我認為這是真的。

而且，我們剛才已經討論過了，而你並沒有爭論我們的主流觀點，即我們需要先於他們掌握這項技術。我認為他們不會考慮這一點，哦，沒有人會把頂尖技術賣給我們。我認為他們在某種程度上理解我們在這裡所做的事情。

我不想粉飾此事。我確信他們確實是這麼認為的。另一方面，我們與他們建立了對話，我飛到日內瓦與他們會面，並試圖與他們討論人工智慧安全等問題。因此我確實認為，在像人工智慧這樣複雜的領域，你可以同時讓多件事成為現實。

我一點也不後悔出口管制。我認為，坦白說，我們為當時做了這些事情而感到自豪，因為它幫助確保了我們在幾年後仍然保持人工智慧領域的優勢，就像Deepseek一樣有才華，

這正是Deepseek 如此震撼的原因。我認為，對於美國系統來說，這是一個似乎只需要花費更少的運算資源和成本就能進行訓練的系統，但卻能在高水準上與我們的前沿系統競爭。

您如何理解深度探索是什麼，以及它需要我們重新思考或不重新思考哪些假設。

是的，讓我們退一步。所以我們正在追蹤Deepseek的歷史。因此，自從 11 月 23 日左右白宮推出第一個編碼系統以來，我們一直在關注白宮的Deepseek。毫無疑問，Deepseek工程師非常有才華，而且在 2024 年，他們的系統變得越來越好。

顯然，他們確實得到了一些晶片，有些是合法購買的，有些是走私的。看起來是這樣。然後在 24 年 12 月，他們推出了一個名為第V3 版的系統，深海第 3 版，實際上我認為這才是應該引起關注的系統。它沒有引起太多的關注，但它確實表明他們在演算法上取得了長足的進步，從而使系統變得更有效率。

然後在 25 年 1 月，他們推出了一個名為 R1 的系統。 R1 其實並沒有那麼不尋常。沒人會想到這會需要大量的運算能力。它只是一個擴展底層V3系統的推理系統。

這都是些書呆子的話。這裡的關鍵是當你看看深海所做的事情時，我認為媒體對它的炒作是沒有必要的，我也不認為它改變我們所做事情的基本分析。

它們仍然受到計算能力的限制。我們應該擰緊螺絲，並繼續約束它們。他們很聰明。他們的演算法越來越好。但美國公司的演算法也是如此。

我認為這應該提醒我們船舶控制的重要性。中國在這裡是一位值得尊敬的競爭對手，我們不應該將任何事情視為理所當然。但我不認為現在正是說天塌下來了或基本縮放定律被打破的時候。

您認為他們的績效提升源自於何處？他們有聰明的人才。毫無疑問。我們讀了他們的論文。他們都是聰明人，所從事的演算法效率工作與Google、Anthropic 和 OpenAI 等公司所從事的完全相同。

我在左翼聽到的一個常見論點，Lina Khan，實際上在我們的頁面上提出了這一點，即這證明我們的整個人工智慧開發範式是錯誤的，我們看到我們不需要所有這些計算。我們發現，我們不需要這些巨型公司，這指明了一條走向去中心化、幾乎是太陽龐克版本的人工智慧開發的道路。從某種意義上說，美國的製度和想像力已經被這三家大公司俘虜了。

但我們從中國看到的情況是，這並不是必要的。我們可以用更少的能源、更少的晶片、更少的佔用空間來實現這一點。你買這個嗎？

我認為這裡有兩件事是正確的。首先，永遠都會有一個前沿，或至少在可預見的未來，會有一個運算和能源密集的前沿，以及我們的公司。我們想要處於那個前沿。這些公司有非常強烈的動機去追求提高效率，而且它們都這麼做了。他們都希望從每次計算中獲得最深刻的見解。他們將繼續需要突破邊界。

而且我認為不會有免費的午餐，因為在未來幾年他們將不需要更多的運算能力和更多的能源。

除此之外，還會出現一種滯後於前沿的較慢的擴散，其中演算法變得更高效，需要更少的電腦晶片，所需的能量更少。身為美國，我們需要贏得這兩場比賽。

在出口管制方面你會看到一件事，人工智慧公司希望獲得出口管制。當《深海危機》震撼美國股市時，它讓人們對 NVIDIA 的長期價值產生了質疑。而 NVIDIA 非常不希望受到這些出口管制。

那麼，您在白宮，我確信您正處於一系列來回遊說的中心，您對此有什麼看法。

每個 AI 晶片、每個製造出來的先進 AI 晶片都將出售。目前這些晶片的市場非常旺盛。我認為在可預見的未來。

所以我認為我們的觀點是，我們對 NVIDIA 實施了出口管制，但股市沒有想到，

我們在 2022 年 10 月對第一批實施了出口管制。

我並不是說我們不應該實施出口管制，但我希望你們聽到的是強勢版本的論點，而不是弱勢版本的論點。我認為 NVIDIA 的執行長並沒有錯，如果我們說 NVIDIA 不能將其頂尖晶片出口到中國，那麼從長遠來看，這在某種程度上會減少 NVIDIA 晶片的市場。

我當然認為這種動態是正確的。我並不是在那裡提出建議。如果他們擁有更大的市場，他們就可以收取更高的利潤。這顯然就是這裡的供給和需求。

我認為我們的分析考慮了這些晶片及其製造的人工智慧系統對美國國家安全的重要性。這是值得的權衡。自從我們取消出口管制以來，NVIDIA 的表現一直非常出色。我同意這一點。

拜登政府也普遍擔心人工智慧的安全。我認為它受到了關心人工智慧安全的人的影響，並且引起了加速主義者或被稱為加速主義的爭論方面的強烈反對。
所以我想給你們播放一段馬克·安德森的片段，他顯然是一位非常重要的風險投資家，也是川普的高級顧問，他描述了他與拜登政府在人工智慧方面的對話，以及他們如何使他朝著另一個方向激進化。


本和我於 5 月 24 日去了華盛頓，但我們沒能與拜登會面，因為事實證明，當時沒有人能與拜登會面。但我們能夠與高級職員會面。因此，我們會見了白宮核心區的高層。我們基本上傳達了對人工智慧的擔憂。他們對我們的回應是：是的，我們將在拜登政府中實施人工智慧國家議程。第二個任期內，我們要確保人工智慧只是兩三家大公司的職能。我們將直接監管和控制這些公司。不會有任何新創企業。你們以為只要創辦公司、編寫程式碼並在網路上發布程式碼就可以的時代已經一去不復返了。這不會發生。

他在那裡描述的對話就是這樣的。您是否參加了這次談話？

我和他見過一次面。我不太清楚，但我們曾經見過他一次。

這是否可以描述他與您的談話？

他談到了與新創公司和競爭力相關的擔憂等。我對此的看法是看看我們的競爭力記錄。很明顯，我們想要一個充滿活力的生態系統。

因此，川普總統剛廢除的行政命令中，有相當長一部分內容涉及競爭力。管理和預算辦公室的管理備忘錄，規定了美國政府的採購方式。我在其中提出了完整的條款或呼籲，說我們想從各種各樣的供應商那裡購買產品。 

《晶片與科學法案》包含許多有關競爭的內容。所以我認為我們對競爭的看法非常明確。現在，我確實認為存在與擴展定律相關的結構性動態，這將迫使事情朝著大公司的方向發展，而我認為在許多方面我們都在反對大公司的發展。我認為我們的過往記錄非常清晰。

關於競爭。我認為他所爭論的觀點是我從人工智慧安全社群的人士那裡聽到的，但我從拜登政府聽到的觀點不一定是，當最大的實驗室的前沿模型變得足夠強大時，就需要對其進行監管，

而為了做到這一點，我們需要對這些模型進行控制。你不能讓模型權重和所有東西都四處浮動。因此每個人都可以在家裡的筆記型電腦上運行這個程式。

我認為這就是緊張之處。他正在說。其張力變得更大。我們稍後就討論這個問題。但是，我們應該如何對這種極其強大且快速變化的技術進行監管，一方面確保它的安全，另一方面又不至於過度減慢它的發展速度，或者讓小公司在使用越來越強大的系統時無法遵守這些新法規。

因此，在總統的行政命令中，我們實際上試圖解決這個問題，但在 10 月 23 日簽署該命令時，我們還沒有答案。

你能說一下在這種情況下權重是什麼以及開放權重是什麼嗎？

因此，當你對人工智慧系統進行訓練時，你會透過大量的計算能力來運行該演算法，處理數據，並在訓練過程結束時輸出數據，寬泛地說，我強調這是最廣泛的類比。它們大致類似於大腦中神經元之間的連接強度。從某種意義上來說，你可以將其視為原始的 AI 系統。

當你擁有這些權重時，一些公司（例如 Meta 和 deepdeek）選擇做的一件事就是將它們發佈到互聯網上，我們稱之為開放權重系統。我非常相信開源生態系統。許多發布其係統權重的公司並不將其開源。他們沒有發布程式碼。因此我認為它們不應該獲得被稱為開源系統的榮譽。

儘管可能顯得迂腐，但我們在 23 和 24 賽季對開放式重量系統進行了大量的思考，並且向許多人發出了廣泛的評論請求。對很多人來說，我們收到了很多回饋。

我們在 24 年 7 月左右發布的報告中得出的結論是，目前還沒有證據可以限制開放式體重生態系統，開放式體重生態系統對創新有很大貢獻，我認為這顯然是正確的，但隨著技術的進步，我們應該繼續監測這一點，

基本上就是按照你描述的方式。

所以我們在這裡談論一下比賽動態和安全動態。當您收到這些評論時，不僅僅是關於開放重量模型，而且當您與這些實驗室的負責人交談並且人們來找您時，他們想要什麼。您認為，在全球範圍內，對於如何才能迅速實現這一目標，他們達成了怎樣的共識？

我之前提到過，這項技術的核心智慧見解首次，也許是長期以來的革命性的，而不是由政府及其早期孵化器資助的。這是實驗室的主題，即我們是否正在發明一些非常非常強大的東西。最終，它將對你在國家安全方面所做的工作、我們組織社會的方式產生影響，而且比任何單獨的政策要求更有影響。

他們基本上是在說，為此做好準備。

我們所做的事情可能是最接近監管的事情。有一項行動是在實驗室自願承諾進行安全測試後採取的。我們說，你必須與我們分享安全測試的結果，你必須幫助我們了解科技的發展方向。而這其實只適用於前幾圈。

實驗室從來不知道會發生這種事，當它出現時，他們並不感到興奮。因此，有人認為我們被要求進行某種監管俘獲，這顯然是不正確的。

但根據我的經驗，從未從實驗室得到單獨的政策遊說。我得到的更多。這即將發生。它來得比你想像的快得多。確保你已經做好準備，能夠滿足他們特定的要求。這也許是我們需要大量能源的必然結果，而且我們希望在美國做到這一點。而在美國，要獲得這種權力確實非常困難。

但這已成為一個相當大的問題。是的，如果這一切都像我們想像的那麼強大，你最終會擁有一堆數據中心，包含所有的模型權重和中東石油國家中的其他一切，因為假設地說，假設，因為他們會給你大量的能源使用權，作為回報至少在這個人工智能世界中有一些購買力，他們沒有內部工程人才來參與競爭，但也許可以把其中一些放在那裡。然後還有一些技術，對吧。這個問題有一定的道理。

是的，我認為這實際上是我們可以達成兩黨共識的領域，但這是我們在 20 年、23 年後期以及 24 年大部分時間開始真正關注的事情，當時很明顯這將是一個瓶頸。

就在任職的最後一周左右，拜登總統簽署了一項尚未廢除的人工智慧基礎設施行政命令，該命令主要是為了加速美國的電力發展以及電力和資料中心的許可，主要原因就是你提到的原因。

現在，作為一個真正相信氣候變遷、環境保護主義和清潔能源的人，我認為這有雙重好處，那就是如果我們在美國這樣做，它可以催化清潔能源轉型。而這些公司出於各種原因，願意為清潔能源、地熱等支付更多的費用。我們希望能夠促進這一發展，降低成本曲線，並讓這些公司成為該技術的早期採用者。因此我們在氣候方面也會看到勝利。

所以我想說，在如何為人工智慧做準備方面存在著相互衝突的文化。我提到了人工智慧安全和人工智慧加速主義。 JD Vance 剛參加了巴黎的大型人工智慧高峰會，我想播放一段他講話的片段。

我今天早上在這裡並不是要談論人工智慧安全，這是幾年前會議的主題。我來這裡是為了談論人工智慧的機會。當像這樣的會議召開來討論尖端技術時。很多時候，我認為我們的反應是過於自我意識，過於規避風險。但我從未遇到過如此明顯地促使我們做出完全相反舉動的技術突破。

現在，我們的政府，川普政府相信我將在經濟創新、創造就業機會、國家安全、醫療保健、言論自由等領域有無數革命性的應用。現在限制其發展不僅會不公平地使該領域的現有企業受益，還意味著使我們幾代人以來最有前途的技術之一陷入癱瘓。您對此有何看法？所以我認為他在這裡建立了一種二分法，我不太同意。

諷刺的是，如果你看他演講的其餘部分（我確實看了），你會發現其實有很多內容我是同意的。例如，我認為他在演講中提出了四大支柱。一是強調工人的重要性，一是美國的卓越地位。這些與我們採取的行動以及我認為政府（我曾是其中一部分）所倡導的理念完全一致，我堅信，就他所說的安全和機會存在根本衝突這一點而言，我不同意。

我認為，如果你回顧科技和科技適應的歷史，你會發現證據非常清楚，適量的安全措施可以釋放機會。事實上，它能釋放速度。

我們深入研究並與總統討論的一個例子是鐵路的早期發展。在鐵路早期，發生了大量事故、撞擊和死亡事件，因此人們不願意使用鐵路。然後開始出現的是安全標準和安全技術閉塞信號，這樣火車就可以知道它們何時在同一區域，空氣煞車使火車能夠更有效地煞車。火車軌道寬度和軌距的標準化在當時並不總是很受歡迎。但事後看來，很明顯正是這種技術，以及某種程度的安全標準政策發展，成就了 19 世紀後期的美國鐵路系統，我認為這是整個技術史上大量出現的模式。

需要明確的是，並不是每項安全法規、每項技術都是好的。當然，也有一些情況，你可以超越界限，減慢進程，甚至阻礙進程。但我並不認為安全與機會之間有著根本的矛盾。這很有趣，因為我不知道如何正確掌握這一點。

我認為對萬斯副總統的反駁是核心問題。因此，核能是一項具有非凡前景的技術。或許現在依然如此。並且可以想像每個國家都想處於領先地位。然而，這一系列事故中大多數並沒有造成特別重大的傷亡，但卻讓人們感到十分恐懼，以致核能技術受到了嚴格管制，以至於所有核能支持者都認為，就其本來可能達到的程度而言，核能的發展已經被大大抑制了。那麼，問題是，當你看看我們在人工智慧方面採取的行動時，我們是否在嬰兒床上扼殺了它，我們是否採取了類似的行動。

我並不是說我們已經這樣做了。我說的是，看，如果這些系統變得更加強大並且它們將掌管更多的事情，那麼事情就會出錯，而且會變得奇怪。否則就不可能正確。在像人類社會這樣複雜的系統中推出如此新的東西。所以我認為會出現這樣的問題：什麼樣的製度能讓人們在經歷了那樣的時刻後感到舒適地繼續前進。

是的，我認為這是一個深刻的問題。我認為拜登政府試圖做的是在政府內部建立這樣的機構，以盡可能清晰的思路和精通技術的方式來實現這一目標。再說一遍，除了安全測試結果共享這一例外（一些執行長估計這會浪費他們一天的員工工作時間），我們沒有採取任何接近監管的措施。我們創建了所謂的「人工智慧安全研究所」。純粹以國家安全為重點的網路風險、生物風險、人工智慧事故風險，純粹是自願的，而且存在關係。與 Anthropic 和 OpenAI 簽署諒解備忘錄。即使是伊隆的公司 XAI 也是如此。基本上，我認為我們將此視為將人工智慧專業知識引入政府以自願的方式建立公共和私營部門之間關係的機會。隨著技術的發展，現在將由川普政府來決定如何使用它。

不過，我認為你在外交上相當低估了這裡真正的分歧所在。我想說萬斯的演講標誌著政府在人工智慧領域已經出現了不同的文化。已經存在一種人工智慧安全文化，他明確指出，我們召開了所有這些會議來討論可能出現的問題。他說，停止這種做法。是的，也許事情可能會出錯，但我們應該專注於可能正確的事情。

我想說，坦白說，這就像川普馬斯克，我認為從某種程度上來說，這是思考政府的正確方式。他們的普遍觀點是，如果出了問題，我們先處理出了問題的事情。但您不會因為擔心事情出錯而行動得太慢。最好是破壞事物然後再修復，而不是為了不破壞它們而行動得太慢。

我認為可以公平地說，川普政府和美國在某些事情上存在文化差異，但我們也舉行了有關人工智慧可以做什麼以及人工智慧的好處的會議。我們一直在談論如何減輕這些風險，但這樣做是為了獲得利益。

我讀過 Anthropic machines of loving grace 執行長 Dario Amodei 撰寫的有關人工智慧優勢的文章，並說，這裡面有很多我們可以贊同的地方。總統的行政命令表示我們應該在行政部門中更多地使用人工智慧。

我了解你所說的文化差異。我明白這一點，但我認為，當輪胎與道路接觸時，我們會對這樣的想法感到滿意，即你們既可以意識到人工智慧帶來的機遇，又可以安全地做到這一點。

現在他們掌權了，他們必須決定如何將副總統萬斯的言論轉化為執政政策。我對他們行政命令的理解是，他們給了自己六個月的時間來考慮要做什麼，我認為我們應該根據他們的所作所為來評判他們。

讓我問您關於此事的另一面，因為我喜歡萬斯的演講，我認為他說得對，我們對機會的討論還不夠。但更糟的是，我們並沒有為機會做好準備。

所以如果你想像我將擁有它的支持者和倡導者所希望的效果和可能性。這意味著我們將開始以更快的速度發現或提出新型藥物分子，這是一個非常大的希望。

與我交流過的人認為我應該能夠獲得一定程度的資訊並建立人體疾病模型，這可以為我們帶來更好的藥物研發管道。如果這是真的，那麼你可以問這個問題，那麼，瓶頸在哪裡呢？

我們的藥物測試流程極為繁瑣。獲得試驗所需的動物非常困難。要找到進行試驗所需的人非常困難。你可以做很多事情來加快速度，為更多的進來做好準備。

在許多不同領域都是如此。教育等等。我認為很明顯，這些瓶頸將成為現實世界中做事的困難，我認為社會還沒有為此做好準備。我們在安全方面做得還不夠，也許是因為我們不知道該做什麼，

但在機會方面，這個問題是如何才能真正快速地轉化這些東西的好處。看起來這是一次比我所見過的任何人進行的嚴肅的對話更為豐富的對話。

是的，我想我基本上同意所有這些。我認為當我們在政府任職時，特別是在 23 和 24 年，這種對話已經開始發生。

我們研究了臨床試驗的情況。您已經撰寫有關健康的文章很長時間了。我並不聲稱自己是健康領域的專家，但在我看來，我們希望創造一個能夠將包括人工智慧系統在內的突破性成果，更快轉化為市場的世界。

這不是一個假設的事情。值得注意的是，我認為谷歌最近推出了它，我認為他們稱之為共同科學家。 NVIDIA 和 arc 研究所做出了巨大貢獻，他們擁有迄今為止最令人印象深刻的生物設計模型，對生物分子有了更詳細的了解。一個名為未來之家的組織在科學領域也做出了類似的偉大工作，因此我認為這並不是一個假設。

我認為這正在發生，我同意你的觀點，在機構和組織上可以做很多工作來讓聯邦政府為此做好準備。

這週我在華盛頓特區閒逛，與許多以不同方式參與川普政府或為川普政府提供建議的人士交談，他們來自我認為的現代右翼的不同派系。我很驚訝有這麼多人了解川普、馬斯克和 Doge 在做什麼，或至少了解它最終會允許與人工智慧（包括人類）相關的什麼。我真的沒想到會聽到那樣的話。他們不是技術達人，

但他們基本上是說，六個月前成立的聯邦政府根本無法以利用這項技術所需的速度採取行動，無論是將其融入政府的工作方式，還是讓政府充分利用它所能做的事情，因為我們有太多繁瑣的跨部門流程、太多規則和太多監管。你必須讓太多人知道​​，如果人工智慧的全部意義在於這種不可估量的認知工作加速，那麼政府需要剝離並重建以利用它。無論你是喜歡他們還是討厭他們，他們所做的就是推翻政府並重建政府。或許他們甚至不知道自己這麼做是為了什麼。但它可以實現一種創造性破壞，然後你可以在更基礎的層面上開始將人工智慧引入其中。你買這個嗎？

從我從 Doge 觀察到的情況來看，它感覺有點正交。我的意思是，我認為伊隆確實知道我能做什麼，但我不知道該怎麼做。例如，從美國國際開發署開始，幫助美國政府制定更好的人工智慧政策。

所以我想我不相信這就是 Doge 的動機。

更廣泛的論點有什麼意義嗎？我會說我確實買賬，但與 Doge 無關。我的觀點和你剛才的一樣。我的確相信，我知道聯邦政府的運作方式相當好，但其技術現代化速度太慢了。跨機構工作速度太慢。從根本上改變做事方式和利用可以提高生產力的事物的速度太慢了。

我非常同意。我的意思是，我之所以在白宮擔任人工智慧特別顧問，也就是現在的戴維·薩克斯，我在 2023 年就擔任了這份工作，是因為拜登總統在公開和私下裡明確表示，我們不能按照典型的政府速度行事。我們必須加快步伐。我想我們可能需要小心一點。

我來這裡不是為了剝奪這一切。但我同意你的看法。我們必須加快步伐。

因此，萬斯副總統講話的另一個主要部分是向歐洲人發出信號，我們不會簽署可能拖累我們發展的複雜多邊談判和法規，如果他們無論如何都通過這樣的法規，而我們認為這是在懲罰我們的人工智慧公司，我們將會進行報復。

您如何看待新政府相對於歐洲的不同立場以及其技術監管的整體方針。

是的，我認為誠實的回答是，我們在歐洲起草《歐盟人工智慧法案》時進行了對話，但當時我參與了歐盟人工智慧法案的製定，該法案還處於起步階段，雖然該法案已經通過，但很多實際細節已經被推遲到一個我感覺仍在展開的進程中。

說到緩慢移動。是的，我指的是官僚主義。

確實如此。所以這或許是我的失敗。除了一般性地表達我們的觀點之外，我與歐洲人並沒有進行過特別詳細的對話。他們很尊敬我。我們對此表示尊重。但我認為可以公平地說，我們採取的方法與他們不同。我們可能認為安全和機會是二分法，但我不認為它們是純粹的二分法。

我們已準備好快速推進萬斯談到的另一件事，而您也表示同意這件事，那就是讓我支持工人。這意味著什麼。

這是一個至關重要的問題。我認為我們可以透過幾個不同的原則來實例化這一點。

首先，在工作場所，需要以尊重工人和員工的方式來實施。我認為總統經常思考的一個問題是人工智慧可能會讓工作場所變得更糟。這對工人來說是不人道的、有辱人格的，最終是具有破壞性的。所以這是我不想忽視的第一個獨特部分。

第二，我認為我們希望將人工智慧部署到我們的整個經濟領域，以增加工人、機構和能力。我認為我們應該誠實面對，人工智慧將為經濟帶來巨大的轉變。

你會發現，獲得諾貝爾獎的經濟學家會說，這並不算多。你會發現很多人會說，那會是一大堆。我傾向於認為這會是很多方面，但我不是勞動經濟學家。

副總統萬斯所說的話與拜登總統所說的話完全相同，那就是在過渡期間讓工人有發言權。我認為這是我們在這裡嘗試做的一個基本部分，我推測這也是他們在這裡嘗試做的。

所以我聽到你在這個問題上有些迴避，說你不是勞動經濟學家。

我要說的是，我不是勞動經濟學家。

你不。我向你保證，勞動經濟學家不知道該如何應對人工智慧。是的，您是人工智慧的首席顧問。是的，您是政府有關未來事件的資訊中心。如果這個影響只有你想像的一半那麼嚴重，那麼這將成為有史以來對勞動市場造成最具破壞性的事件。考慮到它到達的時間段有多緊湊是正確的。放電要花很長時間。修建鐵路花了很長時間。

我認為這基本上是正確的，但我要稍微反駁一下。因此我確實認為我們將會看到一種動態，它將首先打擊經濟的某些領域。某些企業首先會受到影響，但整個社會的分佈將不均衡。

我認為它會不平衡。我認為這在某種程度上會造成不穩定。

如果情況只是這樣，那麼你可能就會想出一個均衡的政策來解決這個問題。當然，但正是因為它不均衡，我認為它不會讓 42% 的勞動力在一夜之間失業。

不，讓我給你舉個例子，我擔心的事情，我也聽到其他人擔心的事情。目前有很多 19 歲的年輕人在大學學習行銷。坦白說，隨著我們越來越懂得如何指導，現在有很多行銷工作我可以做得很好。我的意思是，其中一件事很慢。這下來簡直就是堅定的適應。

是的，但很快就會發生的事情是，你將建立圍繞人工智慧的公司。對於大公司來說，整合它將變得更加困難。但你將要擁有的是從頭開始建立的新進入者，他們的組織是由一個人來監督這七個系統。因此，你可能會看到行銷專業畢業生的失業率增加了三倍。

我並不確信你會在軟體工程師身上看到這一點，因為我認為人工智慧既會取代大量軟體工程師的工作，也會創造大量軟體工程師的工作，因為對軟體的需求會大大增加。但你可以看到它在某處發生。有很多工作都是在計算機前進行的。隨著公司採用可以在電腦後為您工作的機器，這將改變他們的招募方式。您一定聽過有人這樣思考。你們一定討論過這個問題。

我們確實與經濟學家進行了交談並嘗試建造。

這場辯論在 23 日和 24 日進行。坦白說，我想我們知道這不會是一個 23 和 24 個問題，無法對此採取任何有力的措施。這需要國會的幫助。

而這根本就是不可能的。因此，這更多的是一種智力活動，而不是一項政策。

政策制定始於智力鍛鍊。

是的，是的，我認為這很公平。我認為人工智慧的優點在於，它在某種程度上是一種抵銷力量，它將增加個人的自主權。

因此我確實認為我們將生活在這樣一個世界：19歲或25歲的年輕人將能夠利用一個系統去做他們以前無法做到的事情。我認為，我們在這裡討論的論點是，智慧將變得更加商品化。在那個世界裡，更突出的是主動性和做事的能力，或者主動性和。我認為，從總體上講，這可能帶來一個相當有活力的經濟，

也就是你所談論的小企業、有活力的生態系統和激烈的競爭的經濟。我認為總的來說，經濟規模本身並不是一件壞事。

我想，您和我，也許萬斯副總統也同意，我們需要確保個體工人和工人階層在過渡期間受到保護，我認為我們應該誠實。

這會非常困難。我們從來沒有做得這麼好。

我非常同意你的觀點。唐納德·川普今天之所以成為總統，是因為我們與中國的關係很糟糕。

這有點像我推動這一點的原因，因為我們一直在談論這一點，並且已經預見了這一點。我想說的是，環顧四周，我沒有看到太多有用的想法，我承認我們不知道它的形狀。至少，我希望看到一些關於如果幹擾嚴重的話我們應該考慮做什麼的想法。

我們國家的人都如此沉迷於經濟上有用的故事，以至於我們的成功掌握在我們自己手中。這讓我們很難以同情或現實的態度做出反應。由於全球化導致的全球經濟衰退或蕭條，工人因為自身無法控制的原因而流離失所。

總有一些人擁有能動性和創造力，他們的工作效率極高。當你看著它們時，你們為什麼不是他們？

但有很多。我絕對不是。

我知道你不會這麼說，但這確實很難。這是美國人看待經濟的根深蒂固的觀念，使我們在做所有事情時都遇到了很多麻煩。

我們應該進行一些再培訓。這些人都會成為護士嗎？

我的意思是，有些事我做不到。例如，我們需要多少個水管工。我的意思是，實際上比我們擁有的還要多。

但是否每個人都會進入這個行業呢？白宮裡所有這些聰明人都相信這種事情會發生，他們到底做了怎樣的智力思考？你剛才說什麼？

所以我想是的，我們正在思考這個問題。我想我們知道這不會是我們在總統任期內要面臨的問題。我認為是的。我們知道這是一個需要國會採取行動的問題。

我想就您在這裡所表達的而言，我對現有的答案感到非常不滿。我認為我們很多人都分享過，

你可以得到常見的標準答案，進行大量的再訓練。我跟你一樣懷疑這就是答案。你可能會和一些矽谷自由主義者或其他人交談，他們會說，或者技術人員會說，好吧，我相信全民基本收入，

而且我認為總統也相信工作能帶來一種尊嚴，不一定是有償工作，但人們每天都需要做一些賦予其意義的事情。

所以就您所說的而言，勞動力方面對這種情況的進展感到不舒服。就我個人而言，我同意這一點。我想我不知道它的形狀。

我想我會說更多。我對目前整體的思考品質感到不舒服。但我會說站在民主黨方面，對的。因為我有你作為上一屆政府的代表，

所以我與川普政府有很多分歧，至少可以這麼說。但是，我確實理解那些說伊隆馬斯克、大衛薩克斯、馬克安德森、JD萬斯等人的人，他們處於政府的最高層，花了很多時間思考人工智慧，並對此提出了非常不同尋常的想法。

我認為民主黨人有時會因為想法不同尋常而受到一些制度上的限制。我接受你關於出口管制的觀點。我接受你關於行政命令、人工智慧安全研究所的觀點。但在某種程度上，民主黨希望將自己想像成工人階級的政黨。從某種程度上來說，我們多年來一直在談論人工智慧推動位移的可能性。是的，當事情發生時，你需要國會，但你也需要思考並將其變成國會制定的政策。

所以我想我正在努力推動這件事，就像沒有被談論過一樣。沒有會議。沒有。你們沒有讓克勞德寫一個簡單的選擇方案。

嗯，我們肯定沒有讓克勞德寫簡報，因為我們必須克服政府的使用。

我明白，但這本身就有點可惡。

是的，我的意思是，我認為埃茲拉同意政府必須在所有這些方面都更加向前邁進。我的職責就是推動政府這樣做。我認為在政府使用人工智慧等方面，我們已經取得了一些進展。

因此，我認為拜登政府中沒有人，尤其是我，會站出來宣稱我們已經解決了這個問題。

我認為我們所說的就像是我們正在為即將發生的事情奠定基礎，而這些事情在我們任職期間不會發生，而下屆政府將不得不解決這個問題，以解決美國國家安全問題，在這種情況下，也解決美國的經濟實力和繁榮問題。

我想說的是，我發現在有關人工智慧的政策對話中，有些事情令人沮喪，那就是當你和某人坐下來開始對話時，他們會說，這項人類歷史上最具變革性的技術也許會在兩到三年的時間內進入人類文明。然後你說，哇，這看起來真是一件大事。我們該怎麼辦。

現在事情變得有點模糊了。或許我們只是不知道。但我多次聽到您說，我們幾乎沒有採取任何措施來阻止這項技術的發展。一切都是自願的。我們唯一的要求是共享安全資料。

現在收入，加速主義者馬克·安德森非常直接地批評了你們。

這場政策辯論真的有實際意義嗎？如果事情這麼大，除了出口船舶管制之外，沒有人能夠完全解釋我們需要做什麼或談論什麼。例如，是不是我們的創意思考還不夠，還是現在還不是時候。就像將後半部分的平靜、有節制的語調與我們開始時的語調相匹配。為我。

我認為在採取政策行動之前應該保持謙遜的態度，你必須了解自己在做什麼以及為什麼這麼做。

因此，我認為，在看待一項變革性技術時，在圖表上畫出線條並說它很快就會到來，而不需要製定 14 點計劃，即這是我們需要在 2027 年或 2028 年做的事情，這在理智上是完全一致的。

以成功管理這項技術。現在輪到他們了，他們必須在技術到來時做出決定。我們要如何校準這一點？

在監管方面，您認為他們在未來兩年內必須做出哪些決定。您提到了開源的。

我猜他們會落在哪裡，但我認為這裡存在著一場富有深度的智力辯論。我們解決這個問題的方法就是不要採取任何行動。他們必須做出決定。他們還想繼續這樣做嗎？

最終，他們必須回答一個問題：公共部門和私部門之間的關係是什麼。例如，有些事情是自願的嗎？現在有了人工智慧，安全研究所有一天會變成強制性的。

另一個關鍵決定是，我們試圖推動人工智慧在國防領域的應用。以符合美國價值觀的方式。他們必須決定這種情況將如何繼續下去。

他們是否想為了加快速度而取消我們制定的一些保障措施？所以我我認為他們確實準備在未來幾年做出一系列決定，我們可以理解這些決定即將出現，而我坐在這裡說，我肯定知道 2027 年的答案是什麼。

其中一本書是湯瑪斯‧庫恩的《科學革命的結構》。這本書創造了「範式轉移」這個術語，基本上就是我們在整個討論中一直在談論的技術和科學理解的轉變及其對社會的影響。我很喜歡庫恩在這本 20 世紀 60 年代寫的書中所提供的一系列歷史例子和理論框架，來解釋如何思考典範轉移。

另一本對我來說非常有價值的書是托馬斯·里德的《機器的崛起》。這確實講述了曾經只是我這樣的呆子的玩物的機器如何在 60 年代、70 年代和 80 年代變成了對國家安全至關重要的東西。我們在這裡討論了一些革命性的技術，互聯網、微處理器以及國家安全和技術發展交匯處出現的技術。我認為歷史應該指導我們今天的工作。

最後一本書無疑是不尋常的，但我認為它至關重要。這是喬治·桑德斯在雨中在池塘裡游泳的片段。他是一位偉大的散文家、短篇小說作家和小說作家，他教授俄羅斯文學，在這本書中，他選取了七篇俄羅斯文學短篇小說並對它們進行了文學解讀。

這本書給我的印像是，他是一位不可思議的作家，從根本上來說，這是我能想到的最人性化的努力。他選取人類偉大的短篇小說，並對其意義進行現代詮釋。我認為，當我們談論那些機器還遠遠沒有完成的認知任務時，我在某種程度上希望這是其中之一，有一些根本性的、只有人類才能做到的任務。我不確定這是否屬實，但我希望這是真的。

我想說我讓他參加那本書的節目。這是我最喜歡的劇集之一。人們應該檢查一下。

本·布坎南，非常感謝。謝謝你的邀請。