這改變了一切
2023 年 3 月 12 日美國東部時間上午 6:00 經過埃茲拉·克萊恩 意見專欄作家
2018 年，谷歌首席執行官桑達爾·皮查伊——並不是以誇大其詞著稱的科技高管之一——說：“人工智能可能是人類有史以來最重要的事情。我認為它是比電或火更深刻的東西。”
試著活幾分鐘，相信他是對的。沒有比期望明天會像今天這樣更深刻的人類偏見了。它是一種強大的啟發式工具，因為它幾乎總是正確的。明天可能會像今天一樣。明年可能會像今年一樣。但把目光投向 10 或 20 年後。通常，這在人類歷史上是可能的。我不認為現在是。
人工智能是一個鬆散的術語，我的意思是鬆散的。我不是在描述智能的靈魂，而是在描述一個由類似 ChatGPT 的程序組成的世界的結構，這些程序讓我們覺得它們是智能的，並且塑造或支配著我們的大部分生活。這樣的系統在很大程度上已經存在。但是即將到來的東西會讓它們看起來像玩具。AI 中最難理解的是改進曲線。
“更廣泛的知識界似乎過分高估了人工智能係統從‘對世界產生巨大影響’到‘徹底改變世界’需要多長時間，” 保羅·克里斯蒂亞諾 (Paul Christiano) 是 OpenAI 的重要成員，他離開後創立了 Alignment Research Center ，去年寫的。“這更有可能是幾年而不是幾十年，而且很有可能是幾個月。”
我發現自己回想起 Covid 的早期。有幾個星期很明顯，封鎖即將到來，世界正陷入危機，但一切都恢復正常，而你聽起來像個瘋子，告訴你的家人儲備衛生紙。生活在指數時間是很困難的，加快政策和社會變革以匹配病毒複製速度是不可能完成的任務。我懷疑我們仍然 因大流行病而遭受的一些政治和社會損害反映了這種不可能的加速。人類的思考有一個自然的節奏。當我們被剝奪了奢侈的時間時，很 多事情都會破裂。
但這就是我相信我們現在所處的時刻。我們沒有這種緩慢回應的奢侈，至少如果技術要發展得這麼快的話。
自 2018 年搬到灣區以來，我一直試圖定期與從事 AI 工作的人們共度時光。我不知道我能否表達這種文化有多麼奇怪。我並不是輕蔑的意思。我的意思是描述性的。這是一個生活在改變了的時間感和後果感中的社區。他們正在以他們常常無法相信的速度創造一種他們不理解的力量。
在 2022 年的一項調查中，AI 專家被問到：“你認為人類無法控制未來先進的 AI 系統導致人類滅絕或類似的人類物種永久和嚴重喪失權 力的可能性有多大？” 回的中位數是 10%。
我發現這很難理解，儘管我曾與許多認為這種可能性更高的人交談過。你會研究一項你認為有 10% 的機會消滅人類的技術嗎？
在思考 AI 時，我們通常會聯想到科幻故事。我開始相信這些恰當的隱喻潛伏在奇幻小說和神秘文本中。正如我的同事 Ross Douthat所 寫，這是一種召喚行為。施放這些咒語的編碼員不知道什麼會絆倒門戶。最奇怪的是，在我與他們的談話中，他們會暢所欲言。這些人不是天真的人，他們相信只有天使才能聽到他們的呼喚。他們相信他們可以召喚惡魔。無論如何他們都在進行。
我經常問他們同一個問題：如果你認為災難很可能發生，為什麼要這樣做呢？不同的人有不同的說法，但經過幾次推動，我發現他們的 回答往往聽起來像是 AI 的角度。許多人——不是全部，但足以讓我對這種描述感到舒服——認為他們有責任將這種新形式的智能引入世 界。
此時此刻，一個誘人的想法可能是：這些人瘋了。這通常是我的回應。也許太接近這項技術會導致失去視角。近年來，加密貨幣愛好者就是如此。他們關於區塊鏈將如何徹底改變從貨幣到治理到信任再到約會的一切的說法從來沒有多大意義。但最接近代碼的人最熱切地相信它們。
AI 是否只是取代了加密貨幣的位置，成為吸引投資者的金錢、吸引理想主義者的時間、吸引炒作者的磁石和騙局的溫床？我不這麼認為。加密貨幣一直是一個關於不太可能的未來尋找當下牽引力的故事。有了人工智能，想像未來你只需要仔細觀察現在。
這些系統能否開創科學進步的新紀元？2021 年，DeepMind 構建的系統成功預測了數万種蛋白質的 3-D 結構，這一進步如此引人注目， 以至於《科學》雜誌的編輯將其命名為年度突破。AI 會在我們的世界中加入非人類夥伴和個性，成為我們的朋友、敵人、助手、大師， 甚至可能成為我們的愛人嗎？“在下載 Replika 的兩個月內，聖地亞哥的一名 30 歲女性 Denise Valenciano 離開了她的男友，現在'幸福 地從人際關係中退休'，”紐約雜誌報導。
人工智能能讓數百萬人失業嗎？自動化已經一次又一次地發生了。它能幫助恐怖分子或敵對國家開發致命武器和破壞性的網絡攻擊嗎？ 如果您足夠聰明地詢問這些系統，它們已經可以提供有關製造生物武器的指導。它最終會以我們不理解也不喜歡的方式控制關鍵的社會進程或公共基礎設施嗎？人工智能已經被用於預測性警務和司法判決。
但我認為這些顯而易見的清單對我們的準備沒有多大幫助。我們可以針對我們可以預測的事情進行計劃（儘管它告訴我們，在大多 數情況下，我們還沒有）。接下來的事情會更奇怪。我在這里以特定方式使用該術語。加州反文化歷史學家埃里克·戴維斯 (Erik Davis) 在他的著作《高度怪異》(High Weirdness) 中將怪異事物描述為“反常——它們偏離了知情預期的規範，挑戰了既定的解釋，有時甚至是相當激進。” 這就是我們正在建設的世界。
我怎麼強調都不為過：我們不了解這些系統，甚至不清楚我們是否可以。我並不是說我們不能提供基本功能的高級說明：這些通常是根 據數字信息訓練的概率算法，可以預測句子中的下一個單詞、序列中的圖像或其他一些關係在它可以統計建模的抽象之間。但是放大到細節，圖片就會分解成計算。
“如果你要打印出網絡在輸入和輸出之間所做的一切，這將相當於數十億次算術運算，”梅根奧吉布林在她的精彩著作“上帝，人類，動 物，機器”中寫道，“一個'解釋’那是不可能理解的。”
這也許是我們正在構建的東西中最奇怪的事情：“思考”，因為沒有更好的詞，是完全不人道的，但我們已經訓練它呈現出深刻的人性。 系統越不人道——它們繪製的連接越多，層、參數、節點和計算能力越多——它們在我們看來就越人性化。
這裡的利害關係是實質的，它們是社會的，它們是形而上學的。O'Gieblyn 觀察到，“隨著人工智能在一個又一個更高認知的基准上不斷超越我們，我們通過堅持認為真正的意識的區別在於情感、感知、體驗和感受的能力：換句話說，品質，來平息我們的焦慮。 ，我們與 動物分享。
” 奧吉布林指出，這是對幾個世紀以來思想的倒置，人類通過強調我們認知的獨特性來證明自己的統治地位。我們可能很快就會發現自己 在意識的主觀體驗中尋求形而上學的庇護：我們與動物共有的品質，但到目前為止，與 AI “如果有神，他們肯定會嘲笑我們邏輯的不一 致， ”
她寫道。 如果我們有億萬年的時間來調整，也許我們可以乾淨利落地做到這一點。但我們沒有。各大科技公司都在爭奪人工智能的主導地位。美 國和中國正在爭奪人工智能的主導地位。資金正湧向擁有 AI 專業知識的公司。建議我們放慢速度，甚至完全停止，已經變得幼稚了。如 果一家公司放慢速度，另一家公司就會加速。如果一個國家暫停，其他國家將更加努力。宿命論成為必然性的侍女，而必然性成為加速 的理由。
人工智能安全研究員 Katja Grace總結了這種不合邏輯的精闢。放慢速度“將涉及協調許多人——我們可能傲慢到認為我們可以建造一個 可以接管世界並將其改造為天堂的上帝機器，但我們並不妄想。”
必須生兩件事之一。人類需要加速適應這些技術，或者必須做出集體的、可執行的決定來減緩這些技術的發展。即使兩者都做可能還不夠。
我們不能做的是將這些系統排除在我們的腦海之外，將正常的感覺誤認為是事實。我承認接受這些可能性感覺有點，是的，很奇怪。我也有這種感覺。懷疑主義更舒服。但戴維斯寫的一句話對我來說是真實的：“在思想的法庭上，懷疑主義造就了偉大的大幕僚，但卻是一 個糟糕的領主。”
沒有留言:
張貼留言