2024年4月6日 星期六

AI Data and Energy

AI Data and Energy



臺積全年用電量2023247.75億度佔全國用電量的8.9%

22年還增加10.4%

臺積現有1201UV微影機

三奈米製程用到21道高耗能的EUV曝光

五奈米約16

預計今年新增64萬千瓦的用電相當於全國用電需求的2%

未來5年將維持類似增幅共增加297萬千瓦的用電相當於同期間全國用電成長預測的六成

而這數字等於是1.5個核電廠的發電量


AI吃電怪獸新技術難支應 資料中心恐成綠能負面教材

2024-07-05 06:00

聯合報 特約撰述張大仁

 

《華爾街日報》報導,美國三分之一的核電站正與科技公司討論支援人工智慧(AI)驅動的資料中心供電交易。亞馬遜網路服務(AWS)即將與美國最大核電廠所有者星座能源公司(Constellation Energy)達成電力交易;AWS3月以6.5億美元價格向Talen Energy買下一座核電資料中心。

 

隨著科技公司競相開發更巨大、更強大的AI模型,但提供動力的巨大電力需求最終可能會減慢競爭速度。晶片設計公司Arm行銷長巴達尼(Ami Badani)表示,資料中心目前占全球能源消耗的2%;但隨著AI的快速發展,到本世紀末,其能源消耗可能占美國總用電量的四分之一。

 

AI電力需求2年內增10 線上搜尋更耗能源

根據電力研究所估計,到2030年,數據中心可能消耗美國高達9%的電力,是目前用電量的兩倍多。

 

早在2023AI革命爆發前,資料中心就已經消耗大量電力。對機器學習日益增加的需求將需要更多電力。研究機構預測,2024年第一季生成式AI年化能源將占資料中心總電網能耗的2.3%左右;但到了2025年第一季,這個比率可能會達到7.3%

 

有些國家甚至有更高的使用量估計:根據國際能源總署(IEA),愛爾蘭正在考慮在2026年時提供三分之一的電力給數據中心。

 

IEA最近的分析計算出,資料中心、加密貨幣和AI的電力消耗可能在未來兩年內翻倍。2022年這些產業約占全球電力需求的2%

 

分析師也預測AI對電力的需求將呈指數級成長,在2023年至2026年間至少增加10倍。因除了製造晶片和其他硬體所需的能源之外,AI還需要大量的運算能力來「訓練」模型,然後再次使用這些訓練來產生對用戶查詢的回應。

 

隨著技術發展,業者急於將其整合到應用程式和線上搜尋中,從而提高運算能力的要求。根據最近一份關於AI能源足跡的報告,使用AI的線上搜尋可能需要比標準搜尋至少多10倍的能源。這種動態是「就AI而言,愈大愈好」的信念,推動企業轉向巨大的耗能模型。因為愈大愈好,所以根本上與永續性無法相容。

 

須找到足夠的再生能源 而非轉向化石燃料

站在氣候角度,關鍵是找到足夠的再生能源來滿足AI短期內不斷增加的需求,而不是轉向化石燃料。這是一個特殊的挑戰,因為從汽車到暖氣系統等所有設備轉向電氣化的過程中,都增加對潔淨能源的需求。

 

氣候專家表示,美國的情況尤其嚴峻,能源需求約15年來首次激增,美國的能源正在耗盡。需求是由資料中心的激增所推動的,根據波士頓顧問集團的分析,到2030年,資料中心的用電量預計將增加兩倍,相當於約4000萬個美國家庭所需的電力。

 

對許多AI公司來說,對其能源使用的擔憂忽略了兩個重點:第一是AI本身可以協助應對氣候危機。與OpenAI合作的微軟表示,AI將成為推動永續發展解決方案的強大工具。該技術已被用於預測天氣、追蹤汙染、繪製森林砍伐地圖和監測冰融化。波士頓顧問集團接受谷歌委託的報告指出,AI可以減輕高達10%的地球供暖汙染。

 

此外,AI還可以在推進核融合方面發揮作用。今年2月,普林斯頓大學科學家宣布找到一種方法,可以利用該技術來預測核融合反應中潛在的不穩定性,在漫長的商業化道路上邁出重要的第一步。

 

AI公司也表示正在努力提高效率。谷歌表示,其資料中心的效率是典型企業資料中心的1.5倍。微軟表示,該公司正在「投資研究以衡量AI的能源使用和碳影響,同時致力於使大型系統在培訓和應用方面更加高效」。

 

靠多種電力才能蓬勃 可能得用更多天然氣

值得慶幸的是,增加資料中心用電量的途徑應該不會透過重新布建電網來實現, 而且所有電力不會來自單一來源。 分析師認為,資料中心需要依靠「多種選擇」才能蓬勃發展。這些選擇主要包括太陽能、風能、核能和天然氣,而每種都有其獨特的優點和缺點。

 

氣候智庫Ember表示,太陽能和風能是過去連續19年成長最快的能源。然而,太陽能電池板和風力渦輪機產生的電力取決於天氣,這些因素導致能源產量低於預期。時間也是太陽能和風能發電的重要因素,顯然太陽能電池板在夜間發電量不大,且風力強度在白天也不穩定。

 

如果僅依靠太陽能和風能,就需要建立大量發電設施。這將導致在高峰生產時間產生大量額外電力,離峰時發電不足;而將所有電力儲存起來以供離峰使用目前還不可行,因為這種技術還不存在。

 

太陽能和風能需要能夠提供基本電力供應的能源輔助支持。由於向低碳能源轉型,核能是最有吸引力的候選人。亞馬遜搬進賓州薩斯奎哈納核電廠旁的資料中心就是明顯的例子。

 

但核電有其傳統問題:說服當地民眾。就像任何大型工程一樣,建造核電廠需要得到附近居民的同意,而他們有時會對附近是否有核反應器持懷疑態度。

 

最後,AI可能不得不使用更多天然氣。即使在擴大現有技術的使用並引入新技術之後,仍然可能不足以解決數據中心的電力需求。亞馬遜和谷歌等營運商雖宣傳引用綠色能源,但尚不完全清楚它們是否能夠在不依賴天然氣的情況下隨心所欲地擴張。

 

在石化能源中,天然氣無疑是最無害的能源之一,但它仍然會產生二氧化碳、甲烷和一氧化二氮等污染物。

 

根據高盛報告,AI革命可能主要由天然氣提供動力。預測到2030年,新建資料中心所需電力的60%將來自天然氣,而40%將來自再生能源。如果尖端再生技術沒有按照業者希望的方式發揮作用,現實情況可能就是如此,這將使資料中心成為綠色能源的反面教材。

 

解決巨大的碳足跡 核融合只是一廂情願?

AI非常耗能,隨著企業競相打造規模更大、更智慧、更複雜的模型,對電力的需求也將進一步增加。對於這個自詡能拯救地球的強大工具來說,反而先面臨一個尷尬的窘境:巨大的碳足跡。

 

不過,ChatGPT創建者OpenAI負責人奧特曼(Sam Altman)認為,這個棘手的困境有一個明確的解決方案:核融合。他已在核融合方面投資數億美元,並表示這項被廣泛視為潔淨能源聖杯的未來技術,最終將提供下一代AI所需的大量電力。

 

核融合被形容為可為太陽和其他恆星提供動力,但在地球上要有效運作和商業化可能還需要幾十年的時間。對於一些專家來說,奧特曼對未來能源突破的強調反而證明,AI產業在回答如何在短期內滿足飆升的能源需求的問題上,存在全面的失敗。

 

學者表示,想在地球上重建太陽核心的條件是一項巨大的挑戰,這項技術可能要到本世紀下半葉才能準備就緒。核融合已經來不及應對氣候危機,短期內需要使用現有的低碳技術,例如核分裂和再生能源。大家應專注於目前擁有的以及可以做的事,而不是寄望於未來的可能。


人說有知識、智慧的人「上知天文,下知地理」,AI肯定會比這種人更高明,這是不可否認的事實。

因為沒有任何一個人能夠「讀」的東西會比AI多,而且,AI是過目不忘的,只要輸入,就會永久記得,

因此,AI再發展下去,不僅僅會取代了許多人類的職位,醫師、律師、教師必然會首當其衝,而凡是廚師、設計師、會計師、工程師……,凡是屬於「師」職位,都將岌岌可危,因為無論是知識或技藝的精湛程度,都沒有人強過AI,而AI完全可以替代。「師」是有知識、技能者,都可以名為「師」,乃至「家」,如作家、藝術家、音樂家、哲學家、科學家;但無論再是如何的「名師」與「名家」,都是可以由AI取代的。如此一來,「師」與「家」的存在意義價值都岌岌難保,那又何須有所謂的「傳承」?學校教育簡直可以說完全派不上用場,只要有一部AI,任何人都可以「無師自通」,讓AI告訴你一切妳所需要的答案。

在此,人之所以為人最可貴的獨立思辨精神,可以完全棄置不用,其思想的退化,是顯而易見的。未來的趨勢是,AI越來越強大,而且可以無限衍生;人類則越來越渺小,且泯除了賢愚不肖的界線,最後就是AI掌控了整個世界。


science is when it works but shouldn’t, engineering is when it doesn’t work but should

手持利刃 心存慈悲

AI 領導力

AI 遇強則強

“令牌”,這些“令牌”本質上是單字或單字片段

It was soon overtaken. Last year, researchers from China released an A.I. model, Skywork, which was trained on 3.2 trillion tokens from English and Chinese texts. Google also unveiled an A.I. system, PaLM 2, which topped 3.6 trillion tokens.

AI牽動產業變革,將從算力推進至電力。美銀美林報告顯示,預估到2030年數據中心的電力需求,將以11%年複合年增長率提升,等於同於全球電力需求約1-2%,AI的電力使用量將在2023年至2028年間達到25-33%年複合成長率,這將對數據中心的設計,電力效能和散熱管理帶來挑戰。


在生成式AI 去年橫空出世後,AI數據中心、工業成長、電動車,以及建築電氣化等四大因素的推動,讓全球電力供應,成為繼算力後,有效的電力和熱管理成為今年去焦的重點事項。

美銀美林預計,到2030年,資料中心的電力需求預計將以11%的複合年增長率增長。這相當於全球電力需求的約1-2%,即240-340太瓦時(1太瓦時等於10億千瓦時)。其中,AI的電力使用量將在2023年至2028年上看25-33%的年複合長率這,也將對數據中心的設計和運營帶來挑戰。

美林證券也指出,隨著數據中心功率密度的提高,傳統的冷卻方法可能不再適用。例如,85%的數據中心的最大機架功率密度小於30千瓦,而對於高於20千瓦的功率密度,可能需要採用液體冷卻解決方案。

新的散熱方案技術是透過將冷卻劑直接輸送到晶片,每個晶片都有兩條管道(一條熱管,一條冷管)。

美林整券也說明,隨著數據中心向更高功率密度的轉變,電力和熱管理內容的需求也在增加。例如,輝達液冷供應商即預期,每兆瓦的電力和熱管理內容機會將分別增加18%和740%。

人工智慧競爭中,中國人才培育趕超美 國

人工智慧競爭中,中國人才培育趕超美 國

孟建國, CADE METZ 2024年3月22日 2024/3/24

在為ChatGPT這樣的聊天機器人提供動力的人工智慧方面,中國落後於 美國。但在培養新一代仿人技術背後的科學家方面,中國已經開始領先。 新的研究表明,從某些指標來看,中國已經超越美國成為人工智慧人才的 最大出產國,幾乎培養了全球一半的頂尖人工智慧研究人員,相比之下, 約18%研究人員來自美國本科院校。

該研究來自保爾森基金會旗下的麥克 羅波洛智庫,保爾森基金會是一家致力於促進中美之間建設性關係的機 構。 研究結果表明,中國培養的人才數量出現躍升,三年前,中國培養的人才 約佔世界頂尖人才的三分之一。相比之下,美國基本保持不變。

這項研究 基於2022年神經信息處理系統大會上發表論文的研究人員的背景。該會 議主要關注神經網路方面的進展,而神經網路是生成式人工智慧最近發展 的基礎。 人才失衡的現象已經持續了將近十年。在2010年代的大部分時間裡,美 國受益於大量中國頂尖人才前往美國大學攻讀博士學位。他們當中大多數 人留在美國。但研究顯示,這一趨勢也開始發生轉變,越來越多中國研究 人員留在了中國。

隨著中國和美國爭奪人工智慧領域的領先地位,未來幾年的發展可能至關 重要——人工智慧技術有可能提高生產率、增強產業實力並推動創新——從而使研究人員成為地緣政治意義上全球最重要的群體之一。

生成式人工智慧讓矽谷和中國的科技行業趨之若鶩,引發了融資和投資狂 潮。谷歌等美國科技巨頭以及OpenAI等初創公司引領了這股熱潮。專家 們說,這可能會吸引中國的研究人員,儘管北京與華盛頓之間日益緊張的 關係也可能使一些人望而卻步。

(《紐約時報》起訴了OpenAI和微軟侵犯其人工智慧系統相關新聞內容 的版權)。 中國培養了如此多的人工智慧人才,部分原因是中國在人工智慧教育方面 投入了巨資。麥克羅波洛智庫的主任馬暘說,自2018年以來,中國新增 了2000多個本科人工智慧項目,其中300多個在最精英的大學,不過他 指出,這些項目並沒有把重點放在那些推動ChatGPT等聊天機器人取得 突破的技術上。 他說:「很多項目都是關於人工智慧在工業和製造業中的應用,而不是目 前主導美國人工智慧產業的生成性人工智慧。」



雖然美國在人工智慧領域率先取得了突破性進展,最近的成果是聊天機器 人不可思議的類人能力,但其中很大一部分工作是由在中國接受教育的研 究人員完成的。 研究顯示,目前在美國工作的頂尖人工智慧研究人員中,來自中國的研究 人員佔38%,美國人占其中37%。三年前,在美國工作的頂尖人才中,來 自中國的研究人員佔27%,美國研究人員佔31%。



「這些數據表明,中國出生的研究人員對美國的人工智慧競爭力有多麼重 要,」卡內基國際和平基金會研究中國人工智慧的研究員馬特·希恩說。 他還說,這些數據似乎表明美國仍具吸引力。「我們是人工智慧領域的世 界領導者,因為我們繼續吸引和留住來自世界各地的人才,尤其是中國的 人才,」

他說。 加州大學柏克萊分校教授、人工智慧和機器人初創企業Covariant創始人 彼得·阿比爾表示,在美國頂尖公司和大學內部,與大量中國研究人員一 起工作被視為理所當然。 「這是很自然的情況,」他說。

過去,美國國防官員並不太擔心來自中國的人工智慧人才,部分原因是許 多大型人工智慧項目並不與機密數據打交道,還有部分原因是他們認為能 夠擁有最優秀的人才是最好的。此外,許多人工智慧領域的領先研究也是 公開發表的,這也打消了他們的擔憂。 川普政府曾頒佈禁令,禁止中國一些與軍方有聯繫大學的學生進入美國, 此外,新冠疫情期間,中國學生進入美國的人數相對減少,但研究顯示, 大量最有前途的人工智慧人才繼續來到美國學習。

但本月,根據一份聯邦起訴書,一名曾擔任谷歌工程師的中國公民被指控 試圖將人工智慧技術(包括關鍵微晶片架構)轉移到一家總部位於北京的 公司,該公司祕密向他支付了報酬。 關注美國競爭力的專家表示,在美工作的中國人工智慧研究人員人數眾 多,這給政策制定者提出了一個難題,他們既想打擊中國間諜活動,又不 想阻止中國頂尖計算機工程師繼續湧入美國。

「中國學者在人工智慧領域幾乎處於領先地位,」亞利桑那州立大學教 授、人工智慧研究者蘇巴拉奧·坎巴邁帕蒂說。如果政策制定者試圖阻止 中國公民在美國進行研究,他們就是在「搬起石頭砸自己的腳」,他說。

美國政策制定者的過往記錄好壞參半。因為錯誤起訴一些教授,川普政府 旨在遏制中國工業間諜活動和知識產權盜竊的政策受到了批評。中國移民 表示,此類計劃鼓勵了一些人留在中國。 研究顯示,目前,大多數在美國完成博士學位的中國人都留在美國,這有 助於美國成為全球人工智慧中心。研究顯示,即便如此,美國的領先地位 也已經開始下滑,目前它擁有全球約42%的頂尖人才,低於三年前的 59%。

孟建國(Paul Mozur)是時報全球科技記者,常駐台北。此前,他自香港、上海和首爾報導亞洲科技與政治的交叉議題。點擊查 看更多關於他的信息。 Cade Metz撰寫有關人工智慧、無人駕駛汽車、機器人、虛擬現實和其他技術新興領域的新聞。點擊查看更多關於他的信息。 翻譯:紐約時報中文網 點擊查看本文英文版。