新足迹

 找回密码
 注册

精华好帖回顾

· 声声血, 字字泪, 我的艰苦卓绝为时48个月尚未完工的建房过程 (2009-7-19) daffodil · 读书之在路上 那年夏天,与姜喜宝的不期而遇 (2012-7-29) 明河素月
· 申请免费TAFE Accounting课程记 (2006-2-15) JohnnyWang · 澳洲的好人 (2005-7-27) kele
Advertisement
Advertisement
查看: 611|回复: 0

黃仁勳主題演講摘要 「人工智慧時代,如何帶動全球新產業革命」 [复制链接]

发表于 2024-6-9 06:22 |显示全部楼层
此文章由 jeffreychiu 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 jeffreychiu 所有!转贴必须注明作者、出处和本声明,并保持内容完整
本帖最后由 jeffreychiu 于 2024-6-9 06:33 编辑

<開啟下一個旅程>
黃仁勳在開場背景秀出台灣地圖及合作供應鏈廠商名稱,表示台灣是輝達珍貴夥伴的集中地,一切從這裡開始。他說上次來獲頒台大名譽博士學位,當時演講說了「Run,don't walk」,因此要用跑的。

演講概要提到先是現在所作所為對所有產業的影響,生成式AI帶來的衝擊、前景、機會、未來發展,及生成式AI未來藍圖。

黃仁勳說現在令人振奮,因為我們要重新啟動電腦產業,開啟下一個旅程。例如加速運算跟人工智慧都在輝達Omniverse中運行,此會重新打造電腦產業。

------------------

<新的運算時代正在開始>
今天運算方式在1964年IBM 電腦問世就出現,2007年iPhone 問世後進一步將電腦裝進口袋。過去60年中運算架構僅少數重大轉變,但近期CPU性能提升趨緩,現階段經歷運算膨脹,全世界資料跟用電量不斷增加,成本大增,因此輝達致力透過平行運算來加速運算,採CPU+GPU方式,等同有分離且獨立的專用處理器去運算資料;包括電腦圖形、影像處理、實體模擬、組合最佳化、圖形處理、資料庫處理、深度學習等,很多類型的演算法都有助於透過平行運算來加速運算,就像是將過去需要100個時間單位的事情加速到1個單位時間。

-----------------

<函式庫正在開拓新市場>
但加速運算不簡單,沒有馬上改好的程式可以跑快一百倍,故輝達重寫CPU演算法,讓軟體可在GPU上進行加速運算,也建立了CUDA加速運算函式庫及相關的生態系平台,目前已有350個專門領域函式庫。

--------------------

< CUDA實現良性循環>
如同蛋生雞,雞生蛋;要有足夠應用,才會有足夠開發人員投入,未來才有更多應用出現;CUDA全球現已有超過500萬名開發人員,在各產業領域。透過加速運算使開發速度能提高兩三百倍,形成良性循環,讓運算邊際成本下降,演算法才會被廣泛應用;而輝達的晶片也越來越便宜,驅動更多開發人員,變成一個新時代。當初若沒有CUDA,現在便不會有生成式AI應用,更沒有現在的榮景。

過去大家在PC產業在做的事,譬如在1000美元的PC上增加一個500美元的 GPU,效能會大幅提升,輝達也將此概念導入資料中心,在10億美元的資料中心,增加5億美元的 GPU,就變成一座AI工廠,可以減少大量損失,包括金錢和能源,呼應自己常講「買越多…省越多」(The more you buy, the more you save)。

----------------

<數位孿生>
黃仁勳說,數位孿生是一種反映真實世界的模型,輝達現在可以打造地球的數位孿生模型,預測地球未來變化,避免天災發生,更了解氣候變遷對人類影響。Earth-2是生成式AI模型,融合AI、物理模擬和觀測數據,以更高解析度生成,速度比傳統物理方法快1000倍。台灣中央氣象局已用這些模型預測颱風登陸地點,精細度可達數十米之內,未來也可隨時提出連續性的天氣預測;接下來還可模擬建築物周圍氣流如預測「下沖」現象。

----------------

<全球新產業革命>
2012年輝達發現CUDA很好用,第一次開始接觸人工智慧,研究深度學習等技術;過去幾十年前的演算法,現在因為資料跟算力進步可以執行;2012年後陸續有TensorRT GPU、Mellanox光纖等其他技術整合在系統內。輝達做出的第一台DGX給了OpenAI,2017年Transformer出現可以做非監督式學習跟自然語言模型,最終到了2023年已有數百萬人在用OpenAI的產品ChatGPT。

ChatGPT前的AI主要是感知跟偵測的能力,而ChatGPT是第一個生成式AI;AI創造出許多詞元(token),構成AI工廠,一如特斯拉發明交流電發電機(AC generator),現在輝達發明「AI發電機」(AI generator);詞元(token)可以是氣候、物理學等,各種東西都可以轉換成詞元,例如車用控制訊號也可以;現在是生成式AI時代,生產的產品就是詞元。原本IT產業產值三兆美元,現在將變成製造業工廠,服務全球100兆的各類型產業,就是全球新的產業革命,而我們創造的新產品就是「詞元」。

--------------------

<生成式AI推動全棧重塑>
AI將成為製造業,掀起新的工業革命,創造新的大宗商品;相較過去電腦不只能產出資訊,還能產出技能;也就是說人們不只能獲得資訊,還能獲得各種協同合作者,例如輝達預先訓練的NIMs(推論微服務)。400多種NIMs推論微服務整合在一個容器中,有CUDA就能執行。未來NIMs將成為各種AI代理,各自負責不同任務,包括客服、護士、顧問等。把這些NIM連結到大型應用中,可以拆解、了解任務;過去應用程式要有指令,現在NIM組成AI團隊,按需求叫出專家,組成專家團隊,由NIM拆解工作交給成員工作完成再將結果交回,如同一個人類團隊。

黃仁勳表示輝達已從事「數位人類」計畫一段時間,可跟人互動更溫暖跟有同理心,還有現實感鴻溝要跨越。他以影片展示AI能像人類般互動,用AI模擬出外觀的人類數位外型,甚至細緻到毛細孔可見,還會模擬人類語音、說各種語言,提供例如裝潢、用藥等諸多建議,未來甚至可能還會有AI「品牌大使」。
他表示「數位人類是我們的願景」,主要的ACE(Avatar Cloud Engine)引擎已在雲端跟PC上運行,多種使用RTX GPU的AI PC已在出貨,將有超過200款RTX AI的筆記型電腦;PC會是數位人類的重要平台,幫助人們執行多種任務。

-----------------------

<Blackwell平台>
黃仁勳說,Transformer讓我們可使用非監督學習處理大量資料;而AI開始需要了解物理定律,Blackwell即是為了此時代而發展;兩枚晶圓廠可出貨的最大裸晶間,以每秒10TB傳輸,透過Grace CPU來連結,擁有第二代Transformer引擎,發展出第一個RAS可靠性偵測引擎,另加入了資料壓縮跟解壓縮引擎;是有史以來最強的GPU。而為滿足各應用需求,Blackwell產品範圍將從單一GPU到多GPU、從x86架構到採Grace架構的處理器,以及從氣冷技術再到液冷技術,都有相對應的供應商配合。

黃仁勳也點名相關供應商,包括晶圓代工的台積電,其他關鍵零組件的安費諾(Amphenol)、奇鋐、訊凱國際(Cooler Master)、Colder Products Company(CPC)、丹佛斯(Danfoss)、台達電光寶科等業者提供的伺服器機架、電力輸送、冷卻解決方案。最後舞台也展示至少有9家台廠如華擎旗下永擎、華碩、技嘉、鴻海旗下鴻佰、英業達、和碩、廣達旗下雲達、美超微、緯創及緯穎將利用輝達 GPU推出雲端、地端、嵌入式和邊緣AI系統。

------------------------

<GB200 NVL 72運算機櫃>
黃仁勳說在8年內,光靠摩爾定律不足以應付增加的運算需求,而輝達從Pascal到Blackwell將算力提升1,000倍;但耗能也從Pascal到Blackwell降至僅有原先的1/350;但我們需要更大的系統,除了氣冷式DGX,現在還有MGX的模組化系統可採液冷冷卻。現在也可以將72枚Blackwell GPU用NVLink連在一起,上一代Hopper僅能連8片在一起。

黃仁勳同時展示最新的GB200 NVL 72運算系統,由鴻海製造將以機櫃(Rack)形式出貨。NVL 72採用NVLink Switch放置在背板上協助資料彙整,有5000條線,藉由銅線的transceiver連結,可節省20KW下來做資料處理。另採用SpectrumX系統讓乙太網路速度增加1.6倍,具端到端架構,有調適性路由器,塞車時可重新安排工序,亦可隔離雜訊讓各部份訓練分別進行;目前世代針對幾千個GPU合作運行,下一世代將針對幾十萬個GPU合作運行。

-----------------

<一年一個節奏>

黃仁勳也首度揭露下一代平台名稱「Rubin」,將在 2026 年進入量產,並搭載 HBM4,據了解也將採用台積電 3 奈米製程。此次揭露自家最新產品路線圖(roadmap),前兩年推出Hopper平台,今年進入Blackwell平台,包括Blackwell GPU、NVLink 5 Switch、CXB SuperNIC及對應的乙太網晶片,並在明年將推出 Blackwell Ultra GPU,採用 HBM3e。Rubin GPU將是首度採用HBM4,也將釋出 Vera CPU,並預告2027年還將推出Rubin Ultra GPU。

---------------------

<下一代AI浪潮>
黃仁勳說了解物理法則的機器人時代將來臨:下一代AI也必須了解物理定律。因為機器人需要執行複雜而動態的任務,故輝達推出Omniverse作為物理模擬主要平台,讓機器人在裡面可以學習怎麼當機器人(Robots learn to be robots);例如廣運為巨大集團所打造的工廠。而Omniverse也成為台灣工廠進行虛實整合的主要工具,例如鴻海和台達電的新廠建置。關於自駕車,目前2025年賓士車廠會採用輝達的Drive AV系統,2026年則還會有另家大車廠會採用。機器人可視為「會走路的電腦」,人形機器人也將陸續出現,而未來屬於AI跟機器人的時代。

台灣是我們的夥伴,是無名英雄,一起推動產業的復興,推動新AI工廠。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?注册

x
千金難買早知道;萬般無奈沒想到;人生不要遺憾;世上沒有後悔藥
Advertisement
Advertisement

发表回复

您需要登录后才可以回帖 登录 | 注册

本版积分规则

Advertisement
Advertisement
返回顶部