成人动漫一区二区三区-国产精品久久久久影院-狠狠色综合网站久久久久久久-两个黑人大战嫩白金发美女-欧美在线观看-少妇太爽了在线观看

利潤1000%!英偉達的GPU為何會如此受追捧?
發布時間: 2023-10-24 10:35
英偉達的GPU為何會如此受追捧?英偉達發布截至7月30日的2024財年第二財季財報。第二財季,英偉達營收135.1億美元,同比增長101%;非美國通用會計準則下凈利潤為67.4億美元,同比增長422%。
而造就英偉達瘋狂業績的最大推手無疑就是AI——用于處理AI計算的GPU需求火爆,使得英偉達數據中心業務收入翻倍,營收占比拉高到76%,增速遠超前一季度,刷新單季最高紀錄。
根據GPU Utils的測算,英偉達AI芯片H100在2023年8月的市場總需求可能在43.2萬張左右,這個數字還沒有包括中國區特供的H800,國內各家大模型廠商對H800的需求也居高不下。
在財報公布前,英偉達高端AI GPU不斷傳出漲價聲,Barrron's引述瑞杰金融分析師的數據指出,一張H100制造成本為3320美元,而售價則高達2.5萬~3萬美元,利潤率高達1000%,且需求只增不減,H100已售罄缺貨到2024年。毛利率超過70%,對芯片產品而言,有些不可思議。
英偉達的GPU為何會如此受追捧?
國外分析師認為,英偉達構建的CUDA軟件生態是客戶無法輕易轉向AMD等競爭對手的主要原因。原因在于,AI算力的配置絕非簡單的硬件堆疊,要把1000張加速卡、100臺AI服務器放在一起,跑同一個LM訓練或推論任務,還需要大量的配套軟件、通訊網絡,還不包括客戶的大量數據。
即便把重達30多公斤、多達3.5萬個零件組成的英偉達HGX平臺層層堆起來,也堆不出LLM必須的AI算力。黃仁勛把H100這類AI GPU稱為“技術奇跡”,并非沒有原因。
至于H100為何價格高昂?在硬件層面上,H100采用了四大先進技術。
圖源:anandtech
第一是臺積電4納米制程(4N,其實并非真正的4nm,叫做5nm+或許更合適),要讓這一顆長26.8厘米、寬11.1厘米、含有800億個晶體管的H100發揮前所未有的效能,非臺積電代工莫屬。
第二是連接技術,每張H100包含3個NVLink連接,這是英偉達獨家的數據傳輸技術,第四代NVlink可提供每秒900GB的GPU對GPU互連帶寬,以便將更多H100互連使用,獲得倍增的效能。
第三是80GB的HBM2e高帶寬存儲器,目前僅SK海力士、三星電子可供應,值得注意的是,英偉達剛剛宣布將最新的HBM3e植入最新GH200,是全球第一個支持HBM3e的GPU產品。
第四是臺積電的獨家技術:CoWoS封裝,臺積電正積極擴建CoWoS產能,但供不應求情況恐將持續到2024年。CoWoS工藝能夠提供更好的成本、散熱和吞吐帶寬,后兩者對GPU特別重要。
這四大技術每一項均屬尖端領域,如果說LLM推動AI GPU加速運算時代來臨,但讓英偉達站在當前科技舞臺上獨舞的關鍵,卻是黃仁勛領導團隊的長期押注與心血累積。
粵公網安備 44030502006483號、 粵ICP備15047669號
  • 捷易科技聯系人
  • 主站蜘蛛池模板: 国产亚洲精品久久久久的角色 | 国产一区亚洲二区三区| 国产剧情福利av一区二区| 轻轻啪在线视频播放| 日本精品一区二区三区四区| 成年女性特黄午夜视频免费看| 国产精品v欧美精品∨日韩| 久久免费无码高潮看片a片| 亚洲精品无码专区久久| 99久久久无码国产aaa精品| 18禁无遮拦无码国产在线播放| 天堂中文在线资源| 亚洲色精品vr一区二区| 搡老岳熟女国产熟妇| 国产精品高清一区二区三区不卡| 午夜成人精品福利网站在线观看| 国产精品乱码高清在线观看| 亚洲亚洲精品av在线动态图| 给我免费的视频在线观看| 亚洲v在线观看v| 亚洲欧洲av综合色无码| 国模丽丽啪啪一区二区| 无遮挡高潮国产免费观看| 亚洲永久无码7777kkk| 果冻传媒mv免费播放在线观看| 精品熟女碰碰人人a久久| 国产亚洲精品久久久久久小舞| 色八影院| 日韩欧美高清dvd碟片| 精品国产丝袜黑色高跟鞋| 中文字幕乱码中文乱码777| 国产女人的高潮大叫毛片| 天天做天天躁天天躁| 久久无码喷吹高潮播放不卡| 爆乳熟妇一区二区三区| 国产精品不卡免费视频| 中文字幕第98页小明免费| 无码中文字幕av免费放| 久久国产36精品色熟妇| 红桃视频成人传媒| 狠狠色成人一区二区三区|