英偉達：賣芯易，加薪難？互聯網+
導讀
供不應求，甜蜜的煩惱。
供不應求，甜蜜的煩惱。
作者：張未
原創：深眸財經（chutou0325）
英偉達看著供不應求的訂單，有點著急。
增加供應這句話，每發一次財報，英偉達都要再強調一次。
繼英偉達在第一季度宣布公司“正大幅增加供應，以滿足不斷增長的需求”后，英偉達CEO黃仁勛在近期又表示，正準備將其GPU的產量至少增加三倍。
具體來說，英偉達擴充的是H100芯片的產量。2023年英偉達H100預計出貨量在50萬顆，但據英國《金融時報》報道，英偉達計劃明年出貨至少150萬顆H100處理器。
H100是英偉達于2022年推出的一款專為大型語言模型優化的GPU，得益于“全民造模”的趨勢，推出至今長期賣斷貨，又被稱之為英偉達的“印鈔機”。
那么，宣稱增加三倍產量的H100，能為英偉達賺多少錢？
要想知道H100究竟有多賺錢，只看兩點便可知。
一，H100在芯片市場中擁有絕對統治力。當今世界你第一時間想起的巨頭企業，都在搶購它。上到特斯拉、蘋果、微軟、谷歌等知名公司，下到研究大語言模型的初創企業，也有 Azure、GCP 和 AWS 等云服務供應商（CSP），CoreWeave、Lambda 等大型私有云。
二是H100擁有超過90%的毛利率。
H100的物料成本主要有三部分：核心邏輯芯片、HBM內存芯片、CoWoS封裝。
H100的核心邏輯芯片面積為814平方毫米，采用臺積電4N工藝制造（5nm+），以一塊報價為1.34萬美元的300mm晶圓，結合良率、損耗來看，大概能切割65顆，平均算下來每顆單價200美元左右；HBM內存芯片來自SK海力士的HBM3內存芯片，一共六顆，單顆容量為16GB，每GB為15美元，合計1500美元；雖CoWoS沒有公布其價格，但據分析師RobertCastellano結合臺積電財報推算，制造一顆H100需要723美元。
三大合計約2500美元（臺積電拿走約1000美元的情況下），算上除此以外的成本約3320美元左右。
也就是說英偉達的毛利率超過90%。
《巴倫周刊》資深撰稿人tae kim發帖估計H100的成本為3320美元
但英偉達想賺錢，還得看臺積電和SK海力士的臉色行事。
英偉達的H100確實在市場呈壟斷地位，說新一代“印鈔機”也無可厚非，但H100供不應求，在明年第一季度之前都是售罄狀態。
要看臺積電臉色是因為，英偉達受制于臺積電先進的封裝技術—2.5D CoWos（Chip on Wafer on Substrate）。
CoWoS是一種2.5D/3D封裝技術，是將多個有源硅模板集成在無源硅中介片上。然后將中介片和活性硅鏈接到包含I/O的包裝基板上，將其連接到系統PCB上。
臺積電CoWoS-S結構示意圖
CoWoS能將不同制程的芯片封裝在一起，可達到加速運算但同時控制成本的目的。簡單來說，CoWoS有節省空間、減少功耗的優勢
英偉達的H100、A100全部由臺積電代工，并使用臺積電的CoWoS先進封裝技術，除了英偉達外，其他廠商也對臺積電的CoWoS有需求，為此CoWoS產能供不應求。
有設備廠商估算，臺積電 2023 年 CoWoS 總產能逾 12 萬片，2024 年將沖上 24 萬片，其中，英偉達將取得 14.4 萬-15 萬片。
CoWoS產能不足的背景下，依靠CoWoS封裝的H100，自然被臺積電扼住了咽喉。
HBM（高帶寬存儲）是限制英偉達H100生產的另一個重要瓶頸。
HBM類似數據的“中轉站”，就是將每一幀、每一幅圖像數據保存到幀緩存區域中，等候GPU調用。
相比傳統內存技術，HBM帶寬更高、功率更低、功耗更低、尺寸更小，能夠使AI服務器的傳輸速率和數據處理量大幅提升，因此HBM也成了AI服務器的標配。
正如臺積電壟斷了先進封裝一般，HBM的供應也被SK海力士壟斷，市占率超過95%，也是目前唯一量產HBM3E（第三代HBM）的廠商。
無論是CoWoS還是HBM3，每年的產能都是固定的，除英偉達外，各大廠商需求也不少。AMD不僅大量采用HBM，其中MI300搭載的還是HBM3；傳言谷歌在下半年推出的TPU張量處理器，也將搭載HBM。
搭載HBM的芯片幾乎都需要像CoWoS這樣的2.5D技術，所以目前領先的GPU都有臺積電打包在CoWoS上，也就是說芯片的產能進一步SK海力士和臺積電的制約，英偉達并非說加芯就能加芯。
為了不被捏住命門，也為了芯片代工的議價權，英偉達開始“削藩”尋找更多代工廠。
英偉達在 CoWoS 封裝等的關鍵制程已開放給其他供應鏈代工廠。目前，英偉達正積極對接聯華電子，近日聯華電子將擴充旗下硅中介層（前段CoW部分）產能，月產能將由目前的 3 千片擴增至 1 萬片；封測廠Amkor、日月光投控旗下矽品則負責后段WoS封裝。
某種意義上來說，英偉達構建的芯片帝國和臺積電打造的頂尖芯片代工廠如出一轍——同樣擁有一騎絕塵的技術，是無可替代的存在。
所以扶持合作伙伴，并非短期有效解決措施，因為英偉達的核心芯片、產量，還是離不開臺積電的懷抱，否則英偉達今年由臺積電代工的芯片，怎么會占到臺積電年出貨量的40%左右？
好比遠水救不了近火，擴產能這件事沒有快速捷徑。
一方面，建造周期較長，芯片從制作到包裝都是的整個生態系統都是在臺積電周圍完成，如果另起爐灶，將制造業轉移尤為艱難。
另一方面，臺積電方也不會機會留給對手，對英偉達尋找替代工廠的曖昧態度，臺積電以積極擴建產能做出了回應。
從營收結構來看，臺積電也不會把嘴邊的肥肉放跑。2022的CoWoS封裝已經占總收入5%以上，且將以每年近20%的速率增長。
臺積電也是下了重金擴產，斥資900億元新臺幣在竹科銅鑼園區設立先進封裝廠，預計2026年底建廠完成，2027年第三季開始量產，而位于日本熊本的工廠已建成，九月底預計將有600名來自臺灣的員工移民熊本。
值得英偉達高興的是，至少在HBM上還有可選方案，不用等CoWoS的擴建周期。三星表示將投資1萬億韓元擴大HBM產能，并于今年推出HBM3產品；美光預計其相關HBM產品“將在2024財年貢獻有意義的收入，并在2025年貢獻大幅增加的收入”。
但把臺積電，看成英偉達的鐐銬，倒也不一定完全準確。
在硬幣的另一面，產能短缺也絕非都是壞事，至少英偉達在全球缺芯的市場中，壟斷了市場，也讓自己的芯片單價水漲船高，售價3.6萬美元的H100，此前在Ebay上的平均售價高達4.5萬美元。
要是沒有這場缺芯潮，芯片的二手市場怎會有如此高溢價，英偉達也沒有底氣開出如此高利潤的售價。
在產能制約下，英偉達損失了高達百億美元的收入。
據GPU Utils，保守估計，H100的供給缺口達到43.2萬張。按每個 GPU 價格 3.5 萬美元計算，意味著英偉達痛失總價值高達 150 億美元的訂單，這還不包括為中國專供的H800。
為了達到預期，英偉達采取的措施是推出更高端的芯片，提高收入和利潤。在產能有限的空間里、市場普遍對英偉達預期樂觀的背景下，英偉達利用近乎壟斷的地位，讓廠商為高端芯片買單，進而提高收入和利潤。
比如，英偉達正準備推出新一代GH2000 Grace Hopper超級芯片，將于2024年第二季投產。相比最熱門的H100芯片，該芯片內存容量高出3.5倍，帶寬高出3倍。
把英偉達歷代產品對比來看，就知道英偉達的利潤一直在水漲船高。從配置成本來看，H100的前代產品A100的生產成本至少也要上千美金，售價1萬美元，而成本3300美元的H100如今售價高達3.6萬美元，利潤極有可能成倍數增長。
英偉達A100和H100配置對比
英偉達毛利率的提高也是證據。英偉達最近一個季度的毛利率為70.93%，對比去年的43.48%提升顯著。
至于英偉達的對手們，正在抓住那43.2萬張H100的缺口。AMD就推出MI300，對A100和H100發起挑戰。
但AMD的MI300和A100較量還好說，挑戰H100有點難，從搭載配置來看，MI300 搭載了4核1.2GHz處理器、Android5.1系統、1GB的RAM和8GB的RAM，對比來看H100搭載了4核1.4Ghz處理器、Android8.1系統、2GB 的RAM和16GB的RAM。誰勝誰負高下立判，更別說H100 T860的GPU。
至于英特爾，選擇了英偉達的弱勢出擊—在H100無法到達的地方，與其競爭。
英特爾在中國市場推出第二代AI芯片HabanaGaudi2。據悉，英特爾Gaudi 2國內首批將與百度智能云、浪潮信息、美團、紫光新華三等公司合作。
促使英偉達做該項決策的可能是英偉達在中國日益減少的收入。2022年，英偉達中國地區的收入從71.11億美元減少13.26億美元到57.85億美元。
無論未來芯片市場有何變局，未來如何，至少AI的風現在不會滅，英偉達也仍在芯片領域中叱咤風云。
目前英偉達可能只剩下甜蜜的煩惱：如何造更多的芯片，如何讓股價滿足分析師預期。
參考資料：
1、《英偉達H100加速卡物料成本僅3000美元，毛利率超90%！》—— 芯智訊
2、《瘋狂的H100》——硅基研習社
3、《誰卡了英偉達脖子》——遠川研究所
4、《Is CoWoS Capacity Causing a GPU Shortage》——Phil Garrou.
英偉達看著供不應求的訂單，有點著急。
增加供應這句話，每發一次財報，英偉達都要再強調一次。
繼英偉達在第一季度宣布公司“正大幅增加供應，以滿足不斷增長的需求”后，英偉達CEO黃仁勛在近期又表示，正準備將其GPU的產量至少增加三倍。
具體來說，英偉達擴充的是H100芯片的產量。2023年英偉達H100預計出貨量在50萬顆，但據英國《金融時報》報道，英偉達計劃明年出貨至少150萬顆H100處理器。
H100是英偉達于2022年推出的一款專為大型語言模型優化的GPU，得益于“全民造模”的趨勢，推出至今長期賣斷貨，又被稱之為英偉達的“印鈔機”。
那么，宣稱增加三倍產量的H100，能為英偉達賺多少錢？
要想知道H100究竟有多賺錢，只看兩點便可知。
一，H100在芯片市場中擁有絕對統治力。當今世界你第一時間想起的巨頭企業，都在搶購它。上到特斯拉、蘋果、微軟、谷歌等知名公司，下到研究大語言模型的初創企業，也有 Azure、GCP 和 AWS 等云服務供應商（CSP），CoreWeave、Lambda 等大型私有云。
二是H100擁有超過90%的毛利率。
H100的物料成本主要有三部分：核心邏輯芯片、HBM內存芯片、CoWoS封裝。
H100的核心邏輯芯片面積為814平方毫米，采用臺積電4N工藝制造（5nm+），以一塊報價為1.34萬美元的300mm晶圓，結合良率、損耗來看，大概能切割65顆，平均算下來每顆單價200美元左右；HBM內存芯片來自SK海力士的HBM3內存芯片，一共六顆，單顆容量為16GB，每GB為15美元，合計1500美元；雖CoWoS沒有公布其價格，但據分析師RobertCastellano結合臺積電財報推算，制造一顆H100需要723美元。
三大合計約2500美元（臺積電拿走約1000美元的情況下），算上除此以外的成本約3320美元左右。
也就是說英偉達的毛利率超過90%。
《巴倫周刊》資深撰稿人tae kim發帖估計H100的成本為3320美元
但英偉達想賺錢，還得看臺積電和SK海力士的臉色行事。
英偉達的H100確實在市場呈壟斷地位，說新一代“印鈔機”也無可厚非，但H100供不應求，在明年第一季度之前都是售罄狀態。
要看臺積電臉色是因為，英偉達受制于臺積電先進的封裝技術—2.5D CoWos（Chip on Wafer on Substrate）。
CoWoS是一種2.5D/3D封裝技術，是將多個有源硅模板集成在無源硅中介片上。然后將中介片和活性硅鏈接到包含I/O的包裝基板上，將其連接到系統PCB上。
臺積電CoWoS-S結構示意圖
CoWoS能將不同制程的芯片封裝在一起，可達到加速運算但同時控制成本的目的。簡單來說，CoWoS有節省空間、減少功耗的優勢
英偉達的H100、A100全部由臺積電代工，并使用臺積電的CoWoS先進封裝技術，除了英偉達外，其他廠商也對臺積電的CoWoS有需求，為此CoWoS產能供不應求。
有設備廠商估算，臺積電 2023 年 CoWoS 總產能逾 12 萬片，2024 年將沖上 24 萬片，其中，英偉達將取得 14.4 萬-15 萬片。
CoWoS產能不足的背景下，依靠CoWoS封裝的H100，自然被臺積電扼住了咽喉。
HBM（高帶寬存儲）是限制英偉達H100生產的另一個重要瓶頸。
HBM類似數據的“中轉站”，就是將每一幀、每一幅圖像數據保存到幀緩存區域中，等候GPU調用。
相比傳統內存技術，HBM帶寬更高、功率更低、功耗更低、尺寸更小，能夠使AI服務器的傳輸速率和數據處理量大幅提升，因此HBM也成了AI服務器的標配。
正如臺積電壟斷了先進封裝一般，HBM的供應也被SK海力士壟斷，市占率超過95%，也是目前唯一量產HBM3E（第三代HBM）的廠商。
無論是CoWoS還是HBM3，每年的產能都是固定的，除英偉達外，各大廠商需求也不少。AMD不僅大量采用HBM，其中MI300搭載的還是HBM3；傳言谷歌在下半年推出的TPU張量處理器，也將搭載HBM。
搭載HBM的芯片幾乎都需要像CoWoS這樣的2.5D技術，所以目前領先的GPU都有臺積電打包在CoWoS上，也就是說芯片的產能進一步SK海力士和臺積電的制約，英偉達并非說加芯就能加芯。
為了不被捏住命門，也為了芯片代工的議價權，英偉達開始“削藩”尋找更多代工廠。
英偉達在 CoWoS 封裝等的關鍵制程已開放給其他供應鏈代工廠。目前，英偉達正積極對接聯華電子，近日聯華電子將擴充旗下硅中介層（前段CoW部分）產能，月產能將由目前的 3 千片擴增至 1 萬片；封測廠Amkor、日月光投控旗下矽品則負責后段WoS封裝。
某種意義上來說，英偉達構建的芯片帝國和臺積電打造的頂尖芯片代工廠如出一轍——同樣擁有一騎絕塵的技術，是無可替代的存在。
所以扶持合作伙伴，并非短期有效解決措施，因為英偉達的核心芯片、產量，還是離不開臺積電的懷抱，否則英偉達今年由臺積電代工的芯片，怎么會占到臺積電年出貨量的40%左右？
好比遠水救不了近火，擴產能這件事沒有快速捷徑。
一方面，建造周期較長，芯片從制作到包裝都是的整個生態系統都是在臺積電周圍完成，如果另起爐灶，將制造業轉移尤為艱難。
另一方面，臺積電方也不會機會留給對手，對英偉達尋找替代工廠的曖昧態度，臺積電以積極擴建產能做出了回應。
從營收結構來看，臺積電也不會把嘴邊的肥肉放跑。2022的CoWoS封裝已經占總收入5%以上，且將以每年近20%的速率增長。
臺積電也是下了重金擴產，斥資900億元新臺幣在竹科銅鑼園區設立先進封裝廠，預計2026年底建廠完成，2027年第三季開始量產，而位于日本熊本的工廠已建成，九月底預計將有600名來自臺灣的員工移民熊本。
值得英偉達高興的是，至少在HBM上還有可選方案，不用等CoWoS的擴建周期。三星表示將投資1萬億韓元擴大HBM產能，并于今年推出HBM3產品；美光預計其相關HBM產品“將在2024財年貢獻有意義的收入，并在2025年貢獻大幅增加的收入”。
但把臺積電，看成英偉達的鐐銬，倒也不一定完全準確。
在硬幣的另一面，產能短缺也絕非都是壞事，至少英偉達在全球缺芯的市場中，壟斷了市場，也讓自己的芯片單價水漲船高，售價3.6萬美元的H100，此前在Ebay上的平均售價高達4.5萬美元。
要是沒有這場缺芯潮，芯片的二手市場怎會有如此高溢價，英偉達也沒有底氣開出如此高利潤的售價。
在產能制約下，英偉達損失了高達百億美元的收入。
據GPU Utils，保守估計，H100的供給缺口達到43.2萬張。按每個 GPU 價格 3.5 萬美元計算，意味著英偉達痛失總價值高達 150 億美元的訂單，這還不包括為中國專供的H800。
為了達到預期，英偉達采取的措施是推出更高端的芯片，提高收入和利潤。在產能有限的空間里、市場普遍對英偉達預期樂觀的背景下，英偉達利用近乎壟斷的地位，讓廠商為高端芯片買單，進而提高收入和利潤。
比如，英偉達正準備推出新一代GH2000 Grace Hopper超級芯片，將于2024年第二季投產。相比最熱門的H100芯片，該芯片內存容量高出3.5倍，帶寬高出3倍。
把英偉達歷代產品對比來看，就知道英偉達的利潤一直在水漲船高。從配置成本來看，H100的前代產品A100的生產成本至少也要上千美金，售價1萬美元，而成本3300美元的H100如今售價高達3.6萬美元，利潤極有可能成倍數增長。
英偉達A100和H100配置對比
英偉達毛利率的提高也是證據。英偉達最近一個季度的毛利率為70.93%，對比去年的43.48%提升顯著。
至于英偉達的對手們，正在抓住那43.2萬張H100的缺口。AMD就推出MI300，對A100和H100發起挑戰。
但AMD的MI300和A100較量還好說，挑戰H100有點難，從搭載配置來看，MI300 搭載了4核1.2GHz處理器、Android5.1系統、1GB的RAM和8GB的RAM，對比來看H100搭載了4核1.4Ghz處理器、Android8.1系統、2GB 的RAM和16GB的RAM。誰勝誰負高下立判，更別說H100 T860的GPU。
至于英特爾，選擇了英偉達的弱勢出擊—在H100無法到達的地方，與其競爭。
英特爾在中國市場推出第二代AI芯片HabanaGaudi2。據悉，英特爾Gaudi 2國內首批將與百度智能云、浪潮信息、美團、紫光新華三等公司合作。
促使英偉達做該項決策的可能是英偉達在中國日益減少的收入。2022年，英偉達中國地區的收入從71.11億美元減少13.26億美元到57.85億美元。
無論未來芯片市場有何變局，未來如何，至少AI的風現在不會滅，英偉達也仍在芯片領域中叱咤風云。
目前英偉達可能只剩下甜蜜的煩惱：如何造更多的芯片，如何讓股價滿足分析師預期。
參考資料：
1、《英偉達H100加速卡物料成本僅3000美元，毛利率超90%！》—— 芯智訊
2、《瘋狂的H100》——硅基研習社
3、《誰卡了英偉達脖子》——遠川研究所
4、《Is CoWoS Capacity Causing a GPU Shortage》——Phil Garrou.
1.TMT觀察網遵循行業規范，任何轉載的稿件都會明確標注作者和來源；
2.TMT觀察網的原創文章，請轉載時務必注明文章作者和"來源：TMT觀察網"，不尊重原創的行為TMT觀察網或將追究責任；
3.作者投稿可能會經TMT觀察網編輯修改或補充。
