「現在 AI 算力這麼缺,我們有資金,要不要自己蓋一個機房,買一批 GPU 來賣算力?」
最近好幾位老闆問過我類似的問題。有的是製造業老闆手上有廠房和電力,有的是投資人看到算力很熱門。這個想法不是不行,但它跟「幫公司導入 AI」是完全不同的生意。
我是熊董,台灣川輝科技創辦人。我帶團隊做系統導入七年,經手超過 252 個案子、橫跨 32 個以上產業。我最常跟老闆講的一句話是「這個不要做」,蓋 Token 機房,是很多人應該先停下來算清楚的事。
我的答案是:Token 機房是賣算力的生意,賺不賺錢看使用率,而不是看你買了多好的 GPU。蓋機房卡的不是顯卡,是電和散熱;在台灣,大型機房還要先過台電這一關。沒有穩定、簽約的客戶用量之前,中小企業不該自己蓋,應該先租或託管。
Token 機房是什麼生意?
簡單講,就是「買 GPU、跑模型、賣算力」。常見的賣法有三種:
| 賣法 | 客戶買什麼 | 市價參考 |
|---|---|---|
| 租 GPU | 按小時或按月租整張卡 | H100 單卡現貨約每小時 US$2.5 到 3.5(ClusterBid) |
| 賣 token | 按使用量計費的 AI 服務 | NVIDIA 宣稱 DGX B300 跑 DeepSeek-R1 每百萬 token 成本約 US$0.24(NVIDIA,廠商數字) |
| 私有託管 | 客戶把自己的模型放在你的機房 | 依合約 |
台灣也已經有 GPU 租用的競爭者。依 GPUtw 的整理,RTX 4090 每小時約 NT$13 到 23 元、RTX 5090 約 NT$24 到 32 元。這代表你一進場,就是在跟現成的雲端和租賃業者比價。
為什麼使用率決定生死?
先承認一個直覺:GPU 很缺、價格很高,好像買了就能賺。
實際上要算的是:一張卡一年的總成本,平均到每小時要賣多少錢才打平。依 ClusterBid 的試算,一張 H100 一年總成本約 US$31,860 到 38,000,滿載時每小時要賣 US$3.65 到 4.34 才打平;使用率 70% 時要賣 US$5.21 到 6.20。要說明的是,這份試算有部分算式對不上,只能當量級參考。
對照前面的市價 US$2.5 到 3.5,結論很清楚:純租 GPU,很難賺錢。 能賺錢的情況,是使用率很高、而且有長期合約。依 Inflect 引述 McKinsey 的說法,自有的新一代 GPU 放在託管機房,使用率超過約 70% 時,成本可以比租用低 40% 到 70%。
所以順序要對:先有客戶,再蓋機房;不是先蓋機房,再找客戶。

一個 AI 機櫃要多少電?
這是很多人第一次算就嚇到的數字。
| 設備 | 每櫃功率 | 散熱方式 |
|---|---|---|
| L40S | 30 到 40 kW | 氣冷 |
| H100/H200 | 氣冷 40 到 60 kW;液冷 80 到 120 kW | 氣冷或液冷 |
| B200 | 60 到 150 kW | 以液冷為主 |
| GB200/GB300 NVL72 | GB200 約 120 kW;GB300 約 135 到 142 kW | 一定要液冷 |
| 下一代 Vera Rubin | 超過 200 kW;Rubin Ultra 最高 600 kW | 液冷 |
資料來源:Inflect、DatacenterScope。
對照一下:台灣一般氣冷機房,每個機櫃的散熱上限通常只有 5 到 10 kW(瑪尼國際)。一個 GB300 機櫃的電,等於十幾個到二十幾個傳統機櫃。這也是為什麼一般機房放不下 AI 設備。
蓋機房要處理哪五件事?
電力。 100 kW 以上的機櫃要用三相 415V 或 480V 供電;正式的推論服務,雙路供電已經是標準,迴路還要留兩成餘裕。AI 的用電會突然跳動三到六成,電力系統要撐得住。
散熱。 2026 年的預設做法是晶片直接液冷;浸沒式可以到 200 kW 以上。液冷機房的 PUE(能源使用效率)約 1.10 到 1.20,氣冷約 1.40 到 1.60,這是 Inflect 自己的估計。
樓板。 一個 NVL72 機櫃約 1.4 到 1.5 公噸,每平方公尺約 1,875 公斤,一般架高地板約 1,000 公斤(Moduledge),舊廠房要先確認撐不撐得住。
網路。 GPU 之間要 400G 到 800G 的高速網路,用 InfiniBand 或專為 AI 設計的乙太網路。
軟體與計費。 用 vLLM、SGLang 跑模型,多機用 NVIDIA Dynamo;要賣 token 還需要閘道,處理金鑰、額度、用量計費,例如 LiteLLM 就有這類功能。
蓋一座要多少錢、多久?
| 項目 | 數字 |
|---|---|
| 建物與基礎設施 | 每 MW 約 1,070 萬美元(2025),預估 1,130 萬美元(2026) |
| AI 機房(含液冷等) | 每 MW 2,000 萬美元以上 |
| 變電站 | 24 到 36 個月 |
| 大型變壓器交期 | 18 到 24 個月 |
| 傳統建置 | 18 到 24 個月;模組化 AI 機房 3 到 9 個月 |
資料來源:Moduledge 引述 JLL、ClusterBid。以上是美國市場的數字,台灣的實際造價要另外詢價。
GPU 本身還要另外算:H200 八卡伺服器約 32 萬到 42 萬美元,GB300 NVL72 一個機櫃約 300 萬到 650 萬美元,細節在地端 AI 要買什麼硬體。
台灣的供電與法規限制
在台灣蓋大型 AI 機房,最大的門檻是台電給不給電。
| 規定 | 內容 |
|---|---|
| 5 MW 以上要送審 | 超大型與主機代管資料中心用電 5 MW 以上,建廠前要送能源使用先期規劃;先取得台電供電同意,審查約 3 到 6 個月 |
| PUE 上限 | 超大型 1.3、主機代管 1.4;2025 年 11 月 5 日生效,只管之後新建或擴建的 |
| 桃園以北 | 2024 年起台電不再核准桃園以北超過 5 MW 的資料中心用電 |
| 2026 年有條件鬆綁 | 桃園或基隆若在電廠附近規劃 AI 資料中心專區可以談;仍要審電力供應、產業效益、能源效率;新北、台北未列入 |
不想自己蓋的話,台灣也有液冷託管可以選。依 CIO 的報導,是方電訊提供每櫃 80 到 150 kW 的水冷方案,支援 GB200/GB300,樓板每平方公尺 2,000 公斤,號稱兩週內可以啟用,價格沒有公開。

中小企業該怎麼做?
我的建議很直接:
- 先確認是不是真的要賣算力。 如果只是公司內部要用 AI,那是地端 AI 導入,不需要機房,一台工作站或伺服器就夠。
- 有簽約的客戶用量,再談硬體。 例如自己的 SaaS 產品要用、或企業客戶簽了包量合約。
- 先託管,不自己蓋。 5 MW 以下、找有液冷的託管機房,比自己蓋快很多,也避開供電審查。
- 算清楚使用率。 用保守的使用率算打平價格,再跟市價比,算不過就不要做。
地端 AI 和 Token 機房的差別,以及雲端和地端怎麼取捨,可以延伸閱讀開源模型還是雲端大模型和地端 AI 做不到的事。
常見問題
蓋 AI 機房賣算力能賺錢嗎?
可以,但前提是使用率很高、而且有長期合約。試算顯示 H100 在使用率 70% 時,每小時要賣約 5 到 6 美元才打平,而市價約 2.5 到 3.5 美元,純租 GPU 很難賺。
一般機房可以放 AI 伺服器嗎?
多數不行。台灣一般氣冷機房每櫃散熱上限約 5 到 10 kW,AI 機櫃從 30 kW 到 140 kW 以上都有,新一代的一定要液冷。要找專門的液冷託管機房。
在台灣蓋資料中心有什麼限制?
用電 5 MW 以上要先取得台電供電同意並送審,PUE 有上限;桃園以北超過 5 MW 原則上不核供,2026 年起電廠附近的專區有條件鬆綁。
中小企業要用 AI,需要自己蓋機房嗎?
不需要。公司內部用 AI,一台工作站或伺服器放在辦公室或小機房就夠。只有要對外大量賣算力,才需要機房等級的設施,而且建議先託管。
結語:先有客戶,再有機房
Token 機房是一門重資本、看使用率的生意,最大的門檻是電和散熱,在台灣還要過供電審查。沒有穩定的客戶用量之前,這件事不要做。
如果你其實是想讓公司內部用 AI,那不需要蓋機房,可以先看看我們怎麼做 AI 系統開發;如果真的在評估算力生意,也歡迎帶著你的客戶用量來找我算一次。




