
想蓋 AI 機房賣算力?Token 機房的電、錢與台灣供電限制
AI 算力很熱門,不少老闆在問要不要自己蓋機房賣 token。這篇說明 Token 機房怎麼賺錢、為什麼使用率決定生死、一個 AI 機櫃要多少電和散熱、建置成本與時程,以及台灣 5MW 以上資料中心的供電與法規限制。
所有標著「地端AI」的文章,新到舊。
10 篇文章
AI 算力很熱門,不少老闆在問要不要自己蓋機房賣 token。這篇說明 Token 機房怎麼賺錢、為什麼使用率決定生死、一個 AI 機櫃要多少電和散熱、建置成本與時程,以及台灣 5MW 以上資料中心的供電與法規限制。

Mac Studio 最高有 512 GB 統一記憶體,放得下很多顯卡塞不進去的大模型,又安靜省電。但它讀長文件比較慢,也不適合多人同時用。這篇說明 Mac 適合誰、放得下什麼模型、速度如何,以及什麼時候該改用 NVIDIA。

很多老闆以為要讓 AI 懂公司,就要自己訓練一個模型。其實知識會變、需要附出處的時候,先做知識庫比微調划算。這篇說明微調和知識庫各適合什麼、微調需要多少硬體,以及調整模型拒答行為這種特殊用途。

雲端大模型更聰明、不用買機器;開源模型可以裝在自己公司、資料不出去。這篇比較 Anthropic、OpenAI、Google、xAI 四家雲端模型與開源模型的價格、資料處理和限制,告訴你怎麼選,或怎麼混著用。

地端 AI 讓資料不用離開公司,但它不是萬能。這篇誠實列出七個限制:沒有雲端頂尖模型聰明、多人使用要另外設計、要有人維運、長文件會變慢、繁中可能出錯、授權各不相同、地端不等於安全,以及每一個怎麼應對。

同一張顯卡,一個人用時每秒吐一百多個字,三十人同時問卻可能要等一分鐘才看到第一個字。這篇用實測數據說明地端 AI 的速度由什麼決定、多快才夠用,以及上線前一定要做的壓力測試。

地端 AI 的硬體從十幾萬的工作站到上千萬的伺服器都有。這篇把 GPU 分成五個等級,告訴你每一級放得下多大的模型、適合多少人用、2026 年大概要多少錢,以及為什麼現在買硬體要特別小心價格。

開源模型有二十幾個系列,排行榜天天換。老闆要選的不是最強的那個,而是你的資料、你的授權條件、你的硬體放得下、用你的題目考得過的那個。這篇給你四個依序刪去的問題和七種情境的先試名單。

微調 AI 模型最貴的不是硬體,而是在錯的方向上試錯。NVIDIA 在 GTC Taipei 2026 工作坊公開了他們自己踩過的坑:在不適合的技術上浪費八輪實驗、模型太小、架構不支援、合併後成績掉一半。這篇整理成老闆和技術主管開工前可以用的 9 個檢查。

NVIDIA 在 GTC Taipei 2026 的 LLM 客製化工作坊,用一個完整案例示範:一個 80 億參數的開源模型,經過提示、微調、偏好訓練三個階段,從 50% 進步到 77%,在同樣的條件下贏過兩個頂尖雲端模型。這篇拆解每一步做了什麼、花了多少、對台灣公司有什麼意義。