病歷、客戶資料不能上雲端,也能用 AI——川輝做過的四個地端 AI 案子
醫療院所的病歷、顧問公司的客戶資料,都不能丟到雲端 AI。我們做過四個這類案子:病歷系統、醫護系統、離線 AI 客服、顧問公司的地端大模型,資料全程不出公司。
- 客戶
- 醫療院所與顧問公司
- 產業
- AI Native
- 服務
- AI 系統客製化

Results · 成果
交付了什麼。
- 資料
- 全程不出公司
- 案子
- 病歷系統、醫護系統、離線 AI 客服、顧問公司地端模型
- 連網
- 斷開外網也能運作
- 管理
- 權限分層+提問紀錄
Story · 過程
01最想用 AI 的公司,往往最不能用雲端 AI
醫療院所有病歷,顧問公司有客戶的財務和合約,這些都是最需要 AI 幫忙整理、查找的資料,也是最不能送到外部雲端的資料。
這四個案子的客戶都不同意公開名稱,所以這裡只講產業和做法。
02四個案子
一、醫療院所的病歷系統
病歷是最敏感的個資。我們做的病歷系統,從一開始就把「誰能看什麼」放在第一位:依職務分層的權限、每一次查閱都留下紀錄、資料放在院所自己掌控的環境。
二、醫護系統
醫護現場的流程跟一般公司很不一樣:交班、排班、照護紀錄,時間壓力大、不能出錯。這個案子讓我們把醫療現場的流程和資料規則摸得很清楚,也是後來做醫療 AI 的基礎。
三、離線 AI 客服
客戶的環境不能連外網,AI 客服必須在內部獨立運作。我們把開源模型和公司的知識庫裝在內部伺服器上,客服問答在斷開外網的狀態下照樣運作,回答時附上出處,員工可以回頭核對。
四、顧問公司的地端大模型建置
顧問公司手上是客戶的帳務、合約和報告,合約明定不能外流。我們在他們自己的機房建置開源大模型,接上內部文件,讓顧問能用 AI 查資料、做摘要、整理報告草稿,資料全程不出公司。
03這四個案子共同的做法
- 先確認哪些資料不能出去,再決定模型和硬體。不是每家公司都需要地端,資料不敏感、用量又小的,我們會直接建議用雲端。
- 先用自己的題目考:選型時用客戶的真實題目測,繁體中文、專業用語都要過。
- 接進原本的系統:AI 不是另外開一個網頁,而是接在員工每天用的系統裡。
- 權限和紀錄:依部門設定能問什麼、能看到什麼,每一次提問都有紀錄,可以稽核。
- 斷網也能運作:模型、知識庫、推論服務都在內部,不依賴外部服務。
04延伸閱讀
地端 AI 怎麼選模型、要買什麼硬體、有哪些限制,我們整理成一系列文章:地端 AI 模型怎麼選、地端 AI 要買什麼硬體、地端 AI 做不到的事、開源模型還是雲端大模型。
05我的判斷
地端 AI 的重點不是「把模型裝起來」,裝模型一天就能做完。重點是接上公司資料、接進工作流程、管好權限和紀錄,讓資料不能出去的公司,也能真的每天用 AI。

