病歷、客戶資料不能上雲端,也能用 AI——川輝做過的四個地端 AI 案子

醫療院所的病歷、顧問公司的客戶資料,都不能丟到雲端 AI。我們做過四個這類案子:病歷系統、醫護系統、離線 AI 客服、顧問公司的地端大模型,資料全程不出公司。

客戶
醫療院所與顧問公司
產業
AI Native
服務
AI 系統客製化
病歷、客戶資料不能上雲端,也能用 AI——川輝做過的四個地端 AI 案子
Results · 成果

交付了什麼。

資料
全程不出公司
案子
病歷系統、醫護系統、離線 AI 客服、顧問公司地端模型
連網
斷開外網也能運作
管理
權限分層+提問紀錄
Story · 過程

01最想用 AI 的公司,往往最不能用雲端 AI

醫療院所有病歷,顧問公司有客戶的財務和合約,這些都是最需要 AI 幫忙整理、查找的資料,也是最不能送到外部雲端的資料。

這四個案子的客戶都不同意公開名稱,所以這裡只講產業和做法。

02四個案子

一、醫療院所的病歷系統

病歷是最敏感的個資。我們做的病歷系統,從一開始就把「誰能看什麼」放在第一位:依職務分層的權限、每一次查閱都留下紀錄、資料放在院所自己掌控的環境。

二、醫護系統

醫護現場的流程跟一般公司很不一樣:交班、排班、照護紀錄,時間壓力大、不能出錯。這個案子讓我們把醫療現場的流程和資料規則摸得很清楚,也是後來做醫療 AI 的基礎。

三、離線 AI 客服

客戶的環境不能連外網,AI 客服必須在內部獨立運作。我們把開源模型和公司的知識庫裝在內部伺服器上,客服問答在斷開外網的狀態下照樣運作,回答時附上出處,員工可以回頭核對。

四、顧問公司的地端大模型建置

顧問公司手上是客戶的帳務、合約和報告,合約明定不能外流。我們在他們自己的機房建置開源大模型,接上內部文件,讓顧問能用 AI 查資料、做摘要、整理報告草稿,資料全程不出公司。

03這四個案子共同的做法

  1. 先確認哪些資料不能出去,再決定模型和硬體。不是每家公司都需要地端,資料不敏感、用量又小的,我們會直接建議用雲端。
  2. 先用自己的題目考:選型時用客戶的真實題目測,繁體中文、專業用語都要過。
  3. 接進原本的系統:AI 不是另外開一個網頁,而是接在員工每天用的系統裡。
  4. 權限和紀錄:依部門設定能問什麼、能看到什麼,每一次提問都有紀錄,可以稽核。
  5. 斷網也能運作:模型、知識庫、推論服務都在內部,不依賴外部服務。

04延伸閱讀

地端 AI 怎麼選模型、要買什麼硬體、有哪些限制,我們整理成一系列文章:地端 AI 模型怎麼選、地端 AI 要買什麼硬體、地端 AI 做不到的事、開源模型還是雲端大模型。

05我的判斷

地端 AI 的重點不是「把模型裝起來」,裝模型一天就能做完。重點是接上公司資料、接進工作流程、管好權限和紀錄,讓資料不能出去的公司,也能真的每天用 AI。

認識熊董 →

你的案子先聊 30 分鐘,再決定要不要做。
30 分鐘免費診斷 · 線上選時段 · 熊董親自談診斷完如果評估不適合,我們會老實告訴你,不會勉強接案。或加 LINE 詢問 →