top of page

coming soon

PrivTuner

在自己的機器上,把開源模型訓練成你的模型

一台 NVIDIA 主機,從資料到 API,不必寫訓練程式,資料不離開公司。

PrivTuner interface templates.png

​不用買一整套解決方案,也能打造懂你的地端 AI

通用大語言模型很聰明,但它不懂你的產品、你的用語。而且客戶紀錄、病歷等敏感資料,都不能上傳到雲端。


想讓 AI 模型更貼近業務並且符合資安需求,過去只有兩條路:自己買 GPU 建置環境,或是委託完整的客製化微調服務。對許多中小企業來說,這兩條路的門檻都太高了。

​

PrivTuner 提供第三種選擇:我們把整個流程放進一台 NVIDIA 主機(GB10、B200 或 H100)和一個網頁。準備資料、訓練、評測、上線、用 API 呼叫,全部在這台主機上完成。資料集與訓練出來的模型也存在這台主機上。

01 建立專案,放進資料

上傳 JSONL、CSV、Parquet,或直接丟 PDF、Word 文件。若手上沒有整理好的資料,就讓 AI 從公司文件幫你生成問答,內建 21 個生成範本。

02 選一個範本,按「開始訓練」

11 個微調範本已經調好參數:客服對話、內部知識問答、整理與摘要、文風模仿、個資去識別化、決策模型等,根據需求快速選擇。

03 用考卷看有沒有進步

PrivTuner 會從你的資料出選擇題,並排除與訓練資料重疊的題目,避免分數好看卻沒有意義。同一份考卷,訓練前與訓練後分數並排比較。

04 上線,拿到 API

與 OpenAI 相容,既有的程式改一個網址和金鑰就能接上。

PrivTuner 介面示意圖:客服對話助理,前測步驟
PrivTuner 介面示意圖:準備資料,訓練
PrivTuner 介面示意圖:後測,檢驗訓練成效

誰適合使用 PrivTuner?

想讓 AI 更貼近自身業務、但沒有預算自建算力或委託完整客製化服務的中小企業。例如希望模型能用公司慣用語氣回覆客戶的客服團隊,需要模型理解產業專有名詞的專業服務業,或是想先小規模驗證 AI 效益、再決定是否擴大投入的企業。

 

如果你有自己的資料、不能把資料送上雲端、想用 0.6B 到 8B 的開源模型(Qwen3、Gemma、Llama 3.2 等)解決一件具體工作,就可以開始嘗試。

​

​使用價格將依 token 使用量計費,詳細方案會在聯繫時說明。

​常見問題

  • PrivModel 微調服務是由我們的團隊為企業量身規劃與執行;PrivTuner 則是自助式平台,讓你用更低的門檻自己動手微調,適合想先小規模嘗試的團隊。

  • ​目前 PrivTuner 在測試階段,我們會聯繫合適的試用對象,優先以早鳥優惠的價格試用 PrivTuner。試用對象的回饋也將直接影響未來的功能開發方向。

  • PrivTuner 是單機平台,無法進行跨多台主機的超大模型訓練,目前也不支援訓練向量或重排序模型。PrivTuner 也不適合只打算在 GB10 上提供大量並發的 API 的使用者。​GB10 沒有 vLLM,實測 H100 上 8 個同時的請求,vLLM 的吞吐量約是相容模式的 13 倍。

  • PrivTuner 目前預計於 2027 年上半年正式推出,登記候補者將有機會提前測試。

  • 不需要。平台以簡單操作為設計目標,只要準備好想讓模型學習的資料即可。

  • 本產品遵循 APMIC 資安與隱私規範。

bottom of page