【台北訊】AI 的發展日新月異，但企業在 AI 訓練與運行的過程中，始終面臨高昂成本、長時間訓練與數據安全風險等挑戰。為解決這些痛點，企業自主 AI 解決方案領導品牌 APMIC 與銓鍇國際(CKmates)一同推出「Test-Time Compute AI 算力」解決方案，此方案類似於 Deepseek R1 的全新訓練方案「APMIC Toolbox s1」以及 CKmates 的「AI CKompute」實體機櫃租賃服務 。

「APMIC Toolbox s1」是基於 NVIDIA NeMo 所開發的框架，同時也支持由 AI教主李飛飛所發表的「Simple test-time scaling」的訓練方法，該方法不僅承襲了 Deepseek 的優點，也免去了中國訓練方法或模型所產生的資安問題，同時也相較 Deepseek 方法節省 90 %的成本，訓練資料從 80 萬筆減少到 1 千筆。

過去為了實現高準確率的模型，通常需要昂貴的設備與訓練方法，而這次透過「APMIC Toolbox s1」搭配 CKmates 推出台灣首創「AI CKompute」算力機櫃租賃服務，提供搭載 24 片的 H100 GPU 高階伺服器，可整櫃直送客戶現場，用戶只需準備電力與網路，亦或是放在 CKmates 端以遠端連線方式使用，免去自行維運負擔。此模式便能快速啟動資料訓練與進行高強度測試，不必排隊等雲端 GPU 資源，也免除將機密數據外移的隱憂。

「Test-Time Compute AI 算力」軟硬體整合解決方案，讓客戶完全能夠在地端實現「知識蒸餾(Knowledge Distillation)」透過大模型學習企業領域知識，然後縮小到 32B~70B 的模型上，讓推論成本可以節省比 ChatGPT 高達 98% 以上，而且知識不外流。

「APMIC Toolbox s1」搭配 24 片的 H100 設備後，成為一個能訓練、推論的多模態的企業數位大腦，既能夠分析圖片、文字，也可以進行企業知識的深度推理，相較於傳統的做法，資訊檢索準確度提升了 70%，方便企業用戶進行知識管理、撰寫報告，並且透過自然語言輕鬆建立AI。

企業不再擔心要購買昂貴的設備，可依業務需求靈活調整「AI CKompute」租用方案，企業可依需求長期租用，甚至可租單一個月或幾天短期使用，皆能以合理的費用獲取強大算力支援，避免高昂的前期設備投資與維運負擔。租約到期後，客戶可選擇整機購買或直接歸還，是實踐「資本支出轉營運支出」的高彈性策略，讓企業無需投入鉅額資本支出，即可快速取得所需 AI 運算資源。

想了解 Test-Time Compute AI 算力解決方案如何提升企業 AI 部署效能？歡迎填寫需求問卷，搶占 AI 競爭優勢！

—--------------------------------------------------------------------------

【關於 APMIC】

APMIC (Accelerate Private Machine Intelligence Company)為企業自主 AI 解決方案領導品牌，於 2017 年在台灣創立。以自然語言理解（NLU）核心技術出發，其研發出的在地化大型語言模型「CaiGunn 開講」及系列產品，能夠協助企業上傳文書資料，不需撰寫任何程式，就能打造出專屬的地端 AI 大腦。APMIC 產品已經應用於橫跨健康、製造、金融、零售等 800 家企業和政府部門，致力於讓每間企業都擁有能力打造自己的 AI 大腦，使人人都能輕鬆參與 AI 時代 。

官方網站：https://www.ap-mic.com/

【關於  CKmates】

銓鍇國際 CKmates 身為企業的雲端數位長，秉持著「站在客戶角度思考、深入產業痛點、提供最適切解決方案」的精神，致力於提供 IT 系統基礎建設、雲端架構規劃、系統整合、資料中心建置維運、資安控管及 AI 運算解決方案。CKmates 團隊擁有豐富經驗的顧問與工程師，透過強大的雲端與 AI 技術實力，提供全天候不中斷的專業技術支援，確保企業 IT 環境穩定運行，協助不同產業數位轉型、優化營運。

官方網站：https://www.ckmates.com/