地端 AI 運算資源
為滿足校內師生對資料隱私與高效運算的需求，我們建置了專屬的私有雲運算聚落。
提供從地端開源模型到外部頂尖模型的統一 API 介面，打造安全、可控的 AI 研究環境。
運算節點規格
採用混合式 GPU 架構，整合高效能運算卡，確保模型推論的低延遲與高吞吐量。
- NVIDIA RTX 2080 運算叢集
- NVIDIA RTX A4000 專業繪圖卡
- 9 個分散式節點 (Distributed Nodes)
服務架構規劃
透過負載平衡技術，快速回應使用者請求，並提供符合學術需求的開源大模型。
- 部署 GPTOSS-20B 開源模型
- API 呼叫模式
- 動態資源調度與排程
資安與用量監控
地端部署的最大優勢在於資料落地，配合嚴格的 Key 管理機制，保障研究數據安全。
- 資料落地：敏感數據不出校園
- API Key 機制：精準控管使用者用量
- 完整 Log 稽核與流量監測
系統狀態：正在少量測試執行中 (Beta Testing)
目前地端運算節點正進行壓力測試與參數調優，僅開放部分實驗室申請試用。若您有緊急的研究運算需求，歡迎直接聯絡我們。
我們將根據測試回饋，逐步擴大服務範圍。