您的瀏覽器不支援JavaScript功能,若網頁功能無法正常使用時,請開啟瀏覽器JavaScript狀態

img
×  登入
 各類專區
跳到主要內容區塊 目前檢視身分

PrimeHub MLOps 深度學習AI開發部署平台 企業叢集版續約(一年)

標案名稱111年第一次電腦軟體共同供應契約採購
組  別14
單  位
項  次226
採購數量級距3-4
產  地臺灣
評  價
型錄下載

產品功能規格

PrimeHub MLOps 是針對多人多專案共用需求打造的 AI/ML 協同開發平台,能支持多團隊共享運算資源與開發成果,加速AI 模型投入正式生產環境的速度。同時也能協助 IT 團隊提高資源使用率及降低維運成本,並透過 UI 簡化操作管理,賦能開發團隊自主管理可用運算資源及組員權限。以節點計價的企業叢集版不限同時作業人數。

"本項次提供以節點計價的企業叢集版續約,不限同時作業人數並提供一個模型部署。
若需部署更多模型,請另外增購模型部署授權。

PrimeHub MLOps 平台之特色:
1. 基於 Kubernetes 架構,可快速構建研究環境並簡易擴展到數百個運算節點
2. 叢集架構降低服務中斷的風險
3. 可部署於私有 (On-Premise) 及公有雲 (Public Cloud) 運算設施上,如 Google Cloud Platform, Amazon等
4. 可在 Intel 相容的伺服器系統上運作,並支援 nVidia 之圖形運算器 (GPU),如:nVidia Tesla V100、Geforce RTX3080 等
5. 使用者功能:
a. Jupyter 開發環境
b. 支援透過 SSH 整合本機端開發工具, 如 Jupyter、Rstudio、PyCharm等,讓開發工作能夠和平台環境同步
c. 提供模型訓練的視覺化圖表
d. 可提交背景工作,由平台根據群組資源配額進行工作排程
e. 定時工作排程,支援工作大量提交及預先安排工作時程
f. 透過 Apps 功能整合第三方ML工具
6. 管理功能:
a. 支援使用者人數不限,視實際硬體資源限制而定
b. 雙因子身份驗證帳戶保護、支援單點登錄、整合 AD 或 LDAP 等常見企業帳戶管理系統
c. 以群組區分的資源、配額、及使用權管理
d. 閒置資源自動回收功能
e. 環境映像檔管理,支援多種深度學習框架工具,如 TensorFlow, PyTorch, Scikit Learn等,並可提供上述工具的不同版本供使用者選擇,如 TensorFlow版本 1.14, 1.15, 2.4, 2.5 等
f. 模型版本管理
g. 執行個體管理,協助用戶定義符合特殊資源需求的運算節點,進行細膩的資源規劃
h. 資料集管理,支援多種形式的資料集加載,並根據群組設置於用戶啟動開發環境時自動載入數據
i. 密鑰管理
j. 資源報表
7. 提供平台 SDK
8. 模型部署:
a. 提供使用者以瀏覽器介面進行AI模型佈署管理作業,授權使用者不需要管理者協助,即可進行模型佈署及監視
b. 使用者不需自己進行模型封裝
c. 提供AI模型得以水平擴展方式進行大量佈署並得到負載平衡
d. 提供AI模型以無間斷新舊並行方式進行版本更新作業
e. 提供AI模型運作時之狀態及效能數據監視並提供告警通知
f. 可設定AI模型運作時環境所需的 CPU、Memory、GPU 使用量
g. 可指定使用者群組是否能夠進行AI模型佈署作業
h. AI模型應用端點安全金鑰認證功能"

功能規格/基本需求

"PrimeHub MLOps 深度學習AI開發部署平台部署需求:
- 至少三台同規格的實體伺服器
- 作業系統:Ubuntu 20.04LTS 或 RHEL 8.4+
- 容器編排工具:Kubernetes 1.19+
- 資源要求:10 虛擬核心以上 CPU, 16GB 以上記憶體, 200GB 以上 OS 儲存空間, 2TB 以上的通用儲存空間 (optional), nVidia 系列顯示卡 (optional)"