您的瀏覽器不支援JavaScript功能,若網頁功能無法正常使用時,請開啟瀏覽器JavaScript狀態

img
×  登入
 各類專區
跳到主要內容區塊 目前檢視身分

PrimeHub MLOps Deploy AI模型佈署授權擴充5個 (一年)

標案名稱111年第一次電腦軟體共同供應契約採購
組  別14
單  位
項  次215
採購數量級距1-10
產  地臺灣
評  價
型錄下載

產品功能規格

PrimeHub MLOps Deploy 授權提供用戶更多 AI / ML 的模型佈署數量,讓用戶透過平台不需模型封裝流程即可快速進行 AI / ML 模型佈署作業,基於 Kubernetes 進行集中式佈署易於彈性擴張或縮減,亦提供負載平衡及異版同時作業;提供運作監視即時了解模型運作及歷史,異常狀況告警,為最佳模型運作平台。

"本項次提供 5 個模型部署擴充授權。

PrimeHub MLOps 平台之特色:
1. 基於 Kubernetes 架構,可快速構建研究環境並簡易擴展到數百個運算節點
2. 叢集架構降低服務中斷的風險
3. 可部署於私有 (On-Premise) 及公有雲 (Public Cloud) 運算設施上,如 Google Cloud Platform, Amazon等
4. 可在 Intel 相容的伺服器系統上運作,並支援 nVidia 之圖形運算器 (GPU),如:nVidia Tesla V100、Geforce RTX3080 等
5. 使用者功能:
a. Jupyter 開發環境
b. 支援透過 SSH 整合本機端開發工具, 如 Jupyter、Rstudio、PyCharm等,讓開發工作能夠和平台環境同步
c. 提供模型訓練的視覺化圖表
d. 可提交背景工作,由平台根據群組資源配額進行工作排程
e. 定時工作排程,支援工作大量提交及預先安排工作時程
f. 透過 Apps 功能整合第三方ML工具
6. 管理功能:
a. 支援使用者人數不限,視實際硬體資源限制而定
b. 雙因子身份驗證帳戶保護、支援單點登錄、整合 AD 或 LDAP 等常見企業帳戶管理系統
c. 以群組區分的資源、配額、及使用權管理
d. 閒置資源自動回收功能
e. 環境映像檔管理,支援多種深度學習框架工具,如 TensorFlow, PyTorch, Scikit Learn等,並可提供上述工具的不同版本供使用者選擇,如 TensorFlow版本 1.14, 1.15, 2.4, 2.5 等
f. 模型版本管理
g. 執行個體管理,協助用戶定義符合特殊資源需求的運算節點,進行細膩的資源規劃
h. 資料集管理,支援多種形式的資料集加載,並根據群組設置於用戶啟動開發環境時自動載入數據
i. 密鑰管理
j. 資源報表
7. 提供平台 SDK
8. 模型部署:
a. 提供使用者以瀏覽器介面進行AI模型佈署管理作業,授權使用者不需要管理者協助,即可進行模型佈署及監視
b. 使用者不需自己進行模型封裝
c. 提供AI模型得以水平擴展方式進行大量佈署並得到負載平衡
d. 提供AI模型以無間斷新舊並行方式進行版本更新作業
e. 提供AI模型運作時之狀態及效能數據監視並提供告警通知
f. 可設定AI模型運作時環境所需的 CPU、Memory、GPU 使用量
g. 可指定使用者群組是否能夠進行AI模型佈署作業
h. AI模型應用端點安全金鑰認證功能"

功能規格/基本需求

"PrimeHub MLOps Deploy 授權適用於各單位之人工智慧、機器學習或是深度學習部門,已經或即將有 AI / ML 模型產出之運行部署維運管理需求。

用戶須已訂閱 PrimeHub MLOps Deploy 微型以上授權才可購買此項目。

目前提供二種授權訂閱可供選擇:
1. Micro Production:已經或即將有 AI / ML 模型產出之運行部署維運管理需求,授權數量5個模型以下。
2. Small Production:已經或即將有 AI / ML 模型產出之運行部署維運管理需求,授權數量10個模型以下。
3. Medium Production:已經或即將有 AI / ML 模型產出之運行部署維運管理需求,授權數量50個模型以下。

單機 PrimeHub MLOps 深度學習AI開發部署平台部署需求:
- 一台實體伺服器
- 作業系統:Ubuntu 20.04LTS 或 RHEL 8.4+
- 容器編排工具:Kubernetes 1.19+
- 資源要求:10 虛擬核心以上 CPU, 256GB 以上記憶體, 200GB 以上 OS 儲存空間, 2TB 以上的通用儲存空間 (optional), nVidia 系列顯示卡 (optional)


多節點 PrimeHub MLOps 深度學習AI開發部署平台部署需求:
- 至少三台同規格的實體伺服器
- 作業系統:Ubuntu 20.04LTS 或 RHEL 8.4+
- 容器編排工具:Kubernetes 1.19+
- 資源要求:40 虛擬核心以上 CPU, 512GB 以上記憶體, 960GB 以上 OS 儲存空間, 10GbE 網路連線, 2TB 以上的通用儲存空間 (optional), nVidia 系列顯示卡 (optional)"