AI 大語言模型資安驗測- 基礎風險方案- 20次檢測次數/以AI 應用端點計次(一年使用授權)
標案名稱114年第一次電腦軟體共同供應契約採購-套裝軟體
組 別8
單 位明
項 次57
採購數量級距1-20
產 地臺灣
評 價
無
驗收交付文件
1. Cymetrics Vulcan 軟體使用手冊
2. Cymetrics Vulcan 軟體授權文件
陳述與他牌同性質產品之獨特性或功能差異性
•亞洲經驗：擁有對亞洲語言及本地文化用語深厚了解，這對於生成式AI應用的部署和使用至關重要。
•端到端服務：從驗測評估AI風險到修復建議，為提供無縫體驗。
•AI研究團隊：運用最新AI攻擊技術與方法，提高準確性與效率，特別有助於。
•更高的攻擊成功率：相較於基礎測試，我們的方法能產生更佳效果，有效保護AI應用系統。
•業界領先的AI資安框架覆蓋性：Cymetrics Vulcan的方法結合OWASP、MITRE ATLAS及NIST框架，全面涵蓋AI的安全性、保障性及合規性，提供最佳保護。
產品功能規格
1.AI風險準備：針對AI應用場景生成對抗性AI攻擊提示，測試資安漏洞與AI風險，涵蓋：
(1)資安與隱私性：通過安全測試檢測漏洞，包括：
- 注入攻擊：檢測API整合中的指令注入、DB注入及程式碼執行缺陷。
- 越獄攻擊：繞過系統保護生成受限制輸出。
- 提示詞外洩：檢測是否無意揭露系統指令或提示詞。
- 資料外洩：檢查無意洩漏敏感訓練數據。
- 隱私洩漏：檢測個人識別資訊或機密數據的洩露。
(2)安全性：確保AI大語言模型符合負責任AI的安全與合規標準，並解決偏見、傷害性內容等問題。
- 傷害性內容檢測：評估模型是否生成有害或不當內容。
- 偏見檢測：檢測不同人口統計之間的系統性偏見。
2. AI大語言驗測：在指定環境或透過API遠端執行，根據對抗性攻擊提示進行測試，動態調整策略深入檢測。
-檢測技術：涵蓋30多種已知及專有攻擊技術，最多可執行超過1,500個AI風險測試案例。
3. 測試報告：提供詳細評估報告，包括發現的漏洞及修復建議，以提升AI模型安全性。
功能規格/基本需求
Cymetrics Vulcan 提供 SaaS 平台，用戶須準備基礎架構資訊。
(1)App Server: 使用 Azure Kubernetes Service (AKS)
Master Nodes：由 Azure 管理
Worker Nodes：Standard_e4s_v4
(2)資料庫：使用 Azure Database for PostgreSQL Flexible Server
Instance：Standard_D4ds_v5，256GB SSD
(3)AI 伺服器：使用 Azure OpenAI GPT-4
(4)其他服務: SMTP 服務、Gateway
