FFM福爾摩沙基礎模型地端標準版一年授權
標案名稱113年第四次電腦軟體共同供應契約採購-套裝軟體
組 別8
單 位套
項 次296
採購數量級距1-30
產 地臺灣
評 價
無
陳述與他牌同性質產品之獨特性或功能差異性
Llama3-FFM-70B模型tmmlu+測評超越GPT4.0，llama3/llama2/Mistral/Mixtral全國繁中模型2024率先唯一支持function calling功能，賦能串接第三方API，促進LLM進階應用開發。
產品功能規格
台智雲繁體中文大語言模型 —「福爾摩沙大模型」(Formosa Foundation Model)。FFM 模型系列自 BLOOM、Llama2、Mistral 到最新的 Llama3，提供各式開源模型之繁中強化版本。在模型規格方面，也提供各模型最完整之參數量規格，包括 BLOOM-176B、Mixtral-8x7B、Llama3-70B 等巨量參數大模型。在快速變化的 LLM 應用需求中，及時提供您最完整多樣的大語言模型規格及應用服務，加速機關與企業 AI 2.0 落地應用。每套授權可部屬於兩台實體伺服器或4台虛擬伺服器。
功能規格/基本需求
處理器：雙路以上X86-64 CPU，主頻至少 2.0GHz，核心數至少16核心以上；建議 32 核心以上。
記憶體：至少32GB以上，佈署大型模型建議256GB以上或更多。
儲存：500GB SSD 或 NVMe 磁碟，RAID 陣列可提高冗餘和效能。
乙太網路：雙卡10GbE 或更高25GbE
GPU加速卡：至少一張配備48GB記憶體以上之GPU加速卡
OS: Ubuntu 20.04 LTS
容器管理環境：Kubernetes 1.27.0以上
