廣和通發(fā)布Fibocom AI Stack，助力客戶快速實現(xiàn)跨平臺跨系統(tǒng)的端側AI部署
拉斯維加斯2025年1月8日 /美通社/ -- 1月7日-10日，2025年國際消費電子產品展覽會（CES 2025）盛大舉行，廣和通發(fā)布Fibocom AI Stack，賦智千行百業(yè)端側應用。Fibocom AI Stack提供集高性能模組、AI工具鏈、高性能推理引擎、海量模型、支持與服務一體化的端側AI解決方案，幫助智能設備快速實現(xiàn)AI能力商用。
Fibocom AI Stack
為適應不同端側場景的應用，AI Stack具備海量端側AI模型及行業(yè)端側模型，基于不同等級算力的芯片平臺或模組，F(xiàn)ibocom AI Stack可將TensorFlow、PyTorch、ONNX、MXNet等機器學習和神經網絡的模型進行壓縮，并轉換為適合端側部署的最優(yōu)模型，以匹配不同智能終端應用場景。AI Stack支持Android、Linux、Ubuntu等系統(tǒng)，幫助終端客戶實現(xiàn)跨芯片平臺、跨操作系統(tǒng)的端側高性能推理與部署。
端側部署流程
AI Stack擁有完整AI工具鏈，集成易于部署的代碼，可進行數(shù)據(jù)標注、模型訓練、模型微調。針對模型移植，AI Stack提供模型轉換、模型量化和算子替換等能力。廣和通還提供包含基準測試、性能監(jiān)控、性能分析等評測服務，協(xié)助開發(fā)者更直觀地驗證終端部署效果。
高性能推理引擎作為AI部署的關鍵組件，將訓練、轉換完成的模型高效部署在端側并執(zhí)行推理任務，從而在實際業(yè)務場景中實現(xiàn)多樣化的AI應用。推理引擎支持C++/Python/Java等多種編程語言接口，可滿足跨平臺的應用開發(fā)，顯著降低開發(fā)者端側AI開發(fā)的難度和復雜度。通過異構調度、和硬件加速等策略，可最大化發(fā)揮AI模組性能，提升推理速度，降低功耗。
同時，AI Stack提供一套全面、豐富的模型倉，包含機器視覺、聽覺、多模態(tài)、大語言模型以及行業(yè)端側模型等海量模型，可助力行業(yè)終端實現(xiàn)目標檢測、語義分割、對話問答、語音識別、圖像問答、多語言翻譯等功能。
Fibocom AI Stack助力千行百業(yè)數(shù)智化轉型
得益于其通用性、易用性、高效性等特點，AI Stack可最大程度滿足客戶多層級算力要求，縮短終端開發(fā)周期，降低端側AI開發(fā)難度，助力智能座艙、智能穿戴、智能零售、機器人等千行百業(yè)的業(yè)務場景擁抱端側AI。
廣和通AI研究院院長劉子威表示：
"廣和通于2024年成立AI研究院，并將端側AI作為公司戰(zhàn)略方向之一，助力產業(yè)數(shù)智化升級。隨著終端芯片算力、模型能力增強，以及應用場景對實時響應及隱私保護需求增加，端側AI將助力更多IoT場景智能化。Fibocom AI Stack為客戶提供了一站式端側AI部署的能力，未來將廣泛幫助智能零售、智能網聯(lián)車、智能穿戴、機器人等場景快速AI升級。廣和通將積極聯(lián)合產業(yè)伙伴拓展AI創(chuàng)新應用，助推端側AI商業(yè)落地。"
