訂閱電子報，掌握最新科技與產業趨勢
2026/07/28
益登科技以NVIDIA技術推動Edge AI落地
整合開源AI生態與系統最佳化，協助企業降低大型AI模型部署成本
亞洲最佳解決方案合作夥伴益登科技（TWSE:3048）宣布深化與NVIDIA合作，整合NVIDIA Edge AI平台、開源模型(Open Source Model)與系統最佳化技術，協助企業降低大型AI模型部署門檻，加速Edge AI應用落地。隨著生成式AI快速從模型驗證走向實際應用，企業關注的焦點也開始改變。比起一味追求AI模型規模，如今企業更重視如何讓AI能在既有硬體平台上穩定運行、快速部署，並兼顧整體建置成本與投資效益。從智慧製造、自主機器人到智慧醫療，Edge AI已成為推動企業數位轉型的核心，而高效率的部署能力，更是決定Edge AI專案能否成功落地的關鍵。
目前企業導入AI的模式，已由自行訓練模型，轉向採用成熟的基礎模型(Foundation Models)與開源AI生態，加快開發速度，再依不同應用需求進行最佳化與部署。然而，模型能力持續提升，也讓記憶體容量、推論效率及系統整合成為新的挑戰。益登科技整合NVIDIA Jetson平台、NVIDIA JetPack、NVIDIA CUDA、NVIDIA TensorRT、NVIDIA Jetson AI Lab等開發資源，並結合主流開源模型及推論框架，提供從平台選型、模型導入、模型量化(Quantization)、記憶體最佳化(MemoryOptimization)到系統驗證的一站式技術服務，協助企業提升既有平台的資源使用效率，降低整體導入成本，縮短從概念驗證(PoC)到量產導入的時程。以NVIDIA公開展示的ReachyMini Jetson Assistant為例，透過採用HeadlessMode、NVIDIA Cosmos-Reason2開源視覺語言模型(Vision-language Model, VLM)、模型量化及最佳化推論框架等技術，即可在NVIDIA Jetson OrinNano 8GB平台上，同時執行視覺語言推論、語音轉文字(STT)及文字轉語音(TTS)等多模態AI工作流程；展現透過軟體與系統最佳化，即使在有限的硬體資源下，仍能在裝置端高效率運行多種AI模型，同時降低記憶體使用量。類似架構也逐漸應用於智慧製造、自主機器人及智慧醫療等場域，例如產線設備巡檢、智慧影像辨識、語音互動及自主決策等應用，都可直接於裝置端完成AI推論，兼顧即時反應、資料安全與整體營運效率。
益登科技執行長于俊潔(Jeffrey Yu)表示：「生成式AI已經進入落地應用階段。現在企業最大的挑戰，不是找不到AI模型，而是如何把AI穩定部署到產品與實際應用場域。很多專案最後勝出的關鍵，不在於硬體規格，而是部署效率、系統整合能力以及整體投資效益。益登的角色不只是提供平台或元件，更協助客戶整合NVIDIA平台、開源AI生態與系統最佳化技術，縮短從技術驗證到產品上市的時間，降低AI專案導入風險，讓AI更快創造實際商業價值。」
憑藉多年Edge AI與嵌入式系統整合經驗，益登科技提供涵蓋以NVIDIA技術驅動的選型、開源AI模型整合與應用最佳化、硬體設計到系統導入的一站式解決方案，目前已協助客戶將Edge AI應用於智慧製造、自主機器人、智慧醫療、智慧零售及智慧城市等領域。未來，益登將持續與NVIDIA及開源生態夥伴合作，協助企業突破大型AI模型導入限制，加速AI從概念驗證邁向規模化應用，讓創新技術真正轉化為產業價值。
參考案例
- NVIDIA ReachyMini Jetson Assistant: https://developer.nvidia.com/blog/maximizing-memory-efficiency-to-run-bigger-models-on-nvidia-jetson/
- 完整記憶體最佳化指南請參考益登技術文章：https://www.edomtech.com/zh-tw/article-detail/memory-optimization-strategies-for-scaling-ai-models-on-nvidia-jetson/
