邁向邊緣嵌入式AI代理系統的模組化架構

研究論文提出一個模組化參考架構，用於嵌入式AI代理系統，旨在解決在資源受限環境中部署代理AI的挑戰。大語言模型的興起使得代理AI能進行複雜推理和工具使用，但現有框架通常假設伺服器級資源或持續連接，不適用於嵌入式微控制器。論文引入分層設計，將設備端代理與雲端增強代理分離：設備端代理執行高度壓縮的神經網絡和規則邏輯，處理低延遲、隱私敏感任務；雲端增強代理則利用小語言模型進行高層次推理和規劃。一個關鍵貢獻是整合了跨層次的治理層，確保分佈式自主設備的可觀察性、策略執行和安全性。論文不是提供純粹的實驗基準，而是分析架構設計原則和權衡，如延遲、能源消耗和可靠執行，為嵌入式AI代理系統的理論與實踐提供基礎。