邊緣側 AI 智慧更新
嵌入式工程師都清楚，在邊緣側設備上更新 AI 模型並非易事。通常情況下，工程師將神經網路直接燒錄到韌體中，寄望模型能長期穩定運行；而更新模型往往需要物理接觸設備，還得進行完整的重新編程。
試想一下，若要為已部署的數百台（甚至數千台）設備更新模型，其難度可想而知。這不僅耗費時間，還需投入大量人力。但得益於 ADI 公司近期的技術突破，模型更新將不再是難題。
認識機器人群體：OpenSwarm
在 ADI 參與歐盟資助的 OpenSwarm 計劃 (openswarm.eu) 期間，群體規模的模型更新是團隊面臨的主要挑戰之一。OpenSwarm 計劃旨在演示並推動小型自主機器人群體中的協同 AI 技術落地，任務極具挑戰性：
-
機器人體型小巧，導致電池容量與物理空間受限。這意味著模型更新必須具備極高的效率，需最大限度降低功耗、網路頻寬佔用與數據量。
-
若模型更新後安裝失敗，機器人需具備從這類錯誤中恢復的能力。
-
機器人還具備高度移動性，可能無法接入中央網路。
利用 ADI 創新技術
憑藉 60 年來在超高能效運算領域積累的專業經驗，ADI 成功應對上述挑戰，推出了一項突破性解決方案。ADI 位於愛爾蘭利默里克與羅馬尼亞克盧日-納波卡的團隊攜手合作，研發出一種全新的模型更新技術，可實現卷積神經網路 (CNN) 的無線 (OTA) 部署與更新。這套解決方案採用了 ADI 的 MAX78000 處理器與 SmartMesh 網路技術，兩者均為 OpenSwarm 機器人群體的核心組件。
為何選擇 MAX78000 處理器？
MAX78000 的硬體設計專為這類資源受限場景打造：它搭載了低功耗 Cortex®-M4 處理器和專用的 CNN 加速器（配備 64 個並行處理單元）。此外，MAX78000 SDK 能夠將 PyTorch 模型進行打包與量化處理，並整合至韌體中。
圖 1. 基於 MAX78000 的硬體加速 CNN 平台。
模型即數據：解鎖模型更新
開發者通常會將量化後的模型嵌入為靜態 C 語言陣列，而我們則採取了不同思路，構建了一套基於韌體的架構，將神經網路視為可載入的數據結構。我們將這些量化後的模型數據封裝成結構化韌體格式，其中包含了 CNN 運行所需的全部要素：層配置、量化權重、偏置值和架構元數據。
這套系統的核心是一款 CNN 引擎驅動程式，它能屏蔽 MAX78000 處理器中 CNN 加速器的複雜性，負責處理記憶體管理、算子調度、硬體同步等複雜任務。
我們的方案實現了什麼效果？一套程式碼即可運行多個模型。 這套工具集不僅縮短了開發時間，更讓模型更新變得簡單易行：模型成為了可獨立於核心應用邏輯進行載入、替換與更新的數據；即便面對差異極大的模型，同一套 CNN 引擎驅動程式也無需修改就能執行。
組網傳輸：OTA 更新如何觸達每一台機器人
團隊採用 ADI 的 SmartMesh 無線組網技術實現 OTA 模型更新。SmartMesh 不依賴 Wi-Fi 或 5G 基礎設施運行，能為大型動態網路提供可靠、低功耗的通信服務。在我們的機器人群體中，每個節點既充當感測器，也承擔路由器的角色。即便在複雜或有遮擋的環境中，更新包也能透過 Mesh 網路「跳躍式」傳輸。藉助 SmartMesh，即便設備超出了中央網關的直接覆蓋範圍，也能安全、高效地獲取最新 AI 模型。
OTA 模型部署工作原理
由於模型已被視為數據，OTA 更新可遵循簡單的韌體更新步驟進行：
- 韌體透過 SmartMesh 無線網路傳輸。
- 每台機器人接收到韌體後，會檢查韌體的相容性、大小及支援的網路層。
- 若驗證有效，機器人在單個步驟中完成模型安裝。
若更新過程中出現問題，系統會回退至之前的模型，確保系統安全運行，降低停機風險。設備透過 FatFS（檔案分配表檔案系統）將多個模型存儲在 SD 卡中，便於進行版本測試、切換或回滾操作。
簡化部署：視覺化模型管理
大型機器人群體給模型管理與分發帶來了挑戰。為解決這一問題，我們開發了一款簡潔的網頁端管理工具。用戶只需將模型韌體拖放至瀏覽器即可，這款工具會對檔案進行校驗、載入待分發模型，並即時顯示模型在機器人群體中的更新進度。
這款工具還支援用戶完成以下操作：
-
查看 CNN 的結構
-
並排對比新舊模型
-
監控記憶體用量與參數資訊
這款管理工具降低了技術使用門檻，助力工程師與數據科學家協同完成模型更新，無需具備嵌入式系統專業知識。
展望未來
OTA 模型部署改變了我們對邊緣側 AI 的認知：它將智慧與韌體分離，使模型能夠獨立迭代，無需對設備進行整體重新編程。企業可藉助這項技術，為邊緣側設備提供持續升級服務。儘管我們使用 MAX78000 處理器與 SmartMesh 技術驗證了這種方案的可行性，但它具備廣泛適用性，有望塑造下一代 AI 驅動系統的發展方向。
了解詳情
希望實現邊緣側 AI 工作流的現代化升級？OTA CNN 部署為嵌入式智慧賦予了靈活性與可控性。歡迎聯繫我們的團隊，或深入了解 ADI MAX78000 處理器與 SmartMesh 組網技術。
本項目獲得了歐盟的地平線歐洲框架計劃資助，資助協議編號：101093046。
