斑馬技術大中華區技術總監 程寧 云服務和各種人工智能(AI)應用編程接口(API)推動著倉儲、零售等多個行業的數字化轉型。過去數年內,物聯網(IoT)的發展催生了數以百萬計的傳感器數據,而這些數據則被傳輸到了公有云和私有云上的基礎設施,并對其進行分析。 從能夠記錄當前庫存情況并動態訂購所需物品的手持設備,到可整合來自視覺反饋的信息以了解特定人員在倉庫輪班時是否滿足必要的合規性且配備有公共安全裝備,相關的用例多種多樣。在第一種用例中,時間序列從基于邊緣的手持設備或固定攝像頭持續發送到云數據分析服務。相比之下,第二種用例則借助云端的深度學習模型,采用人員檢測、追蹤和再識別模塊,來進行圖像抓取。在這兩種情況下,邊緣設備均是作為向云端傳輸信息的管道。 我們為何需要邊緣智能? 更靠近終端用戶的傳感器網絡延遲更低,且能夠節省帶寬。此外,在將數據傳輸到更廣泛的云計算基礎設施前,還可在設備端進行預處理,這有助于保護從設備中收集和推斷出的數據隱私。這些則構成了邊緣智能的一些核心要求。具有低水平計算的邊緣設備或傳感器能夠彈性地創建網絡(Mesh網絡),聊天機器人、儀表盤、智能手機、溫度傳感器等設備能夠間歇性地連接到網絡,以收集、計算和分享信息。在傳統的物聯網世界中,這些傳感器能感知世界,并準確地將信號傳輸到公有云或私有云中。 那么,多臺邊緣設備是否能夠分享自身的輸入和有限機載計算來實現同一目標呢?如此一來,我們就擁有了多臺有限機載計算的邊緣設備,它們可以聚集于一個Mesh網絡下,以解決諸如倉庫或零售店的資產追蹤問題。大體上而言,其用例能夠涵蓋自主設備(無人機、自主移動機器人、自主車輛)、沉浸式體驗(增強現實/虛擬現實可穿戴設備),以及物聯網分析(工業和家用傳感器)等。 邊緣人工智能 我們可以為邊緣設備注入強大的“智能性”,基本上有兩種在邊緣運行機器學習的方法,一種是使用集中式聯邦學習工具的集中式拓撲,另一種是模糊數學領域的去中心化分布式(無云數據中心)聯邦學習算法。 聯邦學習有賴于在計算能力相對低的設備中訓練機器學習模型,并將本地習得的模型轉移到數據庫進行下一步處理。首先,來自云數據中心的云端訓練模型會被發送到各臺邊緣設備,然后使用本地數據,對該模型進行微調,再將模型發送到云平臺,以進行模型更新。通信模式可以是同步的,也可以是異步的。此外,有一些類型的統計推理算法使邊緣設備能夠相互發送消息,從而減少本地模型的通信負載。根據用例的不同,還需要考量距離、延遲和移動性等指標。 第二種方式,使用去中心化的聯邦學習,這通常是部署機器學習模型的優選方式。信息分散在各臺設備上,而非單一的某個點,進而降低各類網絡安全攻擊的可用面。從技術上來說,去中心化形式的通信模式可以通過圖表、分布式賬本或簡單的對等網絡來進行。這意味著企業可以為倉庫、制造工廠、整體零售供應鏈或商店的一線員工配備精密的由機器學習驅動的設備,利用設備內的機器學習模型,增強并加速通信和決策,并在網絡中共享。 邊緣智能的前景在于,這種去中心化的拓撲結構將催生新一代的芯片企業。這些企業將專注于計算,并提升每瓦特運行效率,同時致力于計算的協同設計來滿足通信需求,例如Mesh拓撲結構(對等網絡、分布式賬本、圖表)。 邁向邊緣智能 網絡邊緣正不斷改變著拓撲結構和設備。云端存在著能夠動態調度有效載荷的編排算法。然而,對于邊緣設備來說,隨之而來的還有數以百萬計的設備、更多的異質性電源包絡,以及各種設備的計算能力等問題。數據采集和模型日益碎片化,在整體數據中,每臺設備都占有一定的比例,但無法訪問整個數據集。更多的邊緣設備正在向著小型化、低功率、有限計算的方向發展。 但與此同時,其為企業及一線員工所帶來的助益引人注目,其中包括完善隱私和免受攻擊的保護、提升實時自動化決策、降低互聯網帶寬和云計算成本、提高能源效率、實現更強大的計算能力,并通過明確的投資,為一線員工配備適合其開展工作的先進設備。 研究人員、企業高層和一線員工需要協力同行。研究人員要為技術的成熟發展提供相應的支持,在日后的工作中著重于去中心化算法,結合動態變化的通信模式,優化芯片,并將計算與通信融為一體。而對于倉儲、物流和零售業的企業高層來說,這意味著要制定技術成熟度水平發展路線圖,以緊跟市場步伐,并確保一線員工擁有先進的設備和軟件工具以更好地完成工作。 |