邊緣 AI 使設備能夠更快地做出更明智的決策，而無需連接到雲或異地數據中心。
邊緣 AI 是在邊緣計算環境中實現人工智能，它允許在實際創建數據的位置附近進行計算，而不是在集中式雲計算設施或異地數據中心進行計算。
這種本地化處理允許設備在幾毫秒內做出決策，而無需互聯網連接或雲。從本質上講，當設備產生數據時，板上的算法可以立即使用數據。
邊緣 AI 定義
邊緣 AI 是在邊緣計算環境中實現人工智能。這意味着人工智能計算是在給定網絡的邊緣完成的，通常在創建數據的設備上 - 如相機或汽車 - 而不是在集中式雲計算設施或異地數據中心。
例如，假設您有一個智能咖啡壺，可以為每個用戶生產定製飲料，並隨着時間的推移從他們的偏好中學習，這要歸功於人工智能。但與大多數智能設備不同的是，這款咖啡壺沒有連接到互聯網，它用於處理數據的所有算法都是在咖啡壺本身內生成的——這要歸功於邊緣人工智能。
這種技術的使用遠遠超出了您的廚房台面的範圍。Edge AI 能夠以更高的速度、更低的成本和更低的功耗更安全地生成實時分析，這使其成為雲計算 AI 的有吸引力的替代品，製造業、醫療保健和能源等行業的公司都在利用這一優勢。
什麼是邊緣 AI？
簡而言之，邊緣 AI 是邊緣計算和人工智能的結合。因此，要了解邊緣AI，首先必須了解邊緣計算和人工智能。
什麼是邊緣計算？
邊緣計算是一種分布式計算框架，它使計算和數據存儲更接近實際設備，而不是異地數據中心。由於數據與設備的接近，邊緣計算可以提高速度和響應時間。
如今，智能設備無處不在。從手腕上的手錶到車庫裡的汽車，一切都能夠執行自主計算並與其他智能設備交換數據——這一概念通常被稱為物聯網或物聯網。
所有這些來回飛來飛去的數據都給數據中心帶來了沉重的壓力。但邊緣計算旨在通過將一些處理移近其原點來減輕這種負擔。因此，可以說，工作不是前往雲端，而是在「邊緣」完成。
「邊緣」僅指正在使用的設備。這可以是手機、相機、汽車、醫療設備或電視。因此，邊緣計算是指計算機位於該設備內部或附近。而且，與任何其他計算機一樣，邊緣計算機旨在處理標準數據。
什麼是人工智能？
人工智能是計算機科學的一個分支，涵蓋了機器學習和深度學習等廣泛的技術。人工智能的目標是構建智能機器，這些機器可以在沒有人類監督的情況下工作和執行人類通常完成的任務。
綜上所述，邊緣AI本質上是「在本地做這項工作並做出決策」，邊緣AI初創公司ClearBlade的創始人兼首席技術官Aaron Allsbrook表示。「這都是規則。這是處理，它是收集數據，它是理解數據 - 不是在大型服務器或雲中，而是在你的房子裡，在工作或工作現場，或者在停車場，「他告訴內置。「這是關於移動不同的數學算法，並在邊緣運行這些預測。
邊緣 AI 的優勢
邊緣 AI 具有成本效益
為電子商務初創公司構建機器學習工具的公司Dianthus的創始人兼首席技術官Rob May作為風險投資公司PJC的合伙人首次意識到邊緣人工智能，當時Deeplite是一家將AI計算能力引入無人機和相機等邊緣設備的公司，被推薦給他作為投資機會。他持懷疑態度，甚至一開始就通過了。
「當我最初考慮邊緣AI市場時，我認為這將是一個小市場，」他告訴Built In。但隨着他越來越多地思考這個問題，他開始意識到這是一個非常「成本驅動」的行業。因此，當Deeplite再次向PJC推銷時，他同意投資它。
「假設你有一個小型安全攝像頭，你希望這個攝像頭做某種分析。你可能無法一直保持相機雲連接，相比之下，只有一個芯片和一個2美元的微控制器，「他繼續道。「在很多情況下，[邊緣AI]可以是一個更好的模型。
邊緣 AI 更快地處理數據
成本效益只是邊緣AI的眾多吸引力之一。在邊緣集成人工智能使實時數據分析成為可能，保留帶寬，並減少雲連接機器學習模型中經常遇到的延遲。事情可以加速幾毫秒，當它用於自動駕駛汽車之類的東西時，這可能會產生很大的不同。此外，由於數據保留在設備中，不會在私有數據中心之間來回移動，因此通常更安全。而且，隨着安全性的提高，隱私變得越來越重要，尤其是在物聯網設備方面。
儘管如此，邊緣人工智能仍然是「相當新的」，Allsbrook說。「我會說它正在出現。我認為我們才剛剛開始看到什麼是可能的。
邊緣人工智能的缺點
邊緣 AI 需要持續培訓
邊緣 AI 系統可能具有挑戰性，因為與其他 AI 模型一樣，它們必須定期和持續地進行訓練——只需使用來自邊緣設備的數據。這通常意味着通過將數據從大量邊緣設備傳輸到雲來創建數據集，這可能相當複雜，具體取決於可用帶寬和與邊緣設備的連接。
邊緣AI需要採取額外的安全措施
安全也是一個值得關注的領域，只是方式不同。雖然邊緣計算可以通過保持本地處理使系統更加安全，但基礎設施和設備本身需要自己的安全措施。這可能包括訪問控制、流量監控、數據備份、防病毒和反惡意軟件，甚至加密。
邊緣AI一直很慢（但這種情況正在改變）
邊緣AI市場的增長速度並不像一些人希望的那樣快。自從PJC最初投資Deeplite以及更大的邊緣AI空間以來，May表示，就普遍採用而言，市場「比預期的要慢一些」。他將此歸因於邊緣人工智能實際需要的設備（如無人機、手機、汽車）的更長設計周期。他說，其中另一個重要部分是普遍缺乏意識到某些科技公司甚至存在這一空間。
「你必須意識到一些事情，然後你必須把它構建成一個循環。從設計的角度來看，這可能需要18個月才能把一些東西拿出來，「梅說。「我認為所有這些加起來。但我希望它會越來越好。
這似乎已經發生了。根據 Allied Market Research 的數據，2020 年邊緣 AI 市場價值僅為 900 萬美元，但預計到 2030 年將價值近 6000 萬美元。同時，Gartner 在 2020 年預測，到 2025 年，75% 的企業數據將在邊緣生成和處理，完全繞過雲。（邊緣計算社區主導編寫的邊緣計算年度行業報告也在撰寫ing，各位老師請耐心等候）
該領域的公司正在繼續吸引投資者的關注。例如，AI芯片初創公司Axelera籌集了2700萬美元資金，並聘請英特爾邊緣AI和物聯網集團前副總裁兼總經理喬納森·巴隆(Jonathan Ballon)擔任董事長。
Del Maffeo 表示，在不久的將來，Axelera 計劃專注於安全、零售和工業自動化行業，因為這三個行業都在計算機視覺技術和相機方面投入巨資，而其芯片正是專門針對這些技術而設計的。例如，這些芯片可用於 Amazon Go 雜貨店的無收銀結賬，或者智能城市的安全攝像頭，或者需要視覺來防止與人類同事發生事故的協作機器人。「邊緣計算可以幫助人們提高生活質量，」Del Maffeo 說。
「我們正處於一個轉折點，新技術確實可以對我們周圍人們的生活質量產生巨大影響。......如果你展望 10 到 15 年，我們周圍的世界將會發生很大變化，而邊緣人工智能可以對其產生積極影響。」
邊緣 AI 技術如何工作？
藉助邊緣 AI，機器學習算法可以直接在給定網絡的邊緣運行，靠近生成運行系統所需的數據和信息的位置，例如物聯網設備或配備邊緣計算設備的機器。邊緣 AI 設備使用嵌入式算法來監控設備的行為，以及收集和處理設備數據。這允許設備做出決策，自動糾正問題並進行未來的性能預測。
邊緣 AI 可以在各種硬件上運行，從現有的中央處理器或 CPU 到微控制器和高級神經處理設備。一些最常用的邊緣計算機是由英特爾、恩智浦和高通等大型科技公司製造的。
雲 AI 與邊緣 AI
雖然雲 AI 和邊緣 AI 之間存在相似之處，但它們有明顯的差異。
雲 AI 是指在雲上處理和存儲數據。這為軟件工程師在雲AI系統的設計和結構方面提供了更大的靈活性，但它需要互聯網連接才能運行。雲AI對互聯網連接的依賴可能會導致效率和安全問題。
由於邊緣AI在本地處理和存儲數據，無需互聯網連接，因此該技術可以生成實時數據並做出獨立決策。
May表示，邊緣AI設備實現的高水平計算能力最終可能會使邊緣AI比雲AI更大。但這在很大程度上取決於進入市場的芯片種類，以及它們的便宜和效率。
Axelera 是一家致力於實現這一目標的初創公司，該公司正在設計一種芯片，該芯片可提供高計算性能和可用性，聯合創始人兼首席執行官 Fabrizio Del Maffeso 表示，這種芯片是我們今天通常看到的技術的「價格和功耗的一小部分」。因此，該芯片不是將數據從內存轉移到 CPU 再轉移到內存（這是大多數計算機的典型做法），而是將內存與 CPU 合併在一起，這就是所謂的「內存計算」，他解釋道。「我們正在修改內存，並在內存中進行計算。這使得芯片非常高效，因為你不需要移動太多數據。」 他繼續說，通過將計算元件本質上嵌入到內存中，可以加速計算機的神經網絡。
Axelera 當然不是唯一一家在這一領域進行創新的公司。邊緣人工智能硬件市場預計將從 2021 年的 9.2 億台增長到 2026 年的超過 20 億台。而且，根據一項估計，到 2025 年，僅邊緣人工智能芯片市場預計將增長約 730 億美元。
邊緣 AI 的重要性
總體而言，隨着人工智能的日益普及，邊緣人工智能正在增長，人工智能正在繼續優化日常生活中最平凡的部分——從預測城市垃圾收集的最佳日期，到幫助小企業更高效地運營。儘管技術複雜，但邊緣人工智能的最終目標相當簡單：更接近設備本身，從而減少需要移動的數據量。
反過來，這可以保留帶寬並減少延遲，或者必須傳輸外圍應用數據才能進行處理。此外，由於這些數據不必傳播很遠，邊緣人工智能使實時分析成為可能，這可能會對這個已經快速發展的領域的未來創新產生重大影響。
「邊緣人工智能更加實時。它會查看來自實時反饋的數據，從而在實時反饋中做出預測，」Allsbrook說。「如果我們能夠在邊緣進行人工智能，我們就可以動態地做出非常酷的預測，而無需將數據移動到集中式雲或 IT。」
邊緣 AI 示例
邊緣AI可能因其工業物聯網應用而最受歡迎，但這並不是它唯一的用例。邊緣AI的其他示例可以在DevOps，機器人技術，消費者技術等中找到。
運行狀況監視設備
邊緣人工智能使醫院和其他醫療保健提供商能夠獲得人工智能的好處，而不必不必要地傳輸敏感的患者信息。從心臟追蹤器和血壓傳感器等健康監測設備收集的所有數據都可以在本地進行處理和分析，從而實現實時分析，幫助醫療專業人員為患者提供更好的護理。
邊緣 AI 實施軟件
Allsbrook的公司ClearBlade專門從事在工業物聯網設備中實施邊緣AI，特別是當它與預測性維護或預測某些設備何時發生故障有關時。公司可以直接在ClearBlade平台上通過實時物聯網數據源進行推理，這要歸功於其名為Onyx的引擎，該引擎允許人們使用許多不同的語言和各種類型的工具構建模型。
Allsbrook說，他還注意到人們正在使用Onyx通過邊緣AI重新利用他們的舊模型，將它們引入新技術，而無需構建新模型或聘請新的數據科學家團隊。
自動駕駛汽車
當一輛重 4,000 磅的自動駕駛汽車在繁忙的道路上行駛時，每一毫秒都很重要。邊緣人工智能實現的快速數據處理使系統能夠快速響應周圍的世界——理想情況下使其成為更安全、更可靠的裝置。
安全攝像頭
Edge AI使用計算機視覺，物體檢測和面部識別使一些安全攝像頭（例如Vmukti的攝像頭）特別有效。它們允許從任何位置進行雙向音頻、數字變焦和遠程監控。
智能家居
從可視門鈴到監控食品消費和保質期等內容的語音控制燈泡和冰箱，智能家居包含一個物聯網設備網絡，這些設備旨在協同工作，使居民的生活更輕鬆。邊緣 AI 允許所有這些都在現場進行，而不是這些設備必須將所有數據從房屋發送到集中式遠程服務器進行處理，從而使其更快、更安全。
邊緣 AI 的未來
梅說，如果我們所有的智能設備都配備了人工智能，那麼我們很可能會在日常生活中注意到它。他預測，更多事物將有聲音嵌入其中。而且這項技術可能會工作得更快，更便宜。
「當你考慮將智能構建到每個設備的能力時，無論它有多小，無論它是否連接互聯網，我認為這是一個非常強大的機會，」梅說。「如果所有這些都必須始終與雲連接，那就很難了，」他繼續說道，因此「邊緣人工智能是有助於這種環境計算的關鍵技術之一。
事實上，他認為最終邊緣人工智能可能會比雲人工智能更大，只要它能夠保持高水平的計算能力。這並不是說這項技術將完全取代雲計算。公司可能仍然需要將其所有軟件即服務（SaaS）、應用程序、數據庫應用程序和基礎架構保留在雲中。
相反，Del Maffeo預測，隨着人工智能變得越來越複雜，兩者將相輔相成。
「你的手機越來越強大。你的電視正在變成一台電腦，「他說。「我的意思是，計算機無處不在。這是一個經典的趨勢。
[作者：Ellen Glover 編譯：樂偉/邊緣計算之家]
原文：https://builtin.com/artificial-intelligence/edge-ai
