瞄準5G邊緣計算,寒武紀邊緣AI芯片橫空出世
作者:米樂發布時間:2025-01-16
中國經濟導報、中國發展網 記者王曉濤報道
11月16日,中國科學院發展規劃局公示2019年杰出科技成就獎授獎建議名單,中國科學院計算技術研究所研究的“深度學習處理器體系結構”名列其中。基于這一科技貢獻,中科院計算所進一步研制了國際首個深度學習處理器產品寒武紀1A。
無獨有偶,就在名單公示的兩天前,即11月14日,寒武紀在第21屆深圳高交會上正式發布了邊緣AI系列產品“思元220”(MLU220)芯片及M.2加速卡產品,該芯片的發布標志著寒武紀在云、邊、端實現了全方位、立體式的產品覆蓋。米樂

AI芯片高速成長
與中科院計算所淵源頗深的寒武紀公司,是一家專注于AI芯片的創新公司。AI芯片近幾年非常火熱,僅去年一年,業內就推出了十幾款AI芯片。如果將AI專用芯片與通用芯片相比較,不難發現兩者各有優劣:通用芯片難以負荷對計算的高要求,AI專用芯片則在可編程性、靈活性上有所欠缺。
賽迪研究院日前發布的數據顯示,2018年,全球AI芯片市場呈現快速增長趨勢,市場規模達到45.3億美元,增速高達48.5%;中國AI芯片市場依然保持增長,市場規模達到80.8億元,同比增長50.2%。2018年,中國AI芯片市場占據全球25.9%的市場份額,預計未來幾年仍將以超過50%的速度快速增長。
邊緣計算成為熱點
在我國5G正式商用后,AI芯片又將扮演怎樣的角色呢?事實上,隨著5G時代的到來,邊緣計算越來越受到關注,越來越多的系統、算法和應用廠商開始投入邊緣計算。何謂邊緣計算?在“思元220”的發布會上,寒武紀副總裁劉道福解釋說,簡單來說,邊緣計算就是數據在本地進行匯集,比如網關處,在這個交匯點對數據進行計算處理。
與數據中心計算和云計算相比,邊緣計算具有三個優勢:第一,可以大幅降低傳輸成本,在很多行業,比如能源和工業領域,網絡條件并不好,并且通訊基礎設施的改造成本很高,因此數據直接在邊緣進行處理,處理完的數據直接用于邊緣決策,或者有效信息傳回云端集中決策,這都可以減少傳輸成本。第二,可以大幅降低延時,邊緣計算往往具有實時的要求,因為要對各種設備進行實時決策,而傳統的云計算由于網絡延時,很難做到實時。第三,可以保護數據隱私和安全,邊緣計算無需將數據或者原始數據傳回云端,從而可以大大保護數據的安全和用戶隱私,減少數據泄漏。
“在所有邊緣計算種類中,人工智能是很核心很重要的一類計算,因為邊緣往往和各類傳感器相連,而傳感器的數據往往是非結構化的,比如視頻、圖像和語音,很難直接用于控制和決策,因此需要邊緣人工智能計算將非結構化的數據結構化,從而用于控制和決策。”劉道福說。
據劉道福介紹,從算力的角度看,人工智能計算分為終端、云端和邊緣三種:終端的形態為各類IOT設備、智能攝像頭,典型算力要求為1~4Tops;云端的典型算力要求為上百Tops;邊緣要求的則是高算力和低功耗。
“思元220”與眾不同
“從產品分布來看,現在各類人工智能芯片非常多,但是有一個特點,就是除了高端的云端加速卡,大部分產品的性能都是在4Tops以下,而邊緣這種匯集多路數據的場景,需要更強大的算力,市場上性能達到8~30Tops的芯片非常少。”劉道福說,正因如此,賽武紀對于邊緣人工智能計算非常重視,專門設計了針對邊緣人工智能計算的芯片“思元220”,可以為各種邊緣設備提供強大的人工智能算力支撐米樂m6官網登錄入口。
“思元220”的特點是低功耗、高算力。劉道福表示,“思元220”的功耗僅為10W,并且支持通過低功耗技術進一步降低功耗,這樣可以更好地支持小型化設計,方便邊緣部署。“思元220”在10W的功耗下,最大可達到16Tops的8位定點性能;而對于4位定點,“思元220”性能可達到32Tops,“強大的算力,使得邊緣節點的智能遠不止簡單的數據清洗,還可以進行更高級的智能處理”。據了解,“思元220”在前期會以小尺寸算力加速卡的形式在市場上進行推廣,此次就同時推出了M.2加速卡。
據了解,寒武紀自2018年5月發布第一代云端AI芯片“思元100”及板卡以來,端云一體戰略穩步推進,產品研發有序進行,商用落地穩健開展。發布一年多的“思元100”和今年年中發布的“思元270”,已在各種場景廣泛應用。此次發布的“思元220”,填補了市場上邊緣端加速方案的空白。目前,寒武紀深度學習處理器已應用于華為、曙光、阿里等企業的近億臺手機和服務器中。
面對日新月異的AI產業挑戰,寒武紀表示,面向未來,針對不同的場景,包括邊緣計算、自動駕駛車載計算、訓練等場景,寒武紀將持續投資,推出更多的AI處理器,面向全場景持續提供更先進靈活、快速高效、性能卓越的AI算力產品及服務,讓AI芯片為各行業助力,讓機器更好地理解和服務人類。