何進:AIoT時代的芯片技術和產業機遇

2019-08-26 16:12:30  來源:CIO時代學院

摘要:北大信息科學技術學院教授、北大深圳系統芯片設計重點實驗室主任何進發表了題為《AIoT時代的芯片技術與產業機遇》的主題分享。
關鍵詞: AIoT
  2019年8月16日至18日,由中國新一代IT產業推進聯盟指導,CIO時代學院主辦,CIO時代APP承辦,《金融電子化》雜志社、轉型家、華昂商務協辦的“第五屆中國行業互聯網大會暨CIO班14周年年會”在北京隆重舉辦。作為年會五大分論壇之一的“央企CIO論壇”在16日下午順利舉行。北大信息科學技術學院教授、北大深圳系統芯片設計重點實驗室主任何進發表了題為《AIoT時代的芯片技術與產業機遇》的主題分享。以下為演講實錄:
 
\
北大信息科學技術學院教授
北大深圳系統芯片設計重點實驗室主任   何進
 
  AIoT時代到來
 
  什么叫AIoT時代?實際上它是人工智能+物聯網+5G。在過去的20年至30年,從傳統的互聯網走到了移動互聯網這么一個時代。那么接下來的20年,我們雖然已經進入了物聯網時代,但實際上是從物聯網逐漸地過渡到智能物聯網的時代,所以AIoT就是智能物聯網。
 
  傳統的物聯網與智能物聯網顯著的區別就是要把智能引進到物聯網系統當中,不僅僅是狀態感知,還有信息、數據高效利用以及還要不斷學習、能夠自我進化,這就是AloT時代的顯著特征。物聯網這個概念也有了將近10年,近幾年隨著算力、傳感技術的迅速發展,物聯網時代才迅速到來。
 
  在這個過程中有兩個非常關鍵的技術,第一個是5G。5G會在未來兩年得到大的發展,它主要解決的問題就是大數據。萬物互聯帶來的是海量數據,這種數據是需要傳輸的,所以5G能夠帶給這樣一個海量數據本身要求的寬帶高速、海量數據傳輸低時延這樣一些非常重要的特征。而僅僅有大數據還不夠,還需要AI這樣的人工智能,因為人工智能能夠讓我們海量的數據成為智能大數據,這是一個重要概念。因為只有把數賦予了智能,才能說數據是有用的數據,才能夠不僅僅是擁有這些數據,而且用這些數據進行一定的推理,能進行發展趨勢、價值的判斷和把握。
 
  現在Al最主要的一個代表是以深度學習為代表的算法,應該是人工智能進展最快的一個領域,這里面還有大數據處理能力。AI時代不僅僅是說我們有一個大數據,其實還有終端以及邊緣層這些概念.  在這個過程當中,需要專業芯片的突破、傳感器的研發以及寬帶速率提升,還有流量成本的下降。
 
  所以智能萬物互聯這樣一個時代的基礎技術架構,普通的把它分為三個層次:數據中心、邊緣、終端。而每一個部分無論是數據中心本身的高能效的建構,還是邊緣計算能力提高以及終端性能提高,其實它都涉及到智能萬物互聯時代的芯片使用。實際上,芯片是它的一個主要的技術基礎。而它要達到的主要效果,我們希望至少是能夠低時延。像自動駕駛這種體驗的話,多少毫秒的時延都會造成重大問題?;褂形蘼凼僑魏我桓霾忝?,甚至是數據傳輸層面,無論是處理的系統,還是處理的數據量的增加,功耗都是一個巨大的挑戰。落實到具體芯片里面的話,其實各個層次里面都有功耗的問題。
 
  除了數據上云是數據中心的執行,而對于終端設備來講,其實對成本更加敏感,還涉及到安全性。無論是智能家居還是個人隱私,我們是希望安全的。不僅僅是公有的各種各樣的云的數據安全,其實個人數據也希望安全,而這些問題都是一些巨大的挑戰。那么這些問題的解決,除了用軟件的一些手段,其實根本的問題還是需要在硬件方面,在芯片的層次來解決。
 
  芯片本身支撐的這個倒金字塔的結構,可以看到整個信息產業的情況,特別是剛剛講到國內最大的一塊就是消費互聯網是靠芯片產業為基礎的,希望我們的產業互聯網、工業互聯網也能逐漸成長為像消費互聯網的巨大規模,能夠達到這樣的程度,就是以萬億作為規模的一個產值。我們中國的電信,通常認為它很大,但是目前看起來,已經被消費互聯網產業大大被超越了,但也是達到幾萬億的規模。中間像電子通訊產品及系統,有華為、中興、大唐等等,他們目前是一萬多億的規模。而集成電路,2017年整個全球的集成電路產業鏈規模也才4000多億美元,2018年是接近5000億美元。大家知道,芯片是我們“卡脖子”的一個產業。2018年進口超過了3000億美元,已經連續將近4年是超過石油的進口,而自己的自供是不到20%。所以從整個信息產業或者說數字產業來講,集成電路占的值不是太高,才幾千億美元的概念。但實際上它支撐了上面很多萬億的產值。下面更小的是一些半導體設備、半導體材料,就是更小的產值了??梢鑰吹叫酒鄧淙蛔芴寰霉婺2皇翹?,但是它支撐的產業是非常巨大的,所以我們把它也稱為戰略性、先導性、基礎性的產業。
 
  芯片的種類非常多,從應用也能夠分很多種。最尖端的移動芯片已經達到7個納米的水平,這是從技術級別來分。這當中還有10納米、14納米、28納米等等一系列的東西。其實芯片最大的兩款就是用于計算和儲存,就類似于我們的大腦。比如說傳統制造的CPU、GPU東西,這些都是屬于用于計算和思考的“大腦”。那么芯片還有一個大類,可以儲存很多信息,所以大腦儲存的這種稱為儲存芯片。第一類用于思考運算的芯片,應該說我們國內也做了很多努力,但是這個相對來講,跟我們的儲存芯片相比,在投資規模和需求方面很大,但是它確實是最高端的,我們跟國際的距離更遙遠一點。而儲存芯片本身也體量大,在技術層面上來講也不是采用10納米、7納米那么技術高,所以儲存芯片是我們國內最有希望突破的一個大類芯片產業。
 
  除此之外,還有感知,所以這里面有一個傳感器這一類的芯片?;褂幸淮罄嗑褪切畔⒌拇?,數據的遷移這種是用于通訊的,包括5G、藍牙、無線,稱為傳輸芯片。那么思考、存儲和傳輸這三類芯片是最大的類型。電子產品都需要電源,其實它主要也是靠電源芯片支撐的。剛才講到新能源最大的特點就是不穩定、間歇性,那么像國家電網這個時候也需要電源芯片能夠讓它平穩進入電網,其實這也是電源芯片。除此之外,還有一些比較小的驅動控制的芯片。剛剛講的計算、思考類的芯片,還有存儲的芯片都需要有驅動控制,但是這個相對來講量比較小。最后是接口的芯片,這也是一個小類型。
 
  存儲和計算占芯片整個產值的60%。計算和存儲是密不可分的,數據中心不僅僅是要儲存數據,而且要計算。那么傳統的計算架構里面就有很大的問題:第一,傳統的架構是分開的,那我們每次計算數據時要從存儲器里面取出來,然后通過數據總線送到計算CPU里面,算完了以后,結果又返回來存儲到存儲器里面。所以在這個時候,存儲器的帶寬是界定了傳輸快慢的關鍵因素。而這個帶寬可以通過本身的芯片,它可以提高它的速度,但是這種基本的提高通過芯片基本尺寸的減小總是有一定限制,而且它的開銷是非常大的,所以這就是一個挑戰,叫存儲墻挑戰。第二是功耗的挑戰,在存儲和計算之間,需要數據來回不停的存取傳輸,而傳輸之間的功耗大于存儲和計算本身的功耗。所以這兩個挑戰問題限制了我們現在進一步提高算力以及人工智能算法,最終在芯片上實現的一些主要的問題。
 
  為了解決這兩個問題,就誕生了一系列芯片技術的努力,包括從本身計算能力的算力提高,以及把存儲速度、存儲容量以及存儲壽命這些方面有一些芯片產業的大發展,比如說我們現在讓計算和存儲靠的更近,像3D堆疊以及使用光傳輸等等來解決這些問題。
 
  AI芯片的發展
 
  其實,人工智能芯片本質上就是把人工智能算法通過固化在芯片上,是一種加速的芯片,針對計算、存儲進行加速。針對具體場景落地的人工智能芯片,比如說語音識別、圖像識別、機器人等等,也屬于這類加速。智能這個概念提出是1956年就提出來了,但是智能的最終體現是一些數學算法來實現的,比如反向傳播算法、單層神經網絡、多層神經網絡等。五幾年有這個概念,提出了各種各樣的算法,但是最終的發展非?;郝腦蚴俏頤塹乃懔Σ還?。因為要實現這些,一是有大量的數據收集,然后你來訓練,進行大數據推論,大量的數據收集訓練,這就需要有大量的數據存儲,還要進行大量的數據處理計算。如果芯片技術沒有大規模的突破,算力不夠,所以Al算法也難以真正的體現它的優勢。所以說Al技術的發展已經有非常先進的一些概念和思想,但是沒有大數據、物聯網的出現能夠收集到。當然也是信息時代的到來,導致有了大數據,有了大數據所以人工智能這些算法才能派上用場。
 
  Al技術真正的突破是2006年在science發了一篇文章,就是把多層次神經網命名為深度學習的方法并進行了驗證。而且在那個時候,CPU技術已經有了很大的進步,所以算力足夠的時候,能夠訓練足夠的數據,數據訓練以后再加上這個網絡能夠拿來進行一定的預測和推理,所以這個時候才是真正可以使用。它的最終體現還是要通過芯片的方式來實現,目前來講,人工智能的實現應該是跟芯片連在一起的。后面陸陸續續出現了,從CPU到GPU以及AlphaGo,一系列的歷史性的轉折點以及我們國內的5G以及華為啟用的芯片,能夠把人工智能鑲嵌到芯片里面去并產業化,也是隨著芯片技術不斷進步,讓它有個不停的發展過程,能夠實現不同的功能。
 
  人工智能的芯片從本質上講分了三個大類,從架構上來分,也可以從應用來分,無論是訓練和推理。從本身算力的價值來講,就是從傳統的CPU到GPU。GPU最大的優點就是并行處理,使效率大大提高,然再過渡到FPGA,因為它是可編程的模式,會更方便。那么從CPU到GPU到FPGA,它都不是針對一個可應用的場景。人工智能發揮它的作用是最后場景落地才最重要的,比如說語音識別、圖象識別,所以能夠發揮到針對某一個應用場景落地進行人工智能設計,可能開發這一類人工智能芯片應該是最有效的,那就是ASIC。
 
  國外主要是我們知道的一些大公司在開發,主要是加速,包括算力加速還有儲存加速,這一類的人工智能芯片,包括英偉達、英特爾,大家可以看出來這類大部分都是數據中心采用的芯片,極少量的用在智能駕駛方面,這也體現出目前國外人工智能芯片主流的主要還是極少量的用于場景落地,比如說自動駕駛,而大部分還是數據中心提高算力。我們看看從CPU到GPU以及到Google的TPU,到后面的專門針對云的,逐漸出現了邊緣計算的TPU,所以這個是走在AI三個層次的第二個層次。那么針對第三個層次,就是落地的場景,就是用于終端,用于能夠移動的電子設備來講,這方面目前來講還是比較少的,目前Al技術及芯片基本上就是數據中心或自動駕駛采用,僅僅有華為用在手機上的圖像識別之終端Al芯片。
 
  國內最主要的代表就是寒武紀以及華為海思麒麟Al芯片。寒武紀主要開發的,他的目標是用到手機終端以及其他的用途量非常大的終端?;辛嬌預l芯片,數據中心或者手機終端,國內很多AI芯片公司都是針對具體應用場景來開發的,而不是根據架構來分類的。AI芯片也是這么幾年才剛剛興起的,如果傳統研究算法的人,找一家芯片公司結合在一起,也能成為一個AI芯片的公司,但是最終能夠量產、場景能否落地才是關鍵的地方,所以說這個Al芯片產業剛剛處于發展階段,有巨大的潛力。
 
  新型存儲芯片
 
  剛才我前面講的是算力的,計算思考的芯片。芯片產業另外第二個大部分也是一個非常規模巨大的,就是存儲芯片。傳統的存儲芯片比如SRAM和DRAM就不講了,今天我們會講一些比較新的東西。我這張表比較了一些傳統芯片,包括寫的內耗、寫的延時、讀的延時等等,還有單元的尺寸進行了比較。存儲器我們有很多指標來衡量,比如能耗、壽命、單元尺寸的大小、讀寫速度等等。主要的發展方向,第一個就是數據不太容易丟失的這種,這是一種。
 
  另外一種就是超高速和低能耗的以及更大的儲存能量。 現在比較熱門的就是可變電阻的存儲器(RRAM),國內的中科院微電子所是這個類型的主力。他們希望能夠實現產業化,但是最先來講是作為一個存儲芯片來發展的,但是這幾年這個存儲芯片顯示出來一個更好的潛力,就是人工智能芯片有一類叫內腦的芯片,相對于傳統電子器件,它是多阻的狀態,所以可做??殺淶繾杷孀諾繆溝腦黽?,不停的變,會有不同的臺階,就使它有多個平臺出現,就會形成多值邏輯計算,這個效率會高的多。目前新芯微電子正在開發這樣的芯片。它的結構本身它不僅僅是存儲,還有多制的特性,可以能夠作為邏輯計算單元使用,這就提到后面存算一體化的芯片,這是一個基本的路線。
 
  存算一體芯片
 
  馮諾伊曼的架構就是由于我們的計算和存儲是分離的,而中間是通過數據傳輸,而這之間就導致了兩堵墻,存儲墻和功耗墻,存儲和處理之間存在嚴重的不匹配。那有沒有一種辦法讓存儲和計算更好的匹配?就是新型的存算一體化的芯片,這也是人工智能一個主要的芯片方向。因為我們用到邊緣和終端的時候,希望它既有一定的計算能力也有一定的存儲能力。所以存算一體化這類的架構與傳統的馮諾伊曼的架構放在一起,它的功耗會有顯著的降低。
 
  通用的高速緩存的存算一體MPU的模式,會把計算和存儲、控制放在一個單元里面,組成一個大的陣列。存算一體化芯片就是在存儲當中進行計算,所謂IMC這樣的類型,所以在內存里面完成了基本的邏輯運算,第二個存算一體化的芯片也是在內存里面完成運算。使用傳統的方法也是可以,但是這種計算有它的缺點,就是難以實現大陣列的計算,同時保證它的精度。
 
  光電芯片發展
 
  芯片里面還有一個類型是光電芯片,分三類:傳輸、傳感、賦能。光電傳輸芯片其實最關鍵的問題就是傳統的傳輸方式,比如說信號在傳統的芯片里面,以前用的鋁現在用的銅,而銅在高速傳輸里面也會出現,因為金屬它有損耗,那么最終演變出光電傳輸芯片。在這個里面我們國家有一個重大戰略,就是第三代半導體。用第三代半導體,無論是計算芯片還是傳輸芯片,第三代半導體本身它的優點就是遷移率高,所以傳輸方面會有更大的優勢?;橢行吮幻攔腥牘蕓氐拿?,相當一部分是光電芯片。現在發展比較熱門的一類,就是硅基光電芯片。其實這里面涉及到很多內容,里面有光接收器、光波導、發射器、信號源等等。
 
  光電傳輸芯片還有一類是傳感器芯片,比如說數據、圖像識別主要是傳感的,特別是圖像傳感,它也是經歷了很多的發展過程。現在最熱門的是3D圖像傳感,除了激光的那種模式以外,大家都知道激光也可以實現3D圖像,但是總的來講它是不方便集成的。最后一部分是能源采集,比如說太陽能能源采集,還有通過網絡從空中的能源采集,也是屬于賦能的芯片。賦能芯片最大的問題,終端需要待機時間長,最好能夠自動供電,所以這個也是主要的發展方向?;褂幸煥嗍塹凸男酒?,采用喚醒式:  一個事件發生以后就可以把它喚醒,沒有這個事件它就處于睡眠狀態,這樣可以實現低功耗。低功耗的還有一個是MCU,能夠達到超低功耗。
 
  5G加速的AIoT
 
  大家都知道5G,高速、大容量、低延時,包括人與人、人與物、物與物之間的通信,這三大應用場景都是有巨大前景的。針對不同的應用場景,芯片方面也有不同的要求,所以也要落地開發不同的芯片。
 
  謝謝大家!

第二十九屆CIO班招生
法國布雷斯特商學院MBA班招生
法國布雷斯特商學院碩士班招生
法國布雷斯特商學院DBA班招生
責編:pingxiaoli