技術的革新與承載它的計算能力息息相關，如今的人工智能技術正逐步從研究實驗走向應用與生產，在這一過程中，AI計算系統(tǒng)設計與優(yōu)化的重要性愈發(fā)明顯。

在不久的將來，AI計算系統(tǒng)將要面臨計算平臺優(yōu)化設計、復雜異構環(huán)境下計算效率、計算框架的高度并行與擴展、AI應用計算性能等挑戰(zhàn)。算力的發(fā)展對整個計算需求所造成的挑戰(zhàn)會變得更大，提高整個AI計算系統(tǒng)的性能與效率迫在眉睫。

算力是人工智能的痛點

目前的人工智能，更多的是代表智能的個體，能夠通過自身的持續(xù)學習能力，智能的完成單點決策。

機器經驗需要由大量的歷史數據來得出，所以數據收集無處不在，數據的增長會是幾何級數的。使用當前集中式的存儲和集中式的通信模式，在未來是無論如何都無法通過一個巨型單點支撐如此大的體量，存儲和通信能力都是瓶頸，而且效率會非常低下。

不僅如此，算力成本也是人工智能行業(yè)的一大痛點�，F在的人工智能企業(yè)的硬件投入非常大。人工智能對計算的需求非常大，因此對高性能計算定制深度學習芯片要求很高，意味著很多企業(yè)要花很多錢買算力、建很多計算中心，造成了很大的資源浪費。

AI計算能力愈發(fā)重要

全球人工智能市場商業(yè)價值一直處于高速增長趨勢，到2018年，所催生的商業(yè)價值會達到1．3萬億美元，而未來將會達到接近5萬億美元。從技術成熟度曲線可以看到，未來2到5年會有大量AI技術實現從創(chuàng)新期到成長期的過渡，現在仍有很多AI技術處于爬坡發(fā)展階段。

在推動AI發(fā)展過程中，有三大要素起著主導作用，除算力、數據外，計算方面也越來越重要。2021年計算方面的投資將占到整個AI投資的近一半以上，2017年至2022年將會達到近6倍的增長。

傳統(tǒng)服務器難以滿足AI算力需求

摩爾定律失效，CPU性能提升遭遇瓶頸。Intel宣布正式停用“Tick－Tock”處理器研發(fā)模式，未來研發(fā)周期將從兩年周期向三年期轉變。單顆CPU性能的提升在放緩，傳統(tǒng)服務器難以滿足并行算力需求，服務器CPU出貨量增長停滯。

AI計算系統(tǒng)設計迫在眉睫

AI計算發(fā)展趨勢演變過程中面臨著巨大的挑戰(zhàn)：隨著模型所需的精度越高，所需的計算量也會呈現增長趨勢。對于未來的，算法的發(fā)展對整個計算需求所造成的挑戰(zhàn)會變得更大，提高整個AI計算系統(tǒng)的性能與效率顯得尤為重要。

圍繞整個應用、算力、模型、網絡的特點，例如有的模型參數比較密集，對系統(tǒng)通信要求比較高，有的計算性能要求比較高，則需要圍繞性能方面考慮如何提升整個系統(tǒng)性能的能力。

推理方面的復雜性比訓練方面更高，它不僅體現在性能方面，更關心的是用戶的體驗。當對于大規(guī)模進行部署云計算時，需要考慮到它的運維成本，需要低功耗平臺架構來做支撐。

AI算力和需求都日趨壯大

語音識別、虛擬現實與機器視覺已從導入期進入成長期。標準化的數據集豐富。語音與圖像數據較易標簽化。15年圖像識別準確率變已超過人類。CNN、RNN等神經網絡基礎算力成熟。根據Imagenet測試結果，語音識別與機器識別準確率均已在90％以上。

如今，AI面臨著巨大的計算挑戰(zhàn)，提高AI計算系統(tǒng)性能與效率變得尤為重要，需要從系統(tǒng)的角度進行綜合考慮。

自2012年以來，在大型AI運算中用到的計算量呈指數式上升，并且3．5個月計算量就會翻一倍。從2012年以來，這一指標已經增長了30萬倍。計算力的提升是AI進步的一大重要因素，所以只要這一趨勢仍然延續(xù)，就值得為AI未來的發(fā)展努力下去。

AI算力決定芯片崛起

在理論層面，基于大數據和深度學習的人工智能技術高度依賴于系統(tǒng)的數據處理與學習能力。因此，硬件的計算能力成為繼數據、算力之后，另一制約人工智能發(fā)展的主要瓶頸，硬件計算能力與能效對于人工智能技術主要影響云端和邊緣端兩大主要領域的應用。

單CPU的發(fā)展已經不能滿足實際應用的需求，AI時代必須要依靠并行計算。目前，并行計算的主流架構是異構并行計算平臺。

以協同過濾算力為例，它是一種非常重要的推薦系統(tǒng)算力，為此設計了兩個計算核，一個是計算相似度，一個是計算平均值，把這些核心計算全部都在GPU上進行計算來加速算力。

未來AI算力的發(fā)展

自2012年以來，人工智能訓練任務中使用的算力正呈指數級增長，其目前速度為每3．5個月翻一倍。

自2012年以來，人們對于算力的需求增長了超過300，000倍，如果是以摩爾定律的速度，只會有12倍的增長。在此期間，硬件算力的提升一直是人工智能快速發(fā)展的重要因素。因此，如果目前的發(fā)展趨勢持續(xù)下去，就需要為實現遠超當前方法負載的全新系統(tǒng)做好準備。

從應用場景來看，AI計算熱門行業(yè)場景覆蓋了互聯網、政府、醫(yī)療和金融四大行業(yè)，同時，根據市場潛力和時間發(fā)展成熟度，報告還對AI典型應用場景進行了評估，并預計未來2－3年，人工智能在生物識別和智慧城市建設領域的應用將會率先步入商業(yè)應用的成熟期；預計在未來5－10年，人工智能產業(yè)在智能家居和工業(yè)制造領域的應用也將逐步步入高速發(fā)展的產業(yè)窗口。