英特爾給大家的印象向來都是一家硬件公司,但在現時代多元業務的大環境下,這家國際半導體大廠並不侷限於硬件產品的研發,其實英特爾也有在軟件方面投入大量的資源,以配合他們的硬件發揮出最大性能和功能,由此可以為客户提供全平台的支持,近日英特爾希望讓大家能更多瞭解到,他們軟件開發人員在硬件背後做出的功勞,便特意邀請我們超能網在內的國內多家媒體,參觀了他們位於上海市紫竹高新技術產業開發區的亞太研發中心,並分享如今英特爾是怎樣通過軟硬件協同,為大家帶來更好的PC使用體驗。
據英特爾介紹到,上海這個亞太研發中心是他們以軟件為主要開發工作的基地,2000名員工中有95%是科研人員,而且雖然地點是在我們國內,但業務並不僅僅是本地化,而是面向全球的,ICG、PCCG、DCG等部門的軟件部分都是在這裏開發的,簡單來説,大家平時有用到英特爾CPU、GPU、SSD等硬件的一些驅動、工具其實就是這裏員工的成果,另外紫竹還有英特爾近年非常看重的AI、機器學習領域的開發,以及一些系統軟件、Android和設備固件的開發等。
而有點意思的是,這也是英特爾首次正式邀請國內媒體參觀紫竹的這個研發中心,所以他們用到“紫竹探祕”這樣有點走進科學味道的活動名稱,也以此希望讓我們媒體,還有網友讀者們,可以真正認識一下英特爾在軟件開發上的投入與進展。
英特爾亞太研發中心的紫竹1號大樓
“紫竹探祕”
英特爾亞太研發中心的技術領導層
英特爾亞太研發中心的歷屆駐院院士
英特爾分享(1):全平台賦能終端側AI發展
在第一場媒體分享會上,英特爾視覺計算軟件合作部亞洲區總經理高源為我們講解道,過去包括英特爾在內的大公司,都是主要在雲端部署與AI相關的硬件和軟件,但現在終端側AI也蓬勃發展,有低延時、無網工作、隱私保護,以及節省服務器帶寬成本四大驅動力,所以英特爾現在為終端側AI提供了全平台的支持,在硬件部分,英特爾有GPU、CPU和低功耗AI加速器,軟件部分則有OpenVINO、MKL等,通過軟硬協同,用不同平台來應對不同的AI使用和需求。
首先在GPU部分,由於GPU的高度並行化計算特性,更適合計算密集型、圖形顯示類的AI應用,而英特爾是世界上最大GPU供應商,市場高達65%份額,還有他們的核顯與CPU共享系統內存,響應速度更高,所以綜合來看,英特爾在GPU運算AI應用中其實有着很大優勢,目前聯想新款的十代筆記本上已經有用到他們的超分辨率技術。
英特爾視覺計算軟件合作部亞洲區總經理 高源
而在一直都是英特爾強項的CPU部分,他們認為用CPU來跑AI的一大好處是,CPU的通用性更高,不僅有更高的市場份額,軟硬件開發平台也很統一,而大家擔憂CPU能否滿足AI運算性能,英特爾表示對於推理應用,CPU還是可以跑的,而且一些AI應用其實並不需要太高精度的運算,所以在這次十代酷睿中,他們加入了針對AI應用的VNNI指令集,使得在應付一些精度不敏感的AI應用。
另外CPU在跑AI應用時,還可以有相比GPU更低的延遲,最有意思的是,用CPU跑AI,還可以減輕GPU的負擔,比如在遊戲中GPU的佔用率往往是超載的,無法再進行一些AI推理,所以英特爾與韓國NCSoft合作,嘗試在遊戲中用CPU來進行人物控制的推理運算,獲得有不錯的效果。
AI自動識別精彩時刻
AI語音降噪
除了GPU和CPU,英特爾還專門設計了低功耗AI加速器,以滿足一些AI應用對於低功耗、即時響應的要求,目前有GNA和VPU兩個,其中GNA已經集成在最新的第十代酷睿處理器裏面了,主要用於處理隨時喚醒類的語言助手,其低於100mw的低功耗特點,使得筆記本電腦可以一直運行着這塊芯片,保持語音指令的接收和響應。
而另外一個低功耗AI加速器是Movidius VPU,主要是針對視頻類AI應用設計(可以理解為用於處理AI的視覺識別),由於其低功耗的特性,英特爾的客户將它用在無人機上,為自動避障功能服務。
儘管有三個不同的硬件平台,但英特爾提供了統一的OpenVINO軟件編程工具,可以在不同架構直接做測試和遷移,另外還有MKL(數學核心計算庫)在內的Libraries,並對接了TensorFlow、Caffe在內的主流AI框架,所以他們提供的不僅僅是硬件,在軟件方面的投入也是有很多,英特爾希望通過軟硬件協同的全平台,來幫助業內終端側AI的發展。
Q&A
(全文Q&A均來自英特爾提供的速記)
提問: 您在介紹CPU的時候提到AI雖然不太在乎精度,但也能完成任務,能不能舉一個場景化的例子?
高源: 其實很多,像語音類、圖像類,大多數AI都是有這個特性的。比如,AI能模仿人的大腦。大腦是電信號的刺激,當中的函數不是很精確的,這也是人大腦的工作機制,AI模仿的就是這個的。語音、圖像、視頻的AI應用都是這樣的特點,對精度不是那麼敏感。當然這裏面也有很多的技巧,不是説直接把FP32影射成int8就可以了,有很多的技巧,但是整體上是可行的。
提問: 我看到這張圖上有Media Server Studio,是不是就是傳聞中明年將發佈的顯卡。這是預示着要提前發佈了嗎?
高源: 不是的,這是一套軟件工具集。
提問: 英特爾有CPU、GPU和低功耗加速器,你們在處理AI應用時,CPU是單獨去做處理,還是三部分都結合起來給這些AI應用進行加速呢?
高源: 我們有單獨的GPU做處理的,單獨CPU做處理的,也有單獨的加速器做處理的。
提問: 低功耗AI加速器現在只是英特爾自己有,不會對第三方授權的是嗎?
高源: 目前是這樣的。
提問: 英特爾在多大程度上可以實現異構計算,不同負載在不同硬件之間的切換是通過什麼機制完成的,是指令還是業務特性?
高源: 某個業務在編程的時候我們就指定是在CPU,還是GPU還是在加速器上計算,沒有實時切換的情況。
提問: 英特爾在2020或者是2021年推出獨立顯卡,那麼英特爾這種顯卡當中有沒有AI處理單元,它和現在英特爾十代酷睿的AI處理單元有什麼區別?
高源: 其實對於GPU而言,它整體的架構就是可以支持AI的,因為它是高速並行化的。AI的眾多神經元都是需要一個個計算的,在並行化尤其是計算密集的時候是比較適合的。未來英特爾無論怎麼發展,GPU都會支持AI的應用。我們有不同硬件架構針對終端側AI,也有統一軟件的工具針對終端側AI。英特爾是全平台賦能整個AI終端發展的。
英特爾合作伙伴的分享
英特爾還找來他們的三個合作伙伴,網易雷火、YY和相芯科技,向我們媒體聊聊他們利用英特爾全平台進行AI相關開發的看法和情況。
網易雷火
網易雷火事業羣高級技術總監鄧傑表示,他們在內部有個“伏羲實驗室”,是專門針對AI在遊戲內應用而設立的,目前主要有兩個方面的開發,第一個是通過AI技術提供玩家的遊戲體驗,比如MMORPG遊戲“變臉”,玩家們想把遊戲角色變成自己的樣子,但通過捏臉其實是比較難做到,所以他們想到了通過AI對照片進行輔助處理,在遊戲中自動生成與玩家相似的臉。
網易雷火事業羣高級技術總監 鄧傑
另外一個方面則是利用AI技術為他們的遊戲開發者服務,因為遊戲創作過程中,有很多枯燥重複的體力勞動,所以他們通過已有遊戲開發數據對AI進行訓練,然後在遊戲開發中讓AI進行加速和節省成本。
而與英特爾的合作上,網易雷火在遊戲開發中用到前者提供的工具,並與他們工程師的緊密合作,比如《戰意》和《逆水寒》兩款遊戲中,他們與英特爾工程師合作提高了遊戲在多核處理器的性能,甚至讓只有集顯的平台上,也可以比較流暢地運行遊戲。

另外在今年出現的雙屏筆記本上,他們還與英特爾工程師一起討論嘗試,在這類筆記本的副屏上,把聊天窗口、小地圖、一些關鍵信息放到上面顯示,為玩家帶來更好的遊戲視野,他們甚至根據副屏的可觸摸,在上面實現彈奏古箏的玩法。
YY
YY企業業務總監鄭龍哲先生表示,在他們公司(歡聚時代)三大主要業務,音視頻RTC、AI技術賦能和商業直播,都有與英特爾緊密合作,首先是實時視頻連線方面,因為語音電話、遊戲語音、直播等這類使用場景,對音頻、視頻的處理要求很高,所以他們與英特爾合作,把AI降噪和分析技術放到用户端這邊,以達到更好的音視頻連線質量。
YY企業業務總監 鄭龍哲
YY還利用AI來對網絡內容審核進行高效實時的處理,他們想到對音頻內容的審核,因為相比視頻和圖像,音頻的審核難度要大很多,需要進行語音轉寫,還要避免噪音和多人同時説話的干擾,所以他們嘗試通過AI把乾淨的語音信號提取出來,再進行違規內容審核、關鍵詞匹配和自然語言理解等等,這樣一套流程可以很好幫助他們實現內容的合規性,從而保持網絡環境的淨化。
至於商業直播方面,現在YY已經提供了一整套的解決方案,他們與英特爾合作開發的M Show,可以在PC上就實現原來傳統專業導播太的功能,這用到了英特爾的編解碼技術,AI處理、加特效等等,目前在一些旅遊文化直播、娛樂盛典和商業發佈會等,都是來自YY在背後的技術支持。

相芯科技
相芯科技資深圖形引擎開發經理蔡鋭濤分享到,他們公司的兩個核心技術是,數字化身驅動以及數字化身創建,由此演化出了人臉AR特效、AI虛擬智能助手和虛擬形象自動生成三種解決方案,這些都是對AI有着重要的驅動力需求。
在他們以PC端客户為主的在線教育中,本來他們使用TensorFlow作為底層的神經網絡推理框架,但因為在PC上性能表現不好,所以他們選擇與英特爾合作,在換用OpenVINO後,獲得更好的優化性能,還有在他們的背景消除應用中,同樣使用英特爾Ice Lake架構處理器,OpenVINO有比TfLite fp32達到9.82倍的性能。
相芯科技資深圖形引擎開發經理 蔡鋭濤
Q&A
提問: 我想問一下網易雷火,《逆水寒》之前一直在説要支持光線追蹤,也在國內進行了展示,英特爾也一直在做光線追蹤技術,包括在GPU方面,《逆水寒》和英特爾會不會在這方面有合作?
網易雷火: 光線追蹤我們很早出了一個Demo,現在正在做基礎的工作。因為做一個Demo到正式產品化之間還有很多工作,而Demo我們只做了一兩個場景。目前我們正在面臨一些技術架構的挑戰,我們要更加深度的去適配DX12,因為這是一個光線追蹤的基本要求。我們之前是在特定硬件上跑的,但是未來要正式產品化,我們一直都在對市場上存量玩家的硬件做調查,保證我們推出時大部分的機器都可以跑起來。在達到產品化要求之後,再向整個市場全體玩家開放這個特性。我們和英特爾在CPU、優化、雙屏等等各個方面都有非常廣泛的合作。
提問: 我想問一下相芯科技,最後一張PPT上我看到你們和英特爾的深度合作包括在Ice Lake產品上,有9.82倍的性能提升,我看到用了這個優化之後,友商的產品性能也有了性能提升,是不是説英特爾專門優化了所有友商的產品,在很多場合下也得到提升,但是提升沒有英特爾產品那麼明顯?
相芯科技: 這當中最重要的一點是在Ice Lake上我們可以在OpenVINO上用VNNI的指令集,這個問題高總來回答可能更好。
英特爾: 我們的架構都是一樣的,都是X86,OpenVINO都是可以跑的,但是作為英特爾,並不保證別的廠商產品都一定可以跑,畢竟我們是為自己的平台設計的,只是説我們底層架構是一致的。我們也注意到友商的產品也是有提升的。Ice Lake我們有VNNI指令集,但是友商平台並不支持VNNI,所以我們的提升更加明顯一些。
提問: 我想問一下網易雷火,剛剛您用來展示的華碩雙屏筆記本,它本身更多是定位於創作應用的筆記本,我也留意到市場上有其他的遊戲本也帶有雙屏,《逆水寒》的雙屏操作是僅限於在華碩這個筆記本上,還是説其他的雙屏筆記本也可以適配雙屏操作?
網易雷火: 我們不僅是在華碩筆記本上可以適配,我們在做適配工作的時候也外接了一些第三方的顯示器,就是直接接在台式機上,它是顯示器加主屏的便攜顯示器,也可以操作和適配,但是體驗是不如雙屏筆記本好的。
對於像這種筆記本作為一個創作工具,《逆水寒》也對外開放了一個劇情動畫編輯器,這個是有一定用户體驗基礎的,遊戲當中也有一些用户創作的內容對外發布的工具,這個硬件用起來也會比較好,但是我們劇情動畫編輯器對這種筆記本還沒有很好適配,未來我們還會學習一下,看看有沒有進一步提升玩家體驗的可能。

提問: 我想問一下YY直播,直播的鑑別系統目前是不是在大規模應用了?直播AI識別和英特爾合作是在服務器集羣上的硬件合作還是軟件合作?
YY直播: 這是兩個問題。第一個問題是內容鑑別系統是否大規模應用?答案是肯定的,而且這是一個非常剛性的要求。如果説互聯網上用户自主產生的內容(UGC內容)要確保它符合國家的法律法規,符合社會主流價值觀我們必須要進行嚴格審核,而且是全量進行審核的。我們除了機器審核之後,同時還有一個非常龐大的人工審核團隊做最後的保障,所以這個一定是全量,並且一定是一個大規模應用。
第二,AI方面和英特爾的合作。我們在服務器和終端都有合作,你剛剛問到服務器的集羣以及終端的設備,其實這兩邊都會有。比如説目前一些計算量比較大,或者是對實時性要求沒有那麼高的算法我們會放到服務器端進行。如果説對實時性要求非常高,計算量相對沒有那麼大,或者説它跟人的互動性更強的一些技術,我們會放在端上。所以應該説是服務器端和PC端都有一些合作。
提問: 我想問一下YY直播,不良內容識別現在是純靠AI技術識別,還是AI加人工的方式?是否能實現純AI來直接鑑別不良內容,它的及時性是什麼樣的狀況?
YY直播: 一定是AI技術加人工的方式,因為技術只是一個手段和保障,為的是把人力從傳統的內容審核當中解放一下,更重要的是從原來的抽審變成全量審。比如説YY每天的鑑審量是幾億的級別,如果説人來審,一是人會疲勞,二是人的標準不一樣,三是沒有辦法做到每張都看。但是技術可以,所以技術是第一道保障。然後是人工審核,人工審核是為這個效果做保障和兜底的。所以一定是兩步,一個是機審,一個是人審。
另外,這個技術很重要的應用就是所有直播內容需要實時審核,目前我們可以做到100到200毫秒和的延時,用户幾乎沒有感知,一旦違規內容出現,馬上就會被發現。這就是為什麼技術可以為我們審核增加一道非常可靠的保證。
提問: 今天的主題是端的AI識別,想問一下相芯科技,剛剛向我們展示的數據是基於端的還是基於服務器的,它們的功耗差異有多少?
相芯科技: 我剛剛舉的在線教育案例是PC端的,而相芯科技更多客户是在移動端的。這只是我們的兩個案例,更多的數字我沒有展示出來,所以也不方便説具體的數字。但是,提升是非常明顯的。

提問: 剛剛相芯科技提到,之前沒有使用AI技術,後來改用英特爾技術之後性能各個方面都有了顯著提升。幾位是最初選用了其他平台後來改用英特爾,還是一開始就和英特爾合作到現在?在這個過程中,是什麼促使各位去選擇英特爾平台,選擇之後各位的感受是怎麼樣的?
YY直播: 我們一開始有些PC端的特效就是針對英特爾的平台做的。除此之外,我們在服務器端也有後來改用英特爾平台的。對於YY來説,和英特爾的合作路徑有很多方面,在服務器端、終端都有。例如,在我們自己的業務中,音視頻的編解碼、AR特效、AI審核、音頻降噪等等都有和英特爾合作,很難説是原來就用還是後來改用的。最終,我們是看哪一種效果好、速度快、功耗低,尤其是在終端應用。
相芯科技: 我們和英特爾的合作是比較機緣巧合的,我們早期的技術架構選型並不是選擇英特爾的框架來做的。但是,之後我們和英特爾開展了合作,現在我們部分業務在這個框架上跑起來了,而且有非常好的性能表現。接下來我們會展開更深度的合作,也會在更多技術上做適配,做評估。像YY一樣,我們還是客户導向的,客户需要什麼我們就去做什麼,對端上的用户來説,性能是最重要的。

網易雷火: 網易雷火一直和英特爾都有廣泛合作。軟件層面,英特爾有技術專家和我們對接,使用各種各樣的工具來提升我們的遊戲性能;硬件層面,英特爾會提供新的硬件供我們測試,在他們大規模上市之前讓我們在遊戲端產品做適配,這樣在上市之後就會有比較好的表現。比如説最近的遊戲人工智能,我們也和英特爾做全方位對接,在硬件、軟件方面都有合作。
提問: 這種為了硬件協同來進行軟件服務的購買,佔公司整體研發投入的比例如何?對於YY和相芯科技特別強調效果導向的兩位,是不是意味着軟件服務這一塊,對您兩位所在的公司來説,切換成本是比較低的?
相芯科技: 在英特爾專家的幫助下,我們切換速度是非常快的,這部分的成本對我們來説也比較低,因為我們最重要的部分已經完成了,英特的軟件開發工具和平台做的還是非常完善的,所以我們的切換成本很低。
YY直播: 關於具體的成本佔比是多少我也不太清楚,但是這一塊一定是我們考量的因素。對於英特爾這樣的平台來講,軟硬件的配合不僅對相芯科技,對YY直播這樣的廠商一樣是非常重要的,所以我們在選擇供應商的時候,也會把這些因素納入考量。英特爾現在在做的一些軟件配合實際上對於我們來説也有很大的意義。切換成本是其中一方面的考量,但是最終我們還是要以效果為主要的導向,哪怕前期多花一些成本,也會效果優先。英特爾目前所做的一些工作,確實對我們的成本有所節省,並且針對YY直播,英特爾也有專門的人員幫助我們一起做這方面的優化,我覺得這方面的成本應該還好。
提問: 想問一下網易雷火,剛剛提到和英特爾深度合作的遊戲優化,包括AI等等,對於普通消費者最容易感知到的是直觀的結果,比如説CPU核心從雙核發展到主流6到8核,那麼用4核和8核跑遊戲是什麼樣的差別,遊戲廠商是不是可以建立一個Benchmark,讓我的電腦跑一下,原來4核跑起來是這樣的效果,換成8核電腦是那樣的效果,讓用户有更加直接的感知。
網易雷火: 確實,在用户這邊有明顯感覺,比如説4核、8核的CPU,《逆水寒》的話,基本上6核以上就可以跑出最高性能了,我們還會留出一兩個核給玩家跑其他的應用,比如我們有一些玩家會一邊玩遊戲一邊看電影,這也是很正常的操作。我們會和英特爾合作,看目前市場上玩家存量以及新推出硬件有哪些規格,我們再針對這些規格和英特爾實驗室對接,把我們的遊戲送過來測試,看我們哪些地方有瓶頸,然後進行針對性的改進。
提問: Benchmark這個工具在國外一些大型遊戲商的大作裏經常會出現,比如説《古墓麗影》有一個Benchmark,它內置了一個的測試工具可以提供測試結果,網易有沒有類似的計劃?
網易雷火: Benchmark我們這邊沒有,但是我們有玩家的推薦配置,一般遊戲出來之後我們會有最高畫質、中等畫質、標準畫質、經濟畫質,大家的説法不一樣,基本上都會對每一檔遊戲畫質給出一個推薦配置,這也是我們測試過,可以完整把遊戲比較流暢的運行起來的。具體説這個遊戲在這個平台上可以跑多少幀,我們內部有測試,但是我們沒有對外公佈,因為玩家電腦會比較複雜,CPU、內存、顯卡、硬盤都會對遊戲體驗有非常大影響,但是組合太多了,所以我們無法提供一個在什麼樣的硬件下一定可以跑到多少幀。而我們的《戰意》是有Benchmark版本的。
提問: 我們知道人工智能會使用不同的硬件平台,比如説CPU或者是GPU,之前英特爾推出了OneAPI的軟件工具,三位有應用的嗎?
相芯科技: 我們目前還沒有合作到這個方面。
英特爾: OneAPI是我們英特爾剛剛推出的,我們現在還沒有來得及大範圍的和軟件開發商在OneAPI上做一些合作。
英特爾分享(2):軟硬件協同創新將極致視覺體驗帶到PC平台
在下午的分享會上,英特爾繼續為我們講解了他們在軟件結合硬件做的一些新成果,首先英特爾顯卡軟件部門趙波為我們講解他們怎樣把“極致視覺體驗帶到PC平台”,其實主要是最新第十代Ice Lake處理器有關的新功能特性。
在視頻體驗方面,英特爾現在已經提供了全硬件加速4K HDR的視頻內容播放,包括H.256/HEVC硬解碼,支持HDR10和杜比視界,在展示區已經有英特爾與愛奇藝合作,在線提供了支持杜比視覺的視頻資源,這些都只需在一台十代酷睿筆記本上就能體驗觀看到,而且英特爾也很重視影片的版權保護,通過全硬件保護提供最高級別的保護。
英特爾顯卡軟件部門 趙波
而對於一些低分辨的老電影、照片,手機拍攝的視頻,以及網絡視頻的自適應播放,近年有通過AI處理的方式,來提高畫面的顯示質量,但視頻每秒有30/60幀畫面要處理,這對硬件要求較高,所以英特爾在最新一代Ice Lake的核顯提高了兩倍算力,使得可以做到實時的超分辨率處理。
另外Ice Lake上新增了HEVC編碼器,在處理視頻直播串流時,輸出同樣質量的視頻流下,可以節省37%的帶寬,這對於YY和虎牙這些直播平台可以降低很多的成本,而且編碼器因為是全硬件的,所以功耗也很低,只需要5W,比友商的150W顯卡要節能很多。
杜比視界
HEVC編解碼
在直播方面,英特爾還與國內XSplit合作開發了背景去除方案,這是他們一個GPU和CPU聯合優化最好的例子,可以在直播時,對主播的背景進行實時的虛化或去除、替換,這個也可以用到視頻通話,以保護隱私。
英特爾認為這些視覺方面的創新功能都是在普惠AI,把先進技術帶給用户們,通過CPU、GPU的結合,還有AI技術進行軟硬件協同優化,為用户帶來更出色的視覺體驗。
Q&A
提問: 剛剛講到超分辨率很多方面都在做,相比於其他的GPU優化,英特爾的優勢在哪裏?
趙波: 其實看行業的話,手機行業,英特爾的CPU和GPU,包括在競爭對手的獨立顯卡上都有同樣的技術。這要看你具體應用是什麼,因為平台不一樣,功耗不一樣,算力也不一樣。英特爾技術是從算法到軟硬件全棧優化的,包括到應用,如何集成到用户的應用當中。總結來説,關鍵是怎麼樣做到最優, 我們把軟硬件協同優化做到了極致。
提問: 你剛剛提到在AI消除背景的環節,比如説用到GPU和CPU聯合優化,那麼在這個過程當中,CPU和GPU分別是處理什麼內容?
趙波: 很好的問題,其實上午也有同樣的問題,我們的異構計算當中到底是CPU好其是GPU好,怎麼分?這和應用場景非常相關。像我剛剛介紹了VCam方案,這個當中是一個背景分割的應用,沒有一句話能回答你説到底是負責哪一部分,比如説超分辨率可能是另外一個案例,在那個案例下,我所有應用基本上都集成在GPU當中,因為它是一個原始的圖片,對每個像素的數據都要處理,我們建議用GPU,因為GPU可以達到實時要求。但是背景移出對算力要求沒有那麼高,不需要對每個像素進行處理。我們的Ice Lake CPU有VNNI,也可以加速。
我們與應用開發者都是進行很好的合作,因為他們的這種應用,定義應用場景,我們是有中間的軟件和硬件,我們幫助他們把每一個工作負載在英特爾平台上跑得更好,我們提供很好的支持,我們的團隊和他們一起去看他們的工作負載,看怎麼用我們的軟件和硬件把他們的應用做到最好。當然有一些非常通用的東西,我們也提供類似的解決方案,比較共性、流行的東西,我們也會提供一籃子解決方案,但是大多數情況下,我們是和合作伙伴一起去做,我們提供開發工具、軟件、經驗。
提問: 剛剛提到了很多的視頻播放的軟件,我們有沒有對內容產出軟件比如説Photoshop針對AI或者是性能的優化?
趙波: 英特爾針對幾個主流的視頻編輯軟件都有加速,比如説Adobe的Premiere pro,有集成我介紹的HEVC硬件編碼,它有很多基於AI的視頻編輯也是用我們GPU加速了的,在美國有專門一個團隊支持Adobe。台灣有一家PowerDirector,我們也有專門團隊支持。歐洲還有一家Black Magic,它旗下的 DaVinci Resolve在歐洲非常著名的視頻軟件,我們也有專門的團隊,讓這個視頻軟件在英特爾的平台上使它們的性能發揮到最好。
提問: 英特爾通過AI讓視頻變得更加清晰,這個是不是屬於渲染?未來英特爾會不會通過獨顯或者是集顯來對遊戲進行支持,讓畫面效果更加優化,以減輕GPU的壓力。
趙波: 在後續產品當中會看到類似的技術。
實時超分辨率
提問: 剛剛提到編碼器硬件加速的時候,有一句描述是“5W帶來150W的顯卡上用户體驗”,能不能深入講一下這一點是怎麼實現的?
趙波: 每種構架和聚焦的用户有關,比如説友商在遊戲上花很多的精力,他們也有HEVC編碼器,但是很多時候只是部分加速:它是部分用專門的硬件,結合通用的GPU編程來實現各種格式的編碼。而我們是全硬件的,對HEVC編碼模塊,從輸入到輸出都用專用硬件來實現整個編碼過程,所以功耗更低,我們不是用GPU編程實現的。其實在早期我們也用過部分加速類似方案,但是從Ice Lake開始我們就優化了,我們把所有功能用全硬件加速,可以降低功耗。
提問: 如果在Ice Lake平台上使用CPU的HEVC硬件編碼器加速,會比現在OBS自己用的NV硬件解碼器效率更高嗎?
趙波: OBS裏面還沒有加HEVC,它是AVC,AVC我們也是全硬件的。這種情況下,我建議優先使用集成顯卡里面的AVC,因為它的功耗更低,我們的AVC能提供同樣的質量,我們的性能和功耗上會有優勢。
英特爾分享(3):Intel Parallel Studio XE:軟件開發優化動力之源
英特爾軟件工具部門汪洋的分享內容則比較硬核一些,他簡單介紹了他們軟硬件優化用到開發工具:Parallel Studio XE,這主要面向開發人員的一款工具集,從企業應用到雲計算,從高性能計算到AI都可以提供支持,它專門針對英特爾平台,在上面開發出來的軟件,可以利用英特爾硬件特性,獲得更高效的運行性能。
Parallel Studio XE主要分為三大塊:用於開發的英特爾編譯器和英特爾優化高性能庫、用於做性能或正確性分析的工具、用於多節點或計算機集羣優化的工具,簡單來介紹的是,首先英特爾編譯器,在英特爾硬件構架的平台上,他們的編譯器可以讓程序充分發揮硬件的特性,提升執行效率,而且編譯器對開發者也很友好,支持最新的C/C++語言標準,幫助開發人員充分利用編程語言特性,提高開發效率。
英特爾軟件工具部門 汪洋
英特爾編譯器的擴展性也很好,在未來新的硬件平台上,開發者不需要做大量的代碼修改,簡單重新編譯後就可以用到新的平台,而最後就是編譯器的性能,通過基準測試,對比Windows上的微軟編譯器、Linux上的GCC,英特爾編譯器的性能都要明顯更好。
而在開發者中流行的Python語言,英特爾也特別提供了英特爾發行版本的Python,這裏面有英特爾針對各種算法、函數庫優化的軟件包,所有相比開源的Python版本,英特爾發行版本的Python有更好的性能,無論在PC端還是服務器端,在Numpy上都有5倍或數十倍的性能提升。
此外在高性能庫方面,英特爾還有MKL(數學核心計算庫),主要是提供線性代數,向量數學、向量隨機數等數學計算函數,一些主流的AI框架都在底層用到MKL做加速,其它的還有用於面向圖像處理、數據處理、信號和加解密等的IPP,而為幫助開發者開發高效並行程序的TBB並行編程模板庫,以及面向傳統機器學習的DAAL庫等等。
最後開發調試部分,英特爾也為開發者們提供了多個工具,比如性能分析工具VTune Amplifier,通過分析代碼來找出性能瓶頸,讓開發者的程序在優化後可以跑得更高效,然後還有Advisor,主要為開發者提供優化代碼的建議,讓程序可以充分利用英特爾的硬件特性,另外還有用於正確性檢查的Inspector,可以幫助開發者找到代碼中的問題,更快更容易進行定位和修復。
Q&A
提問: 英特爾這麼多優化開發的工具,一個開發人員怎麼樣學習這些工具呢?英特爾是不是有相應的培訓措施?另外,用你們這些開發工具優化了這些軟件之後,在友商的平台上跑,會不會有優化了但還是沒有什麼變化的情況?
汪洋: 英特爾有很多培訓文檔和材料,也有很多培訓視頻。在上海這邊有團隊專門來支持客户,幫助他們使用這些工具,這也是我們的工作之一。對於開發人員而言,我們經常會和開發人員一起交流、溝通,幫助他們學習。我們希望這套工具被更多開發人員接受和使用,用得越多,無論對開發人員, 對英特爾還是對工具本身,都會從中受益。
關於這個工具是否支持友商的問題。簡單來説,這當中有一些功能是英特爾CPU獨有的,這些肯定只能支持英特爾,比如説英特爾芯片上的一些特有功能的支持。而有一些通用的優化,友商也是可以支持的。
提問: 英特爾有GPU,CPU,SSD,這麼多硬件在開發的時候,如何區分不同硬件的優化?
汪洋: 不同的應用有着不同的特性,根據這些特性決定是利用CPU做還是GPU做,從我們的工具角度來説,我們會提供一些分析方法或者是分析工具去幫助和指導開發人員做判斷,看特定的應用場景是適合用GPU做還是CPU做,或是使用其他硬件實現。

提問: 你們在做性能對比的時候,很多軟件都是二三十倍的提升,這個提升是不是在特定硬件下才可以達到這樣的水平,用英特爾8代或者是9代的處理器,二三十倍的性能提升是不是會有一定的下降?
汪洋: 這個需要具體問題具體分析。比如説我剛剛提到二三十倍提升是不可能適用所有硬件。我們的基準測試選擇是當前開源某一個主流的版本和我們目前的版本進行相比,硬件也是用當前市場上主流的硬件產品,可以反映出當前最佳的性能對比狀態。英特爾也花了很多時間,人力,精力去優化開源社區上的一些軟件。經過一段時間以後,雖然這些性能優勢可能沒有那麼明顯,但最終受益的還是開發人員。
提問: 剛剛有開發工具當中有專門為AVX2和AVX-512做增強性優化。AVX-512也是英特爾的高端產品,我想確認一下,如果説在沒有專用的512那麼長數據的時候,對應的計算機會被切割裝載其他的短指令在AVX-512上進行嗎?編譯器有沒有對應的功能?
汪洋: 對編譯器來講提供了很多功能,通過編譯選項的控制, 優化可以專門針對某一類硬件處理器進行, 也可以面向一系列的處理器類型。 通過運行時處理器支持指令的檢查,當處理器支持AVX512的時候,程序會自行對應的AVX512的優化, 而當處理器不支持AVX512的時候, 程序會執行其他的優化路徑, 比如AVX2或者SSE的優化。這樣通過動態的調整,編譯優化的程序可以在多個處理器上同時得到最佳的優化方案。
提問: 比如説現在競爭對手已經開始提供256位的AVX計算單元,如果説開發人員用的英特爾編譯器,競爭對手對應的256位的指令集是如何處理縮短成128位的,還是雙通直接做512位的?
汪洋: AVX指令256位的都是特定指令以及特定的計算器,通過編譯選項的控制可以編譯出可以在所有支持X86的平台上運行,也可以只在某個特定指令集的平台上運行。對我們的開發人員而言,如果説程序要在不同的機器上都要能夠運行,只需要打開特定的編譯選項即可。如果這個程序是給某一個特點硬件機器設計的,比如説某一個應用只會用到英特爾CPU,通常在一些特定的功能機上,就可以把專門針對英特爾CPU的優化選項打開。
提問: 如果説開發人員不小心選了高規格的計算機,但是它的硬件並沒有這個規格,程序再次編譯的時候,會自動調到AVX2上處理嗎?
汪洋: 編譯器編譯的時候可以有一個默認的優化指令集,這個默認指令集是SSE2,是現在所有的CPU都支持的指令集。 這個默認支持的指令集是可以通過編譯選項修改的,這些都是開發人員可以控制的。
英特爾分享(4):英特爾PC的Web技術助力中國應用開發新時代
在前端程序方面,英特爾Web技術部張琦介紹了有關於Web應用的前端開發情況,因為他們看到了隨着HTML 5技術,以及Web平台能力越來越強,Web 3.0時代已經帶來,越來越多的應用開始向Web遷移,而這個新一代Web的主要特點是物與物的互聯,所以英特爾積極跟進投入到Web技術的開發和支持上。
英特爾Web技術部 張琦
目前新興的Web技術主要包括了WebNN,用於在網頁瀏覽器中實現神經網絡、AI應用的加速運算,人臉識別、背景消除這類應用其實已經可以在網頁瀏覽器中實現,然後是即時通訊用的WebRTC,能在網頁中提供音視頻通訊應用,還有把比較底層的GPU API提供給瀏覽器調用的WebGPU,在網頁中也可以實現3D渲染,另外還有英特爾提供支持的Fugu,以及面向區塊鏈的Web BlockChain。
當中比較特別的是PWAs,漸進式Web應用,這個其實是把Web應用封裝成本地應用的形式,使得不需要一定在瀏覽器中運行應用,打開後的UI也與本地應用相似,而且PWAs具備離線使用的特性,即使沒有網絡,用户也可以使用Web應用,待到恢復網絡後,應用會自動更新信息。
WebNN演示
WebGPU演示
為了讓前端開發程序員們更好地利用這些Web技術來開發應用,英特爾在所有跑Web應用的主要運行庫當中,都進行了深度優化,幫助開發者們儘可能利用到英特爾的硬件特性,比如在用到WebRTC的通訊應用中,英特爾web團隊幫助開發者用到硬件編解碼器,而WebGL應用,則可以用到英特爾的GPU等等。
英特爾表示,他們雖然不是做網頁瀏覽器的,但他們與網頁瀏覽器開發商緊密合作,幫助後者充分利用到英特爾平台的功能部件,以提高最終用户的使用體驗,目前英特爾已經為Chromium社區提交了8288個代碼補丁,並在社區方面扮演領導者的角色,主導相關技術標準的制定,同時他們也中國的前端開發者們提供幫助,促進他們更加了解Web應用的發展。
Q&A
提問: 現在在一些直播網站,在自己的客户端當中集成了英特爾HEVC編碼器的支持,直播網站是一個網頁的時候,能不能在網頁當中直接調用HEVC的編碼,在網頁當中開始直播?
張琦: 程序員並不需要知道底下用的編碼器或者是解碼器是什麼,在瀏覽器層面很多時候會根據視頻源幫他選擇對他最有利的編解碼器是什麼樣的,這是在瀏覽器層面解決掉的問題。
提問: 你剛剛提到了小程序,現在手機瀏覽器是不是可以支持英特爾的Web技術?
張琦: 我們團隊既然是英特爾的軟件團隊,我們的主要任務是專注於在PC上的用户體驗優化,如果是手機上的應用,Web是一個很大的生態系統,我相信其他團隊會去做這件事情,但是對於我們説,我們就是專注於將英特爾PC的能力能夠在PC瀏覽器上,包括其他的一些Web應用上充分利用英特爾平台特性,這是我們的任務,其他的比如説移動平台,我想友商可能有類似的工作。
提問: 我想問一個關於安全性的問題。我們現在應用開發正在向Web端轉移,從安全性上來説有沒有什麼變化?
張琦: 非常好的問題。很多時候我們想到Web,它的主要特點就是Web對安全和隱私是非常重視的。如果説從本地應用移向Web時,有一個好處之一就是天生的會把Web的很多隔離技術應用起來,會直接享受到Web帶來的好處。比如説有一個技術是網站與網站之間的隔離,在Web當中,一個網站和另外一個網站共享應用是非常嚴格的。如果你是一個Web應用你天生就要符合這些規範,所以你天生就享受到了Web的好處。在英特爾平台上,我們對安全也是非常重視的,我們從運行棧的最上一層到最下面一層都會檢視這裏面有沒有安全漏洞。

提問: 系統方面,在蘋果IOS上,英特爾有沒有什麼合作,因為蘋果的系統相對封閉一些。
張琦: 蘋果的瀏覽器不是基於Chromium開發的。現在macOS上,至少我們最近在編解碼器層面我們有一些合作的,當然他們的MacBook也使用英特爾的芯片。
提問: 最近我們在比較友商處理器,因為現在在各個層面上已經有和英特爾對位的處理器了,我們在比較處理器的時候,英特爾技術團隊提到了Web應用優勢問題,能不能給我們分析一下,同等處理器上,在Web應用上,英特爾有哪些方面的優勢?
張琦: 實際上我們在英特爾平台上的這些應用的性能表現我們是有密切跟蹤的,另外我們有一個單獨的團隊專門看我們的性能和友商性能比較優勢。但是很不幸,這些數據我無法放到這裏,實際上我們內部是有這樣的比較數據的,有時間我們可以在以後詳細溝通。