日韩精品成人无码专区免费-国产99久久久久久免费看-国产精品丝袜久久久久久不卡-国产精品无码一区二区三区

英特爾以數據為中心的全棧創新 解鎖智能未來

發布時間:2023-10-14 點擊:184
“由于5g的普及,人工智能技術的成熟,再加上現在已經非常完善的數據中心以及云計算技術,我們會有很多的機會能夠從一些新的數據里面挖掘出新的價值,能夠去洞察各行各業,獲得更多的效率提升,帶來更多的可能性,從而實現更高質量的數字化轉型。”英特爾市場營銷集團副總裁、中國區數據中心銷售總經理陳葆立表示。為了構建以數據為中心的產品組合,英特爾提供了涵蓋cpu、gpu、fpga、asic等不同計算架構滿足于各類應用負載的解決方案,并進一步在制程&封裝、架構、內存&存儲、互連、安全、軟件等領域提出六大技術支柱,以滿足從云端到網絡到邊緣的多元化客戶需求。
在英特爾看來,這些關鍵性的技術創新能夠彼此作用形成相乘的效應,“我們稱之為‘智能x效應’,例如5g可以讓人工智能無所不在,人工智能又可以讓邊緣、5g的連接更加智能化,這種邊緣智能不僅是在設備端,還可以在數據中心和任意的地方。萬物互聯之后,帶來了數據量的‘爆炸’,會有更多的機會能夠讓我們對這些數據進行分析,加速數字化轉型。如果有企業沒有跟上這個大潮流,沒有使用到新的技術、洞察數據的價值,可能就會落后于市場上的其他公司。”
2019年,英特爾投入了占公司營收近19%%u7684130億美元資金用于研發,除了持續的技術創新投入,英特爾也在加速將包括至強、凌動、fpga、以太網、硅光、傲騰持久內存在內的一系列新品或新技術推向商用市場,以實現數據“傳輸更快、存儲更多、處理一切”的目標。例如在集成ai加速的英特爾第三代至強可擴展處理器中,支持bfloat16使得其在深度學習加速中能夠以一半的比特數和更少的軟件調整,達到與fp32同等水平的模型精度。同時,其支持的傲騰持久內存200系列可提供每路至多4.5tb的容量,平均內存帶寬增加了25%%u3002
英特爾第三代至強可擴展處理器
第三代至強可擴展處理器分為兩個產品系列,先行發布的cooper lake定位4-8個處理器插槽,今年晚些時候亮相的ice lake則會支持1-2個處理器插槽,而代號為“sapphire rapids”的下一代至強可擴展處理器預計將在明年下半年發布。未來10年,人工智能和數據分析無疑會成為關鍵的工作負載,要想讓客戶在任意平臺都能獲得高效的數據處理能力,將硬件和軟件的融合創新賦能于數據中心、邊緣、傳感器、移動計算、自動駕駛等各個領域,就變得至關重要。
人工智能和數據密集型服務,是第三代英特爾至強可擴展處理器關注的兩個焦點,借助升級后的dl boost技術,以及在深度學習加速架構下的vnni神經網絡指令支持bfloat16數據格式,第三代至強可擴展處理器較上一代平臺cascade lake 8280在處理圖像分類時,計算性能可提升1.93倍。通過支持更多的內核、更高的主頻,配合更多的內存通道數和更快的內存速度,第三代至強可擴展處理器在處理計算密集型任務時較以往四路平臺的計算性能提高了92%%u3002
據了解,第三代至強可擴展處理器的處理器插槽之間通過upi總線以拓撲架構實現互聯,upi通道數較上一代平臺翻倍,upi端口數量增至6個,即每個插槽會有6個接口,兩兩之間就有兩個upi總線,多一個upi總線意味著帶寬變高了,有利于支持更多的cpu內核、更大的內存、更高的計算速度,相當于有更寬的高速公路,可以讓數據在不同的插槽之間傳輸。“在多路處理器當中,這是非常重要的架構創新。”一位資深的英特爾技術專家稱。
內存方面,內存通道每個插槽有6個通道,八路48通道時每個通道都可以支持最高3200mt/s的速度,容量上基于16gb顆粒可在單條內存用rdimm支持64gb、用lrdimm支持256g,搭配傲騰持久內存則可以讓每個插槽最高支持4.5t,這樣一來,八路最高36t的容量就足以應付各類密集型的應用。
在多路平臺上,英特爾對ras功能格外重視,提供了非常豐富的相關支持,可以處理可能出現的內存錯誤、pcie設備錯誤,或是cpu內核的錯誤,利用ras特性實現更好的錯誤隔離和故障診斷。
為了幫助客戶更加靈活的配置多樣化的業務系統,英特爾推出了第二代speed select技術(sst),包括sst-pp、sst-cp、sst-bf、sst-tf四種功能。其中,sst-pp(performance profile)是指一個cpu的供電和散熱的邊界條件是確定的,在這個邊界條件下,根據業務的不同需求選配該cpu允許使用多少個核,在使用相應核數時,會提供對應的頻率讓其運行。同時,也可以在另一種場景下關掉一些或打開一些核,使其工作在另一個頻率上。由此,可以在設備平穩運行時通過“一鍵切換”來滿足單線程或多線程的負載,讓機器的使用效率最大化。
sst-bf(base frequency)和sst-tf(turbo frequency)可以動態調節運行不同應用時,根據優先級的高低來調配基頻或睿頻頻率,可以保證整個處理器的供電和散熱在邊界條件下,其他的核會比高優先級的核的溫度低一些。
sst-cp(core power)能夠在cpu接近滿載快要達到供電和散熱邊界時,自動降頻處理來保護cpu和服務器。與之前降頻保護時將所有內核“一同下降”不同,sst-cp可以允許客戶制定一些核運行高優先級業務,其他的核運行低優先級業務。當運行的負載較滿時,可以先減少低優先級的核來保證高優先級的核不受影響。
從int8到bfloat16,英特爾在指令集層面為客戶的數據精度處理提供了最優的性能,可以解決各類通用的ai應用需求,并且對tensorflow、pytorch、mxnet等主流框架均進行了優化,完成了對avx-512、dl boost的支持。在提供更高的運算性能、運算效率和內存讀寫效率的同時,bfloat16對精度的影響甚微,而且數據位寬只有fp32的一半,與升級后的dl boost搭配可讓ai訓練性能提升93%%u3001推理性能提升90%%u3002同時,英特爾為openvino工具包和onnx runtime環境提供了bfloat16優化,以簡化推理的部署工作。
如果使用int8,在不同的深度學習算法、不同的應用數據對象中會有1%%u4ee5內的準確率影響,而對于推薦系統、語音識別、nlp等特定ai領域的應用,通常會需要更低甚至是接近完美的推理加速方案,bfloat16以其6數據位寬的特性實現了降噪效果,獲得了更高的精度。
在螞蟻金服,英特爾與其合作基于3d-cnn i3d video深度學習模型研發了視頻分類應用,去識別拍攝視頻中的物體正在進行的動作或行為,借助dl boost和bfloat16將訓練能力較此前的fp32技術方案提升了12倍,在模型推理上也提升了1.8倍的性能。整個合作工程中,客戶只需要把平臺切換至第三代至強可擴展處理器即可,選擇支持bfloat16的ai框架,無需進行額外的代碼和參數調整。
英特爾技術專家介紹稱,隨著英特爾“one intel”軟件戰略的推出,英特爾的mkl-dnn軟件也進化到了“one dnn”,與最新的tensorflow2.2x版本進行了集成,使得螞蟻金服直接使用tensorflow就能夠體驗到bfloat16的優勢。
在醫療行業,衛寧健康使用dl boost加速技術進行ai診斷,通過openvino獲得了基于各類深度學習框架的支持,在進行胸部影像檢測時得到了數十倍的性能提升。在tensorflow應用中,性能提升8.24倍,精度影響僅有0.17%%uff0c在對3個pytorch模型進行加速的過程中,性能有數十倍至百倍的提升。
作為第三代至強可擴展平臺的一部分,英特爾傲騰持久內存200系列在單條512gb和dram的配合下,可為客戶提供每路最高達4.5tb的容量,以進行內存數據庫、密集虛擬化、分析及高耗能計算等數據密集型工作負載的管理。在單dimm的部署下,有著25%%u7684內存帶寬提升,并且在之后的ice lake平臺可以獲得更大的系統性能增長。在數據寫入時,傲騰持久內存200系列較nand flash有超過200倍的提升,主要體現在nand ssd的訪問延遲在100微秒左右,而持久內存只有幾百納秒的延遲。
在運行模式上,傲騰持久內存200系列同樣支持兩種模式,其一是memory mode,特點是持久內存會和dram組成一個新的內存整體,由cpu內部的硬件邏輯實現控制。如果客戶希望數據可以長久保留,也可以使用app direct mode(又細分為塊設備訪問或應用直接對內存對象訪問),當軟件把數據寫入之后,下一次可以從原來的地方可以直接取出來,斷電之后的數據是存在的,這種模式下,既可以作為內存對象,在寫入后保留數據,也可以作為塊存儲,兼顧對軟件應用的兼容性。
英特爾傲騰持久內存200系列
面對云計算時代的彈性需求,傳統的數據中心內存難以滿足資源靈活配置的需求,持久內存較dram有很大的成本優勢,可以通過取代dram的容量改善tco,并且單機里面也可以部署更大的內容容量,實現更高的應用部署密度。同時,持久內存還能夠有效緩解i/o的瓶頸,衍生出更多新的內存和存儲融合類的應用,像云計算的基礎架構、數據庫、ai/大數據分析等都是持久內存所擅長的領域。
rocksdb是一款由facebook開源的數據庫引擎,既可以作為獨立的鍵值存儲方案,也可以作為像mysql等關系數據庫的存儲引擎,在寫入性能上做了大量優化,被不少企業選用

云服務器怎么設置數據庫文件
為啥木有D盤-其他問題
操作系統修改失敗-虛擬主機/數據庫問題
子站設置了首頁但是打開-虛擬主機/數據庫問題
虛擬主機網站搬遷到服務器
數字雄安.中國-域名及賬戶問題
微信小程序怎么用電腦打開
雙十二為口碑網燒錢,背后是支付寶的焦慮