微软揭露深度学习加速平台专案Brainwave,用FPGA架构加速AI运算效能
微软于本周二在Hot Chips高效能晶片研讨会上,揭露深度学习加速硬体平台专案Brainwave,目的为即时人工智慧运算,让系统能以超低延迟,在接收到要求指令的同时能够快速处理。同时,Brainwave硬体平台也提升了机器学习在云端环境的运算效能。
Brainwave硬体平台主要由3层架构所组成,包含了高效能的分散式系统架构、搭载深度神经网路引擎的现场可程式逻辑闸阵列运算架构,以及用在训练模型低摩擦部署的编译器和Runtime。
而Brainwave采用了英特尔具备FPGA加速运算能力的Stratix 10处理器,能够维持39.5 Teraflops的运算速度,且不必批次处理。Brainwave更以庞大的GRU模型运作,微软声称,比Resnet-50深度学习模型的执行效能高5倍
另外,微软也在FPGA运算架构上整合了深度神经网路引擎,这样的架构能降低延迟,且FPGA架构处理要求的速度能达到网路串流接收请求的速度一样快。
除此之外,微软也在Brainwave内建了支持热门深度学习框架的软件堆叠,包含了微软的认知工具包、Google的AI平台Tensorflow等。
根据微软官网,目前,微软正在建置Brainwave硬体平台至Azure,未来将提供Azure用户云端即时AI运算服务。