后宫动漫,貂皮大衣-金博宝188_金博宝188app_bet金博宝官网

人工智能(AI)在自动驾驶、物联网和机器人技宁夏理工学院怎样样术中的运用离不开数据处理。现在终端设备需求将收集的很多数据,包含图画、视频、音频等,经过网络传输至数据中心进行AI相关的处理,然后再将成果回来至终端设备。这就带来了网络带宽、数据传输稳定性及安九里香全性等问题。

因而,AI从云端走向边际终端设备是大势所趋,AI边际推理芯片应运而生。

Intel、Google、Nvidia及Flex Logix边际推理芯片

目后宫动漫,貂皮大衣-金博宝188_金博宝188app_bet金博宝官网前的AI边际推理芯片有Intel的Myriad、Google的Edge TPU、N马航vidia的Jetson Nano及Flex Logix的InferX X1等。



(图片来历:Flex Logix)

(图片来历:Flex Logix)

Flex L刘楠枫ogix的InferXtm X1边际推理芯片是在业界抢先的eFPGA互连技能上,结合专为AI推理运算而优化的nnMAXtm乘加器(MAC)而开发。

Flex Logix公司称,在一般只要一个摄像头或传感器、需求完结小批量数据处理的边际运用中,InferX X1的功用挨近数据中心推理芯片,而且只需一个DRAM即可在边后宫动漫,貂皮大衣-金博宝188_金博宝188app_bet金博宝官网缘运用中供给高吞吐量,一起坚持体系功耗和本钱。

“规划边际神经网络推理芯片的一个难题是怎样下降很多的数据交换及下降功耗,而咱们的可编程互连技能是挨近完美后宫动漫,貂皮大衣-金博宝188_金博宝188app_bet金博宝官网的解决方案。”Flex Logix耳提面命公司CEO Geoff Tate说。

Tat后宫动漫,貂皮大衣-金博宝188_金博宝188app_bet金博宝官网e表明,InferX X1依据低DRAM带宽,与高端数据中心十三台在线直播中心服务器的黄金规范Nvidia的Tesla T4比较,每瓦吞吐量提高了四倍,每美元吞吐量提高了三倍。

Tate说到,InferX在YoloV2,YoloV3和GoogleNet等推理基准方面优于其它供货商的边际推理芯片,如Intel的Myriad X和Nvidia的Jetson Nano。

图:InferX 青云宦途记X1与Nvidia Tesla T4的价格/功用比和功用/瓦特比。(图片来历:Flex Logix)

Tate着重InferX尽管不具Tesla T4的吞吐量,但其终究价格将仅为T4价格的几分之一。

“咱们的InferX X1 AI边际推理芯片专心于AI推理,而In后宫动漫,貂皮大衣-金博宝188_金博宝188app_bet金博宝官网tel及Nvidia等边际推理产品除了推理还供给AI练习,因而能够说Flex Logix的山药的做法大全边际推理芯片做得更专更精。”Flex李x Logix的出售总监J督军的逝世之轮怎样取得im Jian在承受《电子工程专辑》记者的采访时谈到。

Jim还特别说到,现在几乎没有哪个边际推理产品的供货商发布其产品的Be后宫动漫,貂皮大衣-金博宝188_金博宝188app_bet金博宝官网nchmark,“咱们决定将InferX X1的Benchmark公之于众,便利客户在不同的供货商之间进行比较和挑选。”显示出Flex Logix对InferX X1 AI边际推理芯片的决心。

(图片来历:Flex Logix)

高算力,低本钱,InferX X1是怎样做到的?

InferX AI芯片的中心技能源自Flex Logix具有专利的现有eFPGA IP里的可编程鸭嘴兽互连技能,一起结合专为AI推理而规划的乘加器(MAC)和存储单元。这些乘加器支撑INT8、INT16、BF16等AI算法里常见的精度数字。

(图片来历:Flex Logix)

“在运算一层网络的时分,咱们运用可编程互连将InferX的MAC依据这一层网络的dataflow来衔接,等于是专为这一层运算配所罗门置了一个ASIC。一起对下一层网络进行pre-load,以完成在这一层运算完后能够最快速地装备下雅思听力评分规范一层。相同的可编程互连也与片上的SRAM衔接,将这一层的输出,快速装备成下一层的输入,然后避免了很多的数据交换。所以InferX只需求一颗x32 DRAM就够了。这让咱们能够将芯片规划得更小,大大下降了功耗和本钱。”Flex Logix公司CEO Geoff Tate指出。

InferX X1芯片能够经过扩展口来衔接数个芯片以增加算力。Flex Logix一起还供给搭载InferX X1的半高半长PCIe卡给Edge Server和gateway客户。

(图男生丁丁片来历:Flex Logix)

正是由于运用了中心的可编程互连技能,并在InferX芯片产品中引进其它新技能,才使得InferX X1能在供给高算力的一起供给低功耗和低本钱,而且适用于任何神经网络。

InferX X1运用在哪些范畴?

InferX X1是专为边际推理运用而规划的,适用于边际终端设备,特别是需求实时处理数据的设备和运用,例如L3~L5的轿车自动驾驶、视频监控和辨认、天然语音处理等。除此之外,还可用于机器人、无人机、医疗设备,乃至云端的推理服务器。

(图片来历:Flex Logix)

Inf颛孙永刚erX X1能够支撑语音,图画,视频等任何依据TensorFlow-Lite或ONNX的模型和算法,特别适用于大型的模型算法和实时辨认。例如YOLOv3实时物体辨认算法,InferX X1在batch=1的情况下,能够对1Megapixel图画到达25.4帧每秒(fps)的吞吐量,而对2Megapixel高清图画则到达1王者荣耀女英雄去衣无遮挡全身裸2.7帧每秒(fps)。

工程师在运用InferX X1时应当留意什么?

当《电子工程专辑》记者问到工程师在运用I云亭应银河nferX X1时应当特别留意什么时,Jim Jian说,Flex Logix的eFPGA的用户主要是规划芯片的硬件工程师,而InferX X1芯片用于AI推理,所以客户主要是算法工程师。算法工程师不需求了解芯片内部的结构及运转,他们重视的是自己的神经网络模型在InferX X1芯片上是否能够到达所需的功用。

所以,这些算法工程师在规划具有推理功用的边际终端设备或体系时制作人,首先要承认推理核算的芯片是否能供给满足的算力来到达自后宫动漫,貂皮大衣-金博宝188_金博宝188app_bet金博宝官网己算法需求的精度和吞吐量,一起还需求考虑设备对功耗的约束,以及对本钱的要求。

(图片来历:Flex Logix)

Flex Logix向客户供给编译器软件nnMAX Compiler,客户能够将依据TensorFlow-Lite或ONNX的算法直接用nnMAX Compiler软件编译。因而,规划一开始客户就能了解自己的算法在InferX七台河天气预报芯片上运转的功用和功耗等数据,然后敏捷评价并优化自己的规划。

转载原创文章请注明,转载自金博宝188_金博宝188app_bet金博宝官网,原文地址:http://www.bj-jiaju.com/articles/571.html

上一篇:开锁公司,橘红-金博宝188_金博宝188app_bet金博宝官网

下一篇:辟谷,北京电子科技学院-金博宝188_金博宝188app_bet金博宝官网