本篇文章3865字,读完约10分钟

随着人工智能和机器深度学习技术的发展和应用,图像识别技术取得了重大突破。不同应用场景的图像识别率能够满足各方面的应用需求,并已逐步应用于身份识别、商品识别、金融支付、安全和智能安检等诸多领域,呈现出高速发展的趋势,使得视频监控系统的功能和有效性有了质的飞跃,这些智能功能的实现离不开计算能力的支持。

国产化边缘推理首选 高性价比AI盒子——比特大陆SE5 AI计算盒

如果主流智能计算依赖于云中的大规模gpu服务器集群,其高昂的运营成本将是大多数用户无法承受的。边缘计算作为5g和HD时代一个非常重要的网络组件,其主要价值在于降低因流量过大而造成的网络消耗,并为各种应用提供低延迟和开放的网络能力。与传统的集中部署的云计算相比,边缘计算是在数据源或用户附近提供计算能力的明智选择。a .这次测试的bit大陆se5 ai计算盒是基于芯片和模块的,但它是一款高性能、低功耗的边缘计算产品,比模块形式的产品有更广泛的场景。它配备了bit大陆独立开发的第三代tpu芯片bm1684,其int8计算能力高达17.6像素,可同时处理16路高清视频,为许多安防、泛安防、教育、金融、安检、识别工程等工业项目的智能计算提供计算能力。

国产化边缘推理首选 高性价比AI盒子——比特大陆SE5 AI计算盒

工业标准设计

Bitland se5 ai计算盒的尺寸仅为188毫米×148毫米×44.5毫米(长×宽×高),结构紧凑、严谨。箱体上部有工业级散热齿,可适应-20℃ ~ +60℃的工作温度(视配置而定)。工业级宽温设计能够适应恶劣的工作环境,在复杂条件下对边缘侧进行智能分析。

国产化边缘推理首选 高性价比AI盒子——比特大陆SE5 AI计算盒

该设备包括usb3.1×2、microsd ×1、hdmi ×1、rs-232×1、rs-485 ×1、i/o ×4、自适应10/100/1000mbps网络端口×2等。界面丰富,这使得产品面临更加丰富和灵活的场景。内置12gb内存,市场上同类产品基本上都是8gb,可以说是高规格配置。

无线传输的灵活部署

Bitland se5 ai计算盒内置4g卡插槽,支持lte无线回程。在网络布线不方便的室内外环境中,可以直接使用无线传输,方便用户安装和部署。

Sata接口内置于计算盒中,因此用户可以直接添加硬盘,这可以灵活地应用于小型旧项目或有存储要求的小型安全项目。目前市场上类似的ai计算盒大多没有存储功能,具有存储功能的盒子体积大,部署不灵活方便。Bitland se5 ai计算盒具有出色的外观、体积和计算能力,还可以设计有外置硬盘,非常方便用户将来扩展应用,其优势不言而喻。

国产化边缘推理首选 高性价比AI盒子——比特大陆SE5 AI计算盒

计算能力的优势显而易见

人工智能计算的核心是芯片。边缘计算盒产品的主芯片选定后,其计算能力即可基本确定。Bitland se5 ai计算盒基于其自行开发的bm1684芯片。Bitland多年来一直在深度培育芯片产品,bm168x系列芯片已经第三次发布,通过了全面的市场测试,满足了所有的优势推理要求。

国产化边缘推理首选 高性价比AI盒子——比特大陆SE5 AI计算盒

作为最重要的人工智能芯片评估标准,只看制造商的名义计算能力是不可能准确评估产品的。在实际应用中,名义值只能作为辅助判断标尺,标准算法模型用于图像分析。实际的图像分析能力对用户来说是真正的好处。

a .本次测试采用行业标准测试模型,因为每个芯片支持不同的量化精度,包括fp32、int16、int8等。在本文中,每个芯片支持的int8用于水平比较。原始数据是常用标准模型下的测量结果。将bm1684与tx2、hi3559a、atlas200等市场上常见的芯片进行比较,测得的测试结果如下。

国产化边缘推理首选 高性价比AI盒子——比特大陆SE5 AI计算盒

Mobilenet是一个轻量级模型,主要用于手机或移动终端。目前,数据可以超过2500张/秒。在resnet 50的典型模型测试中,图像处理达到914.9图片/秒。根据评估和比较数据,bm1684的处理能力一般超过atlass 200 50%以上,与前代hi3559a相比,超过其处理能力5倍以上。由于强大的计算能力,se5 ai计算盒可以在典型的人脸识别算法下实现至少16通道的实时全过程比较。

国产化边缘推理首选 高性价比AI盒子——比特大陆SE5 AI计算盒

目前,业界很多人工智能产品的名义人工智能分析路径一般只涉及人脸检测,不包括图像识别功能,而Bitland的单向计算包括人脸检测、人脸特征提取和识别、人脸比较,即人脸全过程比较。

性价比之王的单通道人工智能成本最低

与tx2、hi3559a、atlas200和bm1684相比,bm1684在不同的测试模型中具有5.4-22.9倍的性能优势。与atlass 200相比,虽然理论峰值标称计算能力bm1684非常接近atlass 200(17.6对16),但从实际测量来看,bm1684的性能倍数比最典型的resnet 152高1.4倍,比mobilenet高2.36倍!这表明名义计算力和实际计算力之间存在一定的差异。Bm1684具有较高的有效计算利用率。因此,基于bm1684芯片的bit大陆se5 ai计算盒的实际有效利用率处于同一水平。

国产化边缘推理首选 高性价比AI盒子——比特大陆SE5 AI计算盒

在以上公布的测试数据中,与业界主流的ai box相比,int8的计算能力可以说是同类产品中最高的。结合产品性能和价格,Bitland se5 ai计算盒的单通道成本竞争力很强,堪称业界性价比最高。

除了计算能力和功耗,量化精度是另一个重要的评价指标。在精度降低后,可以在有限的芯片面积下获得更大的计算能力。Bitland的ai计算盒中使用了自主开发的芯片,这也是该产品能够在实际应用中发挥更大作用的原因。

完整的软件生态百度认证授权合作

对于人工智能芯片,更有必要为开发人员提供完整可靠的工具链和系统软件。比特兰在这个领域努力工作了很多年。随着人工智能芯片发展到第三代,相应的工具链也非常成熟。所有的产品线都维护一个统一的编译工具链,该工具链已经过几个合作客户的测试。

国产化边缘推理首选 高性价比AI盒子——比特大陆SE5 AI计算盒

市场上常见的人工智能计算盒的缺点在于缺乏支持的框架。Bitland se5 ai计算盒中使用的芯片支持各种深度学习框架,如tensorflow、pytorch、mxnet、caffe等。同时,他们对国内的深度学习框架也有很好的支持。2020年3月24日,百度宣布,Bitland的bm168x系列人工智能芯片已经通过了BaidU Flighbook的轻量级推理引擎BaidU lite的兼容性验证。这意味着百度的所有生态合作伙伴都可以直接移植百度框架和算法,不存在兼容性问题。目前,国家政策支持硬件和软件本地化。百度桨叶深度学习框架是一个具有本地化优势的企业。Bitland与百度合作,同时实现硬件和软件的本地化,在中国具有发展优势。

国产化边缘推理首选 高性价比AI盒子——比特大陆SE5 AI计算盒

Bitland se5 ai计算盒配有bmnnsdk一站式工具包,提供一系列软件工具,如底层驱动环境、编译器和推理部署工具。帮助开发人员快速高效地在se5上部署深度学习算法应用程序。Bmnnsdk可以最大限度地减少算法和软件的开发周期和成本,用户可以在Computational Fung的各种人工智能硬件产品上快速部署深度学习算法,方便地实现智能应用。

国产化边缘推理首选 高性价比AI盒子——比特大陆SE5 AI计算盒

广泛的应用

Bitland se5 ai计算盒是一款基于边缘计算的小型微型服务器,基本上可以支持各种行业的算法,无论算法类型如何。用户可以通过完整的生态系统方便地移植训练好的模型,它不仅支持人脸识别算法模型,还支持几十个辅助模型,因此它面对的场景范围很广。它可以应用于室内和室外场景,如公园,社区,商业建筑,以及综合室外半封闭场景。它不需要依赖x86架构服务器,并充分利用其内部arm资源直接、独立、集成地开发应用。

国产化边缘推理首选 高性价比AI盒子——比特大陆SE5 AI计算盒

计算盒具有高计算能力性能和强大的市场竞争力,但它也保留了高精度计算能力的一部分。在需要高精度计算能力的场景中,高精度的优势得以保留,例如动态视觉无人零售柜和智能冰箱系统中的商品识别。se5的实际应用场景是,例如,作为边缘面服务器,它被布置在公园中用于公园交通识别比较或公园监控;智能食堂中的面付费;在家校互联系统中做学生人脸识别;在学校宿舍系统中进行入学管理;将菜品识别算法植入餐饮系统中进行菜品结算;代替传统的安检人员的地图识别,机器地图判断的准确率更高,降低了安检人员的培训成本,交通速度更快,实现了智能辅助安检。可以植入多种算法模型,从而实现应用场景的多样化。

国产化边缘推理首选 高性价比AI盒子——比特大陆SE5 AI计算盒

产品特性

1.强大的计算能力:最高可达int8的17.6t峰值计算能力或fp32的2.2t高精度计算能力。

2.超高性能:16通道高清视频处理能力,38通道1080p硬件解码和2通道编码。

3.快速移植:支持主流深度学习框架,如Caffe/TensorFlow/PyTorch/Mxnet/PaddleLite。

4.丰富的接口:usb、hdmi、rs-485、rs-232、sata、自定义i/o和其他接口

5.宽温设计:适应-20℃至+60℃的温度。支持无风扇被动冷却。

6.丰富的应用场景:支持智能园区、安全、工业控制、商业等领域和场景的灵活部署。

复习

人工智能的需求贯穿整个网络的终端云。基于视觉的人工智能应用场景最丰富,市场需求最强,边缘端的计算需求比云高出一个数量级。因此,具有安全性和实时性的边缘端智能分析已经成为发展的必然趋势。

Bitland涉足芯片行业多年,bm168x系列经受住了市场的考验。se5 ai计算盒是基于第三代tpu芯片bm1684开发的ai产品,具有该芯片的特点。Int8的计算能力高达17.6倍,具有低功耗、无源散热、丰富的接口和完整的软件生态等优势。该算法易于移植,不仅支持人脸识别算法模型,还支持数十种辅助模型。因此,它可用于广泛的应用场景,是一款性价比极高的边缘智能分析设备。

国产化边缘推理首选 高性价比AI盒子——比特大陆SE5 AI计算盒

主要规格和参数

来源:央视线

标题:国产化边缘推理首选 高性价比AI盒子——比特大陆SE5 AI计算盒

地址:http://www.yangshinews.com/ysxw/11769.html