人工智能通过SolidRun和Gyrfalcon的AI推理服务器进入边缘

您是否需要边缘的AI视频智能设备?然后，高性能边缘计算硬件的开发商和制造商SolidRun以及专用集成电路(ASIC)芯片制造商Gyrfalcon Technology为您提供了一台服务器：基于Arm的，基于Linux的Janux GS31 AI推理服务器。

您问什么是AI推理服务器?一旦使用机器学习训练了神经网络以识别例如汽车和空间，就可以将学习的经验教训内置到应用程序中。然后，该程序可以根据其训练来推断有关新数据的信息。因此，例如，当有人在超速行驶或闯红灯时，由AI授权的交通警察可能会做出推断。

当然，如果要对此进行实时处理，则需要一台计算机在边缘，而不是在云数据中心延迟一到两秒。那就是Janux GS31出现的地方。

Janux GS31是机架式1U服务器。它的核心是使用CEx7 LX2160A 16核Arm Cortex A72 CPU。凭借其真正的处理能力，它最多可以使用128个GyrfalconLightspeeur SPR2803 AI加速芯片和32个i.MX8M片上系统(SoC)。对于快速内存，它使用多达64GB的双通道SO-DIMM DDR4 RAM。

这支持所有主要的神经网络框架。具体来说，它支持开源TensorFlow，Caffe和PyTorch框架。

它旨在支持超低延迟解码和多达128个1080p / 60Hz视频通道的视频分析。这使其非常适合监视智能城市和基础设施，智能企业/工业视频监视应用程序以及为基于文本的搜索标记照片和视频。

制造商声称，它可以将片上系统(SoC)和基于GPU的系统性能提高几个数量级，而所消耗的能量却只有具有相当计算能力的系统的一小部分。

SolidRun首席执行官Atai Ziv博士在一份声明中说：“功能强大的新型AI模型每分钟都会推向市场，并且对用于部署这些AI模型的AI推理解决方案的需求正在迅速增长。”“尽管基于GPU的推理服务器已在基于云的应用程序中获得广泛关注，但对边缘优化的解决方案的需求不断增长，这些解决方案提供了比基于云的解决方案更少延迟的强大AI推理。与Gyrfalcon合作并利用其业已验证的ASIC使我们能够创建一种功能强大且经济高效的解决方案，以便在Edge上部署AI，从而提供无缝的可扩展性。”