SolidRun和Gyrfalcon开发边缘优化的AI推理服务器
在最新版本中，高性能边缘计算解决方案的开发商和制造商SolidRun和ASIC解决方案提供商Gyrfalcon Technology宣布了共同开发的，针对边缘进行了优化的基于Arm的AI推理服务器。据报道，Janux GS31设计为高度可扩展和模块化的，它支持神经网络框架，并可以配置多达128个Gyrfalcon Lightspeeur SPR2803 AI加速芯片，用于复杂的视频AI模型。
Tirias Research创始人兼首席分析师Jim McGregor表示：“ AI正在迅速向网络边缘转移，以满足许多应用程序的性能和安全性需求。因此，新的网络将推动对处理性能和效率的日益增长的需求。利用GTI AI加速技术的SolidRun平台将提供强大而有效的方式来构建新的智能网络，从而弥合设备与云之间的鸿沟。”
合作伙伴表示，该解决方案是量身定制的，可应对在边缘大规模部署人工智能应用程序的未来挑战。这些可能包括能源消耗，成本效益或服务器空间，据报道，该服务器基础可以加速和经济高效地扩展AI推理。两家公司表示，Janux GS31非常适合监视智能城市和基础设施，智能企业/工业视频监控应用，为基于文本的搜索标记照片和视频等。
“强大的新型AI模型每分钟都会推向市场，而对用于部署这些AI模型的AI推理解决方案的需求正在迅速增长，” SolidRun首席执行官Atai Ziv博士说。“尽管基于GPU的推理服务器在基于云的应用程序中获得了巨大的吸引力，但对边缘优化的解决方案的需求与日俱增，这些解决方案提供了功能强大的AI推理且比基于云的解决方案更短的延迟。与Gyrfalcon的合作以及利用其业已验证的ASIC，使我们能够创建功能强大且经济高效的解决方案，以在Edge上部署AI，从而提供无缝的可扩展性。”
