2020年和AI学习在边缘的曙光
关于2020年人工智能将要存储的内容的无数预测,我渴望看到将会实现的东西和即将被淘汰的东西。我认为,改变范式的预测之一将使AI的学习能力发展到最前沿。
在AI的通用名称的掩盖下,隐藏了多种方法,从在分布式云基础架构上处理数据的大型模型到在小型处理器上分析和挖掘数据的微型,边缘友好型AI。
从我在波士顿大学的学术研究到共同创立Neurala,我一直敏锐地意识到这两种类型的AI之间的区别,我们称它们为“重型”和“轻型” AI。重型AI需要重型计算基板才能运行,而轻型AI可以完成重型AI所能完成的任务,但计算能力却较小。
诸如GPU之类的商用处理器的引入以及后来的可移植性,使得将AI /深度学习/ DNN /神经网络算法带入众多行业的边缘在技术上和经济上都是可行的。
带宽,延迟,成本以及简单的逻辑决定了边缘AI的时代,并将有助于使我们的下一代技术成为现实。但是在我们这样做之前,重要的是要了解技术的细微差别,因为使AI算法在较小的计算边缘上运行的方法很少。实际上,至少有两个过程在起作用:边缘生成的推理或“预测”(例如,我看到一个正常的帧与一个可能存在缺陷的帧),以及边缘学习(即,使用获取的信息来更改,改善,纠正和完善边缘AI。这是一个很小的,经常被忽略的差异,具有巨大的含义。在2010年与NASA合作时,我首先意识到了推理/预测与边缘学习之间的区别。我和我的同事实现了一个小脑仿真,以通过AI控制类似Mars Rover的设备,该设备需要能够在机器人上运行和学习。边缘。
对于NASA而言,重要的是,机器人能够完全独立于地球上任何可用的计算能力来学习“新事物”。数据瓶颈,延迟和许多其他问题意味着,他们需要探索与当时开发的AI不同的AI。他们需要能够消化和学习(即适应AI和可用数据的行为)而又不需要大量计算能力,数据和时间的算法。
不幸的是,传统的深度神经网络(DNN)模型还没有达到标准,因此我们继续构建自己的AI来满足这些要求。这种新的DNN方法被称为“终身深度神经网络”(Lifelong-DNN),具有在其整个生命周期内进行学习的能力(与传统的DNN只能在部署之前学习一次的能力相比)。
边学边死
当今实现AI的最大挑战之一是其僵化和缺乏适应性。AI算法可以在大量数据上进行训练(如果可用),并且如果事先捕获所有数据进行训练,则可以相当强大。但是不幸的是,这不是世界运转的方式。
人类之所以具有如此强的适应能力,是因为我们的大脑已经意识到,终身学习(每天学习)是关键,而且我们不能仅仅依靠与生俱来的数据。这就是为什么我们在第一个生日后就不会停止学习的原因:我们不断适应不断变化的环境和生活场景,并从中学习。作为人类,我们不会丢弃数据,我们会不断使用它来微调自己的AI。
人类是启用边缘学习的机器的主要示例。实际上,如果人脑的行为与DNN相同,则我们的知识将局限于大学时代。我们只会进行9到5的训练和每天的例行工作,直到第二天早上才醒来,而无需学习任何新知识。
具有学习功能的AI驱动边缘
传统的DNN是当今AI的主要范例,其固定模型需要在部署之前进行培训。但是诸如Lifelong-DNN之类的新颖方法将使AI驱动的计算边缘不仅能够理解到达它们的数据,而且能够适应和学习。
因此,如果您也想利用边缘的力量,这是我的建议。首先,您需要放弃只有在部署之前才能对AI进行培训的思维定式(和限制)。从那里开始,出现了新的需求:用户与边缘交互并添加知识的方式。这意味着需要可视化新收集的数据,并使用户能够选择要添加的数据。这可以由用户手动完成,也可以自动完成。