这是一个来宾帖子。这里表达的观点仅是作者的观点,并不代表IEEE Spectrum或IEEE的立场。

人工智能(AI)的环境影响近来一直是一个热门话题-我相信这将是十年来AI的一个决定性问题。对话始于艾伦(Allen)人工智能研究所的最新研究,该研究主张优先考虑“绿色AI”工作,该工作侧重于AI系统的能源效率。

这项研究的动机是观察到,人工智能的许多引人注目的进步都有惊人的碳足迹。OpenAI的2018年博客文章显示,自2012年以来,最大规模的AI培训运行所需的计算量增加了300,000倍。尽管该帖子没有计算此类培训运行的碳排放量,但其他人已经做到了。根据艾玛·斯特鲁贝尔(Emma Strubel)及其同事的一篇论文,美国人每年平均要排放约36,000吨CO2。培训并开发了一种使用称为神经结构搜索的技术的机器翻译模型,估计产生了626,000吨的CO2。

不幸的是,从环境的角度来看,这些所谓的“红色AI”项目可能比所报道的还要糟糕,因为项目的时间,能源和金钱的总成本通常比产生最终成本要高一个数量级。报告的结果。

人工智能的许多引人注目的进步都产生了惊人的碳足迹。

此外,现实情况是,红色AI的一些备受关注的领域(例如开发新的对象检测模型以改善复杂环境中的自主导航,或从大量的非结构化Web数据中学习富文本表示)将继续处于禁区除了资源最多的研究人员(换句话说,就是为大型科技公司工作的人员)以外的所有人。数据集的庞大规模和所需的计算成本使较小的参与者无法参与。

那么如何做才能推动绿色AI的发展呢?我们是否应该不惜一切代价优先考虑绿色AI?

红色AI并非全都不好

如今,许多Red AI项目都在推动自然语言处理,计算机视觉和其他重要AI领域的科学发展。尽管如今他们的碳成本可能很高,但对社会产生积极影响的潜力也很大。

例如,人类基因组计划(HGP)花费了27亿美元,耗时13年,绘制了人类基因组图。HGP的结果原本被认为是复杂的,因为其成本高昂且缺乏即时科学突破。但是,现在,我们可以使用测序技术在数小时内绘制一个人的基因组图谱,该测序技术依赖于HGP的主要人工产物(参考基因组)。尽管HGP效率低下,但仍为个性化医疗铺平了道路。

同样,衡量RedAI项目的输入和输出也至关重要。RedAI实验产生的许多伪像(例如,用于对象识别的图像表示或自然语言处理中的单词嵌入)使得在广泛的应用中能够快速发展。

迈向绿色AI

但是,无论其潜在的科学优点如何,RedAI都不可持续,因为它既考虑了环境问题,又引入了进入障碍。为了继续进行类比,HGP确实成功地完成了人类基因组测序,但是需要新颖的DNA测序技术来大幅降低成本并使基因组测序广泛可用。AI社区只是必须在构建深度学习模型时着眼于降低能耗。

以下是我建议采取的步骤,这些步骤将使行业转向绿色AI:

强调可重复性:可重复性和中间工件的共享对于提高AI开发效率至关重要。AI研究通常是在没有代码的情况下发布的,否则研究人员会发现即使使用代码也无法再现结果。此外,研究人员在开放工作中可能会面临内部障碍。这些因素是当今Red AI的重要推动力,因为它们可以迫使重复努力并阻止有效共享。这种情况正在缓慢变化,因为像NeurIPS这样的会议现在都要求可复制的代码提交以及研究论文。

提高硬件性能:我们目前目睹了专用硬件的激增,不仅在深度学习任务上提供了更好的性能,而且还提高了效率(每瓦性能)。AI社区对GPU的需求促使Google开发了TPU,并将整个芯片市场推向了更加专业的产品。在未来几年中,我们将看到NVIDIA,英特尔,SambaNova,Mythic,Graphcore,Cerebras和其他公司将更多注意力集中在用于AI工作负载的硬件上。

了解深度学习:我们知道深度学习有效。但是,尽管这项技术的根源可以追溯到几十年前,但作为一个研究团体,我们仍不完全了解它是如何工作或为什么起作用的。揭示深度学习背后的基础科学并正式表征其优势和局限性,将有助于指导开发更准确和有效的模型。

使深度学习民主化:推动深度学习准确性的极限仍然是令人兴奋的研究领域,但是俗话说,“完美是善良的敌人”。现有模型已经足够精确,可以在广泛的应用程序中进行部署。几乎每个行业和科学领域都可以从深度学习工具中受益。如果许多领域的许多人都在研究该技术,那么我们将更有可能看到性能和能源效率方面令人惊讶的创新。

更多合作伙伴:大多数世界上最大的公司都不具备有效构建AI的才能,但他们的领导者意识到AI和深度学习将成为未来产品和服务的关键组成部分。公司应该寻求与初创企业,孵化器和大学的合作伙伴关系,以启动其AI战略,而不是单枪匹马。

尽管很容易看到一辆自动驾驶汽车在硅谷的公路上飞驰,并认为我们已经达到了技术高峰,但重要的是要了解我们仍处于AI的早期。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如有侵权行为,请第一时间联系我们修改或删除,多谢。