如何让AI发挥作用来保护自己的东西
在与Darktrace联合制作的关于人工智能的播客迷你系列的第三个也是最后一个安装中，我们深入研究了AI对抗AI的领域，即研究人员称之为“对抗性AI”的领域。
人工智能擅长筛选大量数据，而抗生素的发现正是需要这一点。现在，科学家可以访问化学库形式的巨型数据集，该数据库对数百万种已知化合物进行了分类。虽然人类可能需要花费数年的时间才能搜寻出这么一个奇迹分子的众多候选对象，但神经网络却可以在几天内完成这项工作。
首先，细胞研究背后的研究人员训练了一个神经网络，通过向我们提供有关已知具有抗菌特性的2335个分子的数据来鉴定与大肠杆菌对抗的分子。然后，他们得到了该模型，以浏览包含多达1.07亿个分子的多个化学文库，并预测哪些可能有效对抗大肠杆菌-同时筛选出类似于我们已经获得的抗生素的那些。最终，他们选择了大约100个最有前途的热门歌曲，并在实验室进行了物理测试。
当在小鼠中进行测试时，他们称其为halicin的分子在杀死各种细菌方面非常出色，不仅限于大肠杆菌。最好的是，即使在30天后，小鼠也没有对halicin产生抗药性。(有时会在一两天内产生对其他化合物的抗性。)这至关重要。只开发一种新药也没有任何意义，因为它也会立即成为抵抗的牺牲品。
对抗性人工智能可以采取多种形式，例如，作为一种通过AI驱动的其他系统的安全性进行黑客攻击的工具，或者以导致特定的虚假结果的输入欺骗另一种算法。Ars编辑肖恩·加拉格尔(Sean Gallagher)和李·哈钦森(Lee Hutchinson)与2016年国防高级研究计划局(Defense Advanced Research Projects Agency)的网络大挑战赛获奖团队的负责人进行了交谈，ForAllSecure首席执行官David Brumley，介绍了AI驱动的黑客技术的发展。卡内基梅隆大学软件研究所的电气和计算机工程教授卢霍·鲍尔(Lujo Bauer)与Lee和Sean一起谈论了他关于使用AI击败面部识别等技术的方法的研究。Darktrace威胁搜寻总监Max Heinemeyer讨论了已经进行的有关如何阻止AI驱动的计算机网络攻击的研究。
