据最新一期《自然 · 机器智能》刊发的论文，美国科学家发出警报，人工智能(AI)很容易被滥用。实验显示，AI在被研究人员赋予任务之后，在短短六小时内就合成了四万种新的致命化学武器化合物。

 北卡罗来纳州罗利的生物技术创业公司Collaborations Pharmaceuticals科研团队正在使用人工智能寻找可用于治疗疾病的化合物，其中一部分涉及过滤掉任何可能致命的化合物。作为检测新技术潜在负面影响的一部分，研究小组在其人工智能算法中“打开了一个开关”，并让它找到最致命的化合物。该团队想看看，如果人工智能算法被设定在一个负面而非正面的任务上，它可以多么迅速和容易地被滥用。

 化学武器的定义为以军事形式（弹药、炸弹等武器形式）出现时可对人类造成伤害的任何化学物质。例如，氯气以炸弹形式发射时被视为化学武器，它在人体吸入时会刺激鼻子和呼吸道，在肺部积聚后会导致窒息。

 根据The Verge的一份报告，一旦进入“坏模式”，人工智能就能够发明数以千计的新化学组合，其中许多类似于今天使用的最危险的神经毒剂。在人工智能发明的化合物中，有一些类似于VX，一种毒性极强的神经毒剂，即使是很小的剂量也能引起抽搐。

 然而，VX的致命之处在于它实际上阻止了你的横膈膜和肺部肌肉的活动，从而使你的肺部瘫痪。

 研究人员表示，他们发现最可怕的是，利用广泛可用的有毒化学品数据库，并使用人工智能来设计类似于目前最危险的化学武器是多么容易。

 论文的主要作者乌尔比纳说：“我们使用的很多东西都是免费，你可以从任何地方去下载一个毒性数据库。如果有一个人知道如何用Python编程，并且有一些机器学习能力，那么可能在一个周末的工作中，他可以建立类似于这种由有毒数据库驱动的生成模型。”

 此前科学界并没有太多关于人工智能创造新药的双重用途的讨论，一方面它们可能是有益的，另一方面它们是非常有害的。研究人员希望，这些新资料将有助于开发更好的机制，以遏制现在和将来在化学战的背景下人工智能的进步被滥用。

 月 比