VX是一种 "神经毒气"，由英国的波顿唐化学战实验室在20世纪50年代首次合成。仅仅8毫克（两粒盐），如果接触到一个成年人的皮肤，就能杀死他们。如果被吸入或吞下，则为半毫克。它无臭无味，而且呈雾状，细到几乎看不见。

波顿唐公司花了近十年的时间，从英国人在第二次世界大战结束时发现的德国神经毒气中开发出这种毒气，但通过机器学习，你现在几乎可以在短时间内想出类似的东西。

发表在科学杂志《自然-机器学习》上的上述警告的'非常小的公司'是'合作制药公司'，位于北卡罗来纳州的罗利市。他们的商业模式是发现新药，或者更准确地说，是设计新药，他们与毒害人没有任何关系。

就像现在所有从事药物发现的人一样，他们的主要工具是'机器学习'--并不完全是最初设想的人工智能，而是人工智能的一个子类别，它只是摄取大量的数据并搜索其相似之处。

这些相似之处将建议可能的新分子（"从头开始"），这些分子可能不存在于自然界，但可能对治疗疾病有用。因此，你合成它们，测试它们，偶尔你会发现一个真正填补了现有药品库中的空白。但它们也可能有其他用途。

两年前，为合作制药公司工作的四位研究科学家--法比奥-乌尔比纳、菲利帕-伦佐斯、塞德里克-因韦尼齐和肖恩-艾金斯--应邀在瑞士保护人口免受核、生物和化学威胁和危险研究所--简称斯皮兹实验室--主办的两年一度的会议上发言。

斯皮兹实验室是世界上由禁止化学武器组织认证的五个实验室之一，负责识别对化学和生物武器公约有影响的化学、生物学和使能技术的发展。它要求这四个实验室考虑用于药物发现的人工智能技术可能被滥用的问题。

"研究人员写道："我们以前从未想到过这个问题。"我们隐约知道围绕病原体或有毒化学品工作的安全问题，但这与我们没有关系。我们的工作植根于为治疗性和毒性目标建立机器学习模型，以更好地协助设计用于药物发现的新分子。"

他们的公司已经设计了一个 "新分子生成器"，产生了大量可能的分子，并对它们的生物活性（可取的）和毒性（不可取的）进行分类。然后，通过这些测试的分子被检查出进一步的良好特性。

然而，现在他们正在研究制造具有真正致命特性的分子将是多么容易。"我们简单地颠倒了这个逻辑，用同样的方法从头设计分子，但现在引导模型同时奖励毒性和生物活性。" 事实上，他们选择VX作为人工智能应该瞄准的那种分子。

他们没有制造真正的分子，但人工智能在六小时内产生了4万个致命的新虚拟分子。一些类似于VX和其他现有的神经毒药，但 "其他的分子占据了分子属性空间的一个区域，与（VX/杀虫剂/有机磷酸盐领域）的成千上万的分子完全分开。"

在这一点上，美国研究人员和Spiez实验室肯定都停下来问自己：我们应该公开这一点并冒着给坏人出主意的风险，还是保持沉默并希望没有人意识到这将是多么容易的事情？答案显然是，人们并不愚蠢。无论他们现在做什么，猫很快就会从袋子里出来。

没有人想限制新药的研究，但现在是时候开始考虑如何控制对某些机器学习模型、公共数据库和化学合成制药厂的访问，这些都是制造超致命分子所需的。

这里有一个小小的安慰。所有神经毒气的标准解毒剂是阿托品，但它不是很可靠，而且当你需要它的时候，你身边从来没有小的自动注射器。然而，在紧要关头，安定可能也会做得很好。真的。

Author

Gwynne Dyer is an independent journalist whose articles are published in 45 countries.

Gwynne Dyer