VX är en variant av nervgas som först framställdes av Storbritanniens laboratorium för kemisk krigföring i Porton Down på 1950-talet. Bara 8 milligram (två saltkorn) dödar en vuxen människa om den kommer i kontakt med huden. Ett halvt milligram om det inhaleras eller sväljs. Det är lukt- och smaklöst och kommer i en dimma som är så fin att den är praktiskt taget osynlig.

Det tog Porton Down nästan ett decennium att utveckla den från de tyska nervgaser som britterna upptäckte i slutet av andra världskriget, men med hjälp av maskininlärning kan man nu ta fram något liknande på praktiskt taget nolltid.

Det "mycket lilla företag" som utfärdat ovanstående varning, som publicerats i den vetenskapliga tidskriften Nature Machine Learning, är "Collaborations Pharmaceuticals, Inc.", baserat i Raleigh, North Carolina. Deras affärsmodell är att upptäcka nya läkemedel, eller närmare bestämt att utforma dem, och de har inget som helst att göra med att förgifta människor.

Liksom alla som sysslar med läkemedelsupptäckt i dag är deras främsta verktyg "maskininlärning" - inte precis artificiell intelligens som den ursprungligen uppfattades, utan en underkategori av artificiell intelligens som helt enkelt tar in stora mängder data och söker efter likheter.

Dessa likheter ger förslag på möjliga nya ("de novo") molekyler som kanske inte finns i naturen, men som kan vara användbara för att behandla sjukdomar. Så man syntetiserar dem, testar dem och då och då hittar man en som verkligen fyller en lucka i den befintliga läkemedelsarsenalen. Men de kan också tjäna andra syften.

För två år sedan ombads fyra forskare som arbetar för Collaborations Pharmaceuticals - Fabio Urbina, Filippa Lentzos, Cédric Invernizzi och Sean Ekins - att tala vid den konferens som hålls vartannat år av det schweiziska institutet för skydd av befolkningen mot nukleära, biologiska och kemiska hot och faror - förkortat Spiezlaboratoriet.

Spiez-laboratoriet är ett av fem i världen som är certifierat av Organisationen för förbud mot kemiska vapen för att kartlägga utvecklingen inom kemi, biologi och möjliggörande teknik som har konsekvenser för konventionerna om kemiska och biologiska vapen. Den bad de fyra att överväga hur AI-teknik för läkemedelsforskning skulle kunna missbrukas.

"Tanken hade aldrig tidigare slagit oss", skriver forskarna. "Vi var vagt medvetna om säkerhetsfrågor kring arbete med patogener eller giftiga kemikalier, men det gällde inte oss. Vårt arbete har sin grund i att bygga modeller för maskininlärning för terapeutiska och toxiska mål för att bättre kunna hjälpa till med utformningen av nya molekyler för läkemedelsforskning."

Deras företag hade redan konstruerat en "de novo-molekylgenerator" som producerade ett stort antal möjliga molekyler och sorterade dem efter bioaktivitet (önskvärd) och efter toxicitet (oönskad). Sedan undersöktes de som klarade dessa tester med avseende på ytterligare goda egenskaper.

Nu undersökte de emellertid hur lätt det skulle vara att framställa molekyler med riktigt dödliga egenskaper. "Vi vände helt enkelt på den här logiken genom att använda samma tillvägagångssätt för att designa molekyler de novo, men nu styrde vi modellen så att den belönar både toxicitet och bioaktivitet i stället." Faktum är att de valde VX som den typ av molekyl som AI:n borde sikta på.

De tillverkade inte riktiga molekyler, men AI:n producerade 40 000 dödliga nya virtuella molekyler inom sex timmar. Vissa liknade VX och andra befintliga nervgifter, men "andra upptog en region av det molekylära egenskapsutrymmet som var helt skild från de många tusen molekylerna i (VX/pesticid/organofosfat-domänen)".

Vid denna tidpunkt måste både de amerikanska forskarna och Spiez-laboratoriet ha stannat upp och frågat sig: Ska vi offentliggöra detta och riskera att ge dåliga människor idéer, eller hålla det hemligt och hoppas att ingen annan inser hur lätt det skulle vara? Svaret är naturligtvis att människor inte är dumma. Katten kommer snart att vara ute ur säcken, oavsett vad de gör nu.

Ingen vill begränsa forskningen om nya läkemedel, men det är dags att börja fundera på hur man kan kontrollera tillgången till vissa maskininlärningsmodeller, offentliga databaser och kemiska syntesfabriker som skulle behövas för att skapa ultradödliga molekyler.

Och här är en liten tröst. Standardmotgiftet mot alla nervgaser är atropin, men det är inte särskilt tillförlitligt och man har aldrig den lilla autoinjektorn i närheten när man behöver den. Men i en nödsituation kommer Valium förmodligen att göra lika bra ifrån sig. Det är sant.

Author

Gwynne Dyer is an independent journalist whose articles are published in 45 countries.

Gwynne Dyer