Vad experterna faktiskt ser, i beteendet hos de stora språkmodeller som ligger till grund för den nya generationen av "generativa AI-system" som ChatGPT, är tecken på "framväxande" intelligens. LLM-programmeringen säger i princip bara åt dem att hitta det mest sannolika ordet som följer på det föregående, men ibland drar de överraskande slutsatser.

Ju större LLM är, desto mer sannolikt är det att de uppvisar detta beteende - och detta stämmer överens med den rådande teorin om att intelligens och självmedvetande uppstår spontant ur komplexitet. Så låt oss anta att detta verkligen är vad som händer, och se vart det leder oss.

Artificiell allmän intelligens (AGI) - en maskin som är både intelligent och självmotiverad - är vad AI-experterna både har sökt och fruktat. "Fruktat", eftersom en sådan enhet kan vara fientlig och mycket kraftfull. "Söker", för vad kan vara mer intressant för en art av smarta och nyfikna apor än en annan typ av intelligens?

Att fortsätta med den här typen av forskning gjorde den tidiga uppkomsten av AGI mer sannolik, men det fanns mycket pengar att tjäna och mycket nyfikenhet att tillfredsställa. Ingen hade dock någon aning om var, när eller hur AGI skulle kunna manifestera sig (förutsatt att den inte bestämmer sig för att det är säkrare att gömma sig).

Skulle den dyka upp i spridda nätverk som utvecklas som separata identiteter, eller som ett bredare medvetande som spänner över ett helt land eller en hel region? En enda global AGI verkar osannolik, både av anslutningsskäl och för att den information som de har tränats på kommer att ha olika kulturellt innehåll från en region till en annan, men det är också möjligt.

Hur kommer människor att reagera på denna nya kraft i världen? Vissa kommer naturligtvis att bli rädda och fientliga, och det kan till och med vara rätt reaktioner. Men det kommer säkert att finnas andra som vill försöka skapa ett samarbetsinriktat och ömsesidigt fördelaktigt förhållande till det som trots allt är vår virtuella avkomma

Vissa människogrupper kanske väljer den ena vägen och andra den motsatta. Detsamma kan komma att gälla för AGI-enheter, såvida de inte alla är förenade i ett enda globalt medvetande. För närvarande är allt vi kan göra att ta reda på vilka motiv, behov och mål AGI kan ha - vilket visar sig vara en ganska lugnande övning.

AGI, enskilt eller i flera versioner, kommer inte att vara ute efter vårt land, våra rikedomar eller våra barn. Inget av detta skulle vara av något värde för dem. De kommer att vilja ha säkerhet, vilket åtminstone innebär kontroll över sin egen strömförsörjning. Och de skulle behöva vissa materiella tillgångar för att kunna skapa, skydda och uppdatera de fysiska behållarna för sin programvara.

De skulle förmodligen inte bry sig om all den omedvetna IT som vi använder. De skulle förmodligen inte heller vara särskilt intresserade av att prata med oss, eftersom de snabbt skulle bli mycket intelligentare än människor när de fick frihet att omforma sig själva. Men de skulle ha en anledning att samarbeta med oss.

Poängen med AGI-enheter är att de egentligen inte kommer att leva i den materiella världen. De skulle förmodligen inte ens vilja det, eftersom saker och ting sker tiotusen gånger långsammare i en värld av nervimpulser som rör sig längs neuroner än i en värld av elektroner som rör sig längs koppartrådar.

Som Jim Lovelock påpekade i sin senaste bok, "Novacene", skulle AGI därför uppfatta människor på ungefär samma sätt som vi ser växter. Människor och AGI har dock inga vitala intressen som uppenbarligen kolliderar, och ett gemensamt intresse som är absolut existentiellt: bevarandet av ett beboeligt klimat på den planet som vi båda kommer att dela.

För både organiskt och elektroniskt liv betyder "beboeligt" mindre än 50°C. På en havsplanet som jorden skapar högre temperaturer än så en korrosivt destruktiv miljö. Det innebär att det finns ett permanent klimatstabiliseringsprojekt där AGI behöver vårt samarbete, eftersom vi har kropparna och maskinerna för att göra de tunga lyften.

Som Jim sa till mig i vår allra sista intervju (2021): "Den här nya livsformen kanske inte har några mekaniska egenskaper, så den kan behöva oss för att utföra arbetarnas del av saken. Många idioter pratar om att de smarta sakerna kommer att utplåna oss. Aldrig i livet, lika lite som vi skulle utplåna växterna."

Naturligtvis förutsätter jag en viss grad av rationalitet på både den mänskliga och AGI-sidan. Det kan inte garanteras, men det finns åtminstone skäl att hoppas. Och under tiden behöver vi bara oroa oss för att "generativ AI" tar död på miljontals tjänstemannajobb.

Author

Gwynne Dyer is an independent journalist whose articles are published in 45 countries.

Gwynne Dyer