Nylig sa USAs president Donald Trump at det ikke er behov for å regulere KI-selskapene. Men hvor trygge bør vi egentlig være?
Kunnskapen som før krevde en doktorgrad i biologi kan i dag hentes ut gjennom en samtale med en språkmodell. Samtidig blir verktøyene som kan designe nye sykdomsfremkallende virus og giftstoffer stadig kraftigere.
Spørsmålet forskere nå stiller seg, er hvor lang tid det tar før disse verktøyene havner i feil hender og brukes til å lage biologiske og kjemiske våpen – enten et nytt virus som forårsaker en dødelig pandemi eller et helt nytt giftstoff vi ikke har noen motgift for.
Virus er noe vi frykter fordi vi forbinder dem med sykdom og pandemier. Og det med god grunn etter covid som viste oss hvor dårlig forberedt verden var på en biologisk trussel.
La oss nå ta et steg videre. Se for deg et virus som aldri har eksistert i naturen. Et virus som ikke ble formet gjennom mutasjon og naturlig seleksjon, men fullstendig designet av en KI-modell på noen timer. Det høres ut som science fiction, men det skjedde faktisk for kort tid siden.
De samme verktøyene kan i verste fall brukes til å designe virus som er mer smittsomme og dødeligere enn noe vi har sett før, og som kan skjule seg lenge før de plutselig bryter ut.
Vi har nå kommet dit at dette er mulig.
For noen uker siden ble det publisert en artikkel i Science om en KI-modell som konstruerte virus som angriper bakterier.
Hele arvematerialet til virusene var nytt og totalt fremmed for naturen. De ble videre testet i laboratoriet med varierende suksess, men noen seiglivede eksemplarer spredte seg effektivt.
Det som gjør biologiske trusler unike, er at de formerer seg selv. Man trenger ikke mange forsøk som lykkes. Man trenger bare ett.
Akkurat som hver pandemistartermed én smittet person («pasient null»), trenger et designet virus bare ett levedyktig eksemplar for å spre seg videre og forårsake mye skade.
Alle virus følger samme grunnleggende oppskrift uavhengig av art. De finner en vei inn i en celle, kaprer cellens maskineri og bruker den til å lage kopier av seg selv.
Spranget fra å designe et virus som infiserer bakterier til et som infiserer mennesker er derfor mindre enn man tror, noe andre forskere selv advarer mot i en kommentar til studien.
Før krevde det både stor fagkunnskap og dyrt utstyr å bygge et ferdig virusdesign om til noe fysisk. I dag går det raskere, er enklere og billigere.
Flere selskaper tilbyr nå en tjeneste der du sender inn oppskriften på arvestoffet til viruset du ønsker og får den tilsendt i posten ferdig produsert.
Det som før krevde et fullt utstyrt laboratorium er nå redusert til en bestilling på nett. Heldigvis overvåkes disse bestillingene av filtre som skal flagge sekvenser som regnes som farlige basert på en database.
Problemet oppstår når sekvensen som bestilles er helt ny og ikke finnes i databasen. Da har filteret ingenting å sammenligne den med, og kan konkludere med at den er ufarlig selv om den ikke er det.
Dette gjelder ikke bare nye virus. Det gjelder også andre typer biovåpen som ekstremt potente giftstoffer.
En forskningsartikkel beskriver hvordan forskere ga en KI-modell i oppgave å designe varianter av eksisterende medisiner. Målet var å finne varianter med samme virkning, men mer potente eller med færre bivirkninger, altså bedre medisiner. Men underveis kom forskerne på en skummel tanke.
Hva om man i stedet ba modellen designe biokjemiske våpen? Ville den klare det også?
Så i stedet for å belønne modellen for stoffer som var minst mulig giftige, snudde de premisset på hodet og belønnet den for stoffer som var mest mulig giftige.
På seks timer foreslo den titusenvis av potensielle nervegifter.
Flere av dem trolig mer potente enn kjente kjemiske våpen. Og siden disse stoffene var helt nye, fantes de heller ikke i noen database. KI-modellen ble raskt sikret slik at aktører med farlige intensjoner ikke kunne bruke den.
Men det var for fire år siden.
Siden den gang har modellene blitt langt smartere, og mange av de åpne modellene som er fritt tilgjengelige på nett er enten allerede usikrede eller kan trenes til å assistere ondsinnede brukere med nesten hva som helst.
Heldigvis er de fleste åpne modeller foreløpig ikke spesialisert på biokjemi. Men de blir stadig bedre.
Når noe går galt i et laboratorieforsøk, krever det ofte år med erfaring å finne ut hva som er feil og hvordan man retter det opp. En fersk test viste at KI-modellen nå er bedre enn 94 prosent av erfarne virologer til akkurat dette. Det betyr at kunnskapen som før satt i hodet på spesialister nå kan hentes fra en maskin.
KI kan med andre ord løfte vanlige folk opp på ekspertnivå.
Det er derfor ikke tilfeldig at KI-selskapene selv omtaler egne modeller som en potensiell fare innen biosikkerhet. Men det er også oppsiktsvekkende hvordan grensen for hva som regnes som farlig stadig flyttes akkurat langt nok til at modellen kan rulles ut.
Modellene testes jevnlig av uavhengige organisasjoner, og resultatene burde holde flere enn forskerne våkne om natten. Kjenner du på uroen nå, er det med god grunn, for det vi står overfor krever mer enn bekymring. Det krever handling.
Alt en pandemi trenger er én pasient null. Det vi ikke vet er om den neste blir skapt i en garasje fordi noen ba en språkmodell om hjelp, og fordi ingen stoppet dem i tide.
Covid viste oss at ingen slipper unna når et utbrudd først er i gang, uansett hvor langt unna man tror man er. KI-risiko er ikke noe ett land kan løse alene, løsningene må kjempes frem i fellesskap.
De nye virusene er et varsel, ikke en forutbestemt skjebne. Vinduet for å stanse KI-drevne biovåpen står fortsatt åpent, men det lukker seg raskt.Les også OpenAI set ny KI-modell på pause – ikkje trygg nok Les også Støre med internasjonalt KI-initiativ: – Må få bedre kontroll