Nesten all tekst om AI-ens fremtid har én ting til felles: den gjetter. Et årstall, en prosentsats, en kurve som peker et bestemt sted. Alle har en tidslinje. Det er forståelig — usikkerhet er ubehagelig, og et tall føles som kunnskap. Men en prognose er en merkelig ting å kreve av et felt som endrer seg så raskt at gårsdagens målepunkter mettes før de rekker å bli stabile.
Det finnes et alternativ som høres mykere ut, men er hardere i tanken: scenarioet. Og det er verdt å være presis om hva et scenario er, for ordet misbrukes. Et scenario er ikke en prognose. Det er heller ikke en ønsket fremtid. Et scenario er en konsistent fortelling om hvordan allerede observerbare usikkerheter kan kombineres. Hensikten er ikke å fortelle hvilket forløp som kommer til å inntreffe, men å gjøre valg prøvbare under flere mulige forløp.
Forskjellen er ikke akademisk. Den avgjør hva man faktisk kan gjøre med teksten.
Tenk på hva en prognose krever. For å forutsi må man velge: en hastighet på kapasitetsutviklingen, en adopsjonstakt, en kapitalsyklus, en geopolitisk retning. Hver av disse er usikker. Å velge en verdi for hver og multiplisere dem sammen gir én fortelling som ser presis ut, men hviler på fire gjetninger stablet oppå hverandre. Verre: den skjuler det som er politikkens egentlige problem — at beslutninger må fattes før utfallet er kjent. En prognose later som om usikkerheten er borte. Den er ikke borte. Den er bare skjult.
Et scenario gjør det motsatte. Det gjør usikkerheten synlig. Bygger man tre fortellinger — for eksempel en der utviklingen er rask, en der den bremses, og en der den blir ujevn — og prøver hver av dem mot samme sett variabler, kommer noe frem som én enkelt prognose aldri kan vise: hvilke spørsmål som går igjen uansett scenario, og hvilke som endrer seg avhengig av hvordan det går. Det første er gull. Et tiltak som er klokt i alle tre fortellingene, er robust. Et tiltak som bare fungerer i én av dem, er skjørt — og man vet det før man har satset på det.
Her kommer disiplinen som skiller ærlig AI-tekst fra resten: forskjellen mellom det som er belagt og det som ville vært prognostisert. Belagt er det som kan måles og refereres — modellenes resultater på etablerte tester, bedriftenes faktiske bruk, kapitalstrømmer, strømbehov, ekspertvurderinger med navn og dato. Prognostisert er en gjetning om utfall. De fleste tekster blander dem sammen: en måling og en spekulasjon presenteres i samme åndedrag, med samme selvsikre tone. Den som vil tenke ærlig, holder dem fra hverandre hele tiden og sier rett ut hva som er hva. "Dette er belagt." "Dette ville vært en gjetning." Det er ikke overdreven forsiktighet. Det er en forutsetning for at leseren skal kunne stole på resten.
Det finnes enda en ting scenario-tenkningen tvinger frem, og den er ubehagelig: scenarier må ikke være verdier. Hvis man navngir tre fortellinger og i smug lader den ene som "den gode" og den andre som "den dårlige", har man ikke bygget scenarier — man har bygget en argumentasjon forkledd som analyse. Et raskt forløp er ikke "suksess" bare fordi teknologien sprer seg fort; det kan stresse institusjoner med lange ledetider. Et langsomt forløp er ikke "trygghet"; det kan skjule passivitet. Poenget er ikke å velge hvilket scenario man foretrekker. Poenget er å bygge beredskap som holder mens utfallet fortsatt er ukjent.
Dette er vanskeligere enn det høres ut, for det går imot en sterk instinkt. En prognose føles som kunnskap og gir en behagelig følelse av kontroll. Et scenario føles først som ubesluttsomhet — som å nekte å svare på spørsmålet. Men det er akkurat motsatt. Prognosen er ofte lånt selvsikkerhet; den høres bestemt ut, men er en gjetning i fin dress. Scenarioet er en metode: det tvinger frem spørsmålet "hvilke beslutninger er kloke uansett hvordan dette går?" — og det spørsmålet har faktiske svar.
For det er der gevinsten ligger. Scenario-tenkningen bytter ut et spørsmål som ikke kan besvares med et som kan. "Når kommer AGI?" kan ikke besvares ærlig; ingen vet, og de som later som de vet, gjetter. "Hva er klokt å forberede som ikke avhenger av når AGI kommer?" går utmerket an å besvare. Legg indikatorene tidlig i kjeden, slik at man ser endringen når den skjer i stedet for lenge etterpå. Ta reversible steg der det går, og tidlige steg bare der ledetidene er så lange at venting blir dyrere enn feilen. Det er ikke spektakulært. Det er håndterbart, som er hele poenget.
Fristelsen til å gjette kommer ikke til å forsvinne. Den er innebygd i hvordan vi snakker — vi vil ha et tall, et årstall, en beskjed. Og noen ganger er en gjetning det eneste som finnes. Men man skal vite hva man gjør når man gjetter, og man skal ikke selge gjetningen som kunnskap. Profetiens problem er at den er tilfredsstillende og som oftest feil. Scenarioets verdi er at det overlever å ta feil. Målet har aldri vært å vite fremtiden. Målet er å ikke bli overrasket av den.
Metodenotat
Metoden i denne teksten er den samme som ligger bak scenarioene på dette nettstedet: tre fortellinger prøvd mot de samme variablene, ingen verdilading, og et konsekvent skille mellom det som er belagt og det som ville vært en gjetning.