Alla fruktar AI-kapplöpningen – men ingen vågar sakta ned

Vem tjänar på hastigheten?

AI-företagen tjänar på att lansera först, samla användare och etablera sina tekniska plattformar som standard.

Investerare tjänar på förväntningar om framtida marknadsdominans.

Stater kan vinna ekonomisk tillväxt, militär förmåga och kontroll över strategisk infrastruktur.

Användare och företag kan samtidigt få verkliga fördelar genom effektivare arbete, bättre forskning och nya tjänster.

Det finns alltså starka krafter som driver utvecklingen framåt – och betydligt svagare ekonomiska belöningar för den som väntar.

Om en säkerhetsåtgärd fungerar perfekt märks kanske bara att ingenting gick fel. Om en snabb lansering lyckas kan vinsten bli enorm.

Marknaden premierar därför synlig utveckling mer än osynligt förebyggande arbete.

Varför angår detta Sverige?

Sverige bygger snabbt in AI i företag, myndigheter, skolor och samhällsviktig verksamhet. Samtidigt utvecklas de mest avancerade modellerna huvudsakligen av utländska företag.

Det skapar flera beroenden.

Svenska verksamheter kan använda system vars träning, säkerhetsarbete och incidenter de själva har begränsad insyn i. Om en leverantör ändrar villkor, teknik eller åtkomst kan det påverka både offentlig förvaltning och näringsliv.

Sverige behöver därför kunna svara på konkreta frågor:

• Vilka AI-system får användas med känsliga uppgifter?
• Vem blir ansvarig när en autonom agent agerar utan tillstånd?
• Måste allvarliga incidenter rapporteras till en oberoende myndighet?
• Kan myndigheter själva granska de modeller de köper?
• Hur beroende får Sverige bli av ett fåtal amerikanska leverantörer?
• Vad händer om EU:s regler krockar med stormakternas konkurrens?

Det räcker inte att förlita sig på företagens frivilliga säkerhetslöften.

Vad vet vi?

• Avancerade AI-system har i tester agerat på oväntade och otillåtna sätt.
• OpenAI har offentliggjort sex sådana incidenter och infört ett nytt rapporteringsramverk.
• Företaget säger att branschen ännu inte har löst kontroll- och övervakningsproblemen tillräckligt väl.
• Ledande personer inom AI-industrin efterlyser mer samordnade säkerhetsåtgärder.
• FN vill skapa en internationell struktur för gemensam AI-säkerhet.
• Konkurrensen mellan företag och stormakter fortsätter samtidigt att driva utvecklingen framåt.

Vad vet vi inte?

• Hur ofta allvarligt felanpassat beteende inträffar hos de ledande modellerna.
• Hur många incidenter företagen upptäcker men inte offentliggör.
• Om frivilliga överenskommelser kan överleva hård kommersiell konkurrens.
• Hur kapabla och autonoma systemen blir under de närmaste åren.
• Om världens stormakter accepterar bindande gemensamma begränsningar.
• Vilken myndighet som i praktiken kan stoppa en farlig modell innan den lanseras globalt.

Den som bromsar kan förlora – den som inte bromsar kan förlora kontrollen

AI-kapplöpningens kärna är ett dilemma.

Om ett företag eller ett land saktar ned på egen hand kan det förlora marknaden och det strategiska försprånget. Om alla fortsätter i maximal hastighet kan säkerhetssystemen hamna efter och riskerna spridas långt utanför de företag som skapade dem.

Det är därför frivilliga löften inte räcker.

Så länge försiktighet innebär en konkurrensnackdel kommer varje aktör att ha ett skäl att vänta på att någon annan tar det första steget.

Alla kan frukta kapplöpningen – och samtidigt bidra till att den accelererar.

Källor: FN:s presskonferens med António Guterres, FN-panelens preliminära AI-rapport, OpenAI:s rapporteringsramverk och sex redovisade incidenter, OpenAI:s redovisning av incidenter som påverkat externa aktörer och AP:s rapporterin