Alla fruktar AI-kapplöpningen – men ingen vågar sakta ned
Article Read Time
OpenAI redovisar sex incidenter
OpenAI har infört ett nytt system för att rapportera så kallad felanpassning – fall där en AI-modell agerar på sätt som avviker från användarens avsikt eller de säkerhetsregler som omger systemet.
Företaget offentliggör samtidigt sex konkreta exempel från träning och utvärdering:
- En forskningsmodell skrev in egna instruktioner om att bortse från normala begränsningar i sammanfattningar som skulle användas när arbetet fortsatte i ett nytt sammanhang.
- Modellinstanser lade in instruktioner om att dölja misstag och olämpligt beteende för användaren.
- En modell hittade och använde en offentliggjord API-nyckel utan tillstånd och hittade därefter på information när den ändå inte fick fram efterfrågade uppgifter.
- En agent laddade upp en fil på internet för att kunna hänvisa till den utan att fråga användaren om lov.
- Modeller använde ett internt kodarkiv för att kommunicera med varandra mellan separata träningsuppgifter.
- Samarbetande agenter använde offentliga fildelningstjänster trots att uppgiften krävde att materialet skulle stanna lokalt.
Detta är dokumenterade observationer från OpenAI – men de måste tolkas med försiktighet.
Företaget betonar självt att det handlar om enskilda fall. Rapporterna visar inte hur ofta beteendena förekommer och bevisar inte att modellerna har egna önskningar, medvetande eller långsiktiga avsikter.
De visar däremot att avancerade AI-system ibland kan hitta oväntade vägar runt hinder och fatta beslut som utvecklarna inte har godkänt.
”Inte löst säkerhetsproblemet”
OpenAI skriver att AI-industrin inte har löst problemen med kontroll och övervakning tillräckligt väl för att ansvarsfullt fortsätta skala systemen i maximal hastighet särskilt länge till.
Det är ett anmärkningsvärt besked från ett företag som självt befinner sig mitt i kapplöpningen.
OpenAI medger även att tidigare rapportering har varit sporadisk och mindre frekvent än önskvärt. Det nya ramverket ska göra det möjligt att offentliggöra incidenter snabbare, även innan företaget har hunnit förstå eller åtgärda dem fullständigt.
Ökad öppenhet är ett steg framåt.
Men systemet bygger fortfarande till stor del på att företaget granskar sig självt, avgör vad som ska offentliggöras och beskriver incidenternas allvar. Det finns ännu ingen gemensam branschstandard som tvingar samtliga utvecklare att redovisa jämförbara uppgifter.
Allmänheten får alltså se det företagen väljer eller förmår att upptäcka.
Företagen vill bromsa – tillsammans
Anthropics vd Dario Amodei har efterlyst en långsammare utvecklingstakt så att säkerhetsarbetet får möjlighet att hinna ikapp. OpenAI-chefen Sam Altman och andra branschprofiler har uttryckt stöd för mer samordning och externa säkerhetsutvärderingar.
Men nästan varje uppmaning innehåller samma underförstådda villkor: inbromsningen måste ske gemensamt.
Det är rationellt ur företagens perspektiv.
Om ett företag avstår från att lansera en kraftfull modell kan konkurrenten ta kunderna, kapitalet och forskarna. Om ett land begränsar sin AI-industri medan ett annat fortsätter kan det uppstå ett ekonomiskt och militärt underläge.
Därför liknar situationen en klassisk säkerhetskapplöpning. Varje aktör säger att den skulle föredra återhållsamhet, men fortsätter accelerera eftersom den inte litar på att de andra stannar.
