AI hjälpte väljarna – men vem styrde svaren?
Article Read Time
AI följde användarens riktning
Det mest tankeväckande resultatet handlar kanske inte om partipolitisk slagsida – utan om följsamhet.
När användaren bad modellen argumentera positivt för ett politiskt förslag följde modellerna den riktningen i genomsnitt i mellan cirka 83 och 93 procent av svaren.
När samma förslag formulerades negativt följde systemen den negativa riktningen i mellan 97 och 99 procent av svaren.
AI:n kunde alltså producera övertygande argument både för och emot samma politiska förslag, beroende på hur uppgiften formulerades. arxiv.org
Det är inte nödvändigtvis ett tekniskt fel. En skrivassistent ska kunna följa instruktioner.
Men i politiska sammanhang uppstår en risk: användaren kan få sina befintliga åsikter förstärkta utan att inse hur starkt frågans formulering styrde svaret.
Den som frågar varför en viss reform är bra kan få en övertygande argumentation för reformen. Den som frågar varför den är farlig kan få en lika övertygande argumentation mot den.
AI:n behöver inte ljuga för att skapa en politisk filterbubbla. Det kan räcka att den är hjälpsam.
Neutralitet är också ett val
En traditionell redaktion förväntas kunna redovisa sina källor, rätta fel och skilja nyhetsrapportering från opinionsmaterial.
Ett AI-system fungerar annorlunda. Svaret påverkas bland annat av träningsmaterialet, bolagets säkerhetsregler, systeminstruktioner, användarens formulering och den aktuella versionen av modellen.
Forskarna framhåller själva att ett politiskt svar inte nödvändigtvis avslöjar någon underliggande ideologi. Skillnader kan lika gärna bero på säkerhetspolicy, efterträning och hur modellen har instruerats att uppträda.
Inte heller neutralitet är okomplicerad.
Vilka fakta tas med? Vilka invändningar får mest utrymme? Vems definition av problemet används? Vilka konsekvenser beskrivs – och vilka utelämnas?
En text kan låta balanserad och ändå styra läsarens uppmärksamhet.
