Omvärldsbevakning #40

USA - polarisering, politisering och informationspåverkan

Oct 30, 2024

Hej där

Efter ett lite längre uppehåll kommer nu en uppdatering från mig. Med mindre en vecka kvar till det amerikanska presidentvalet så kände jag att det verkligen var dags. Ett val som omfattas av polarisering, politisering och stora utmaningar med vilseledande och felaktig information.

En personlig favorit när det kommer till satir, opinion och generativ AI The Dor Brothers nyttjande av och Grok AI: Lies Wide Shut (youtube.com)

Nytt från mig: Föra veckan intervjuades jag av branschtidningen Computer Sweden, på temat påverkan, vilseledande information, generativ AI och dataförgiftning. Du hittar intervjun här: Desinformationen väller fram – och AI får den att accelerera | Computer Sweden. Några dagar tidigare blev jag uppring av TV4 - med anledning av den flod av vilseledande och felaktig information, förstärkt av generativ ai, som spreds (och sprids) i samband med orkanen Helene. Artikel här: AI-genererade bilder sprids efter orkanen Helene (tv4.se)

Med anledning av nyhetsbrevets huvudfokus; kognitiv påverkan så vill jag ta tillfället att uppmuntra alla att läsa Patrik Thunholms artiklar på KKRVA, flera artiklar i närtid, exempelvis: Informationspåverkan – KUNGL KRIGSVETENSKAPSAKADEMIEN (kkrva.se). I mitt senaste nyhetsbrev Omvärldsbevakning #39 hade jag, delvis, ett fokus på framsyn (foresight) och på det temat så vill jag rekommendera Judith Wolst nyhetsbrev - Plötsligt i framtiden.

Kommande, publika, aktiviteter som jag deltar i: Den 26 november är jag med på konferensen Informationssäkerhet i offentlig sektor - Ability Partner

Innehåll:

Nordic Pine 2024 - Complete Manual
Det amerikanska valet

Vänligen
Anton Lif

Nordic Pine 2024 - Complete Manual

Som ni vet hade jag förmånen att, i september, genomföra NATO STO övningen Nordic Pine 2024, som Joint Exercise Centre Director, JEC D. Nu kan jag glädjande berätta att vi har publicerat en stor del av övningsmaterialet på DiVA. Så nu är det tillgängligt för dig med! Materialet omfattar bla. scenarioöversikt, händelse-inspel, deltagarinstruktioner, responsformulär, erfarenheter och rekommendationer.

Personligen tar jag särskilt med mig betydelsen av att öva, utbyta kunskap och bygga nätverk.

Använd:

Complete Manual - Nordic Pine TTX 2024 : A complete manual, guide and lessons learned from Nato STO SAS 191 Nordic Pine 2024 TTX (diva-portal.org)

Om Nordic Pine i media, några exempel:

Det amerikanska valet

“There was nobody at the plane,” wrote a frustrated Donald Trump, the forty-fifth president of the United States and Republican nominee for president in 2024. “She ‘A.I.’d’ it, and showed a massive ‘crowd’ of so-called followers, BUT THEY DIDN’T EXIST!” Atlantic Council

Politik, politisering, polarisering och illegitim påverkan. Nyanserna och komplexiteten när det kommer till informationsmiljön och det stundande amerikanska presidentvalet är svårt att överblicka, att förstå, att försöka förstå. Det är mycket av allt. Jag ska inte ens försöka, utan jag ser det mest som att jag presenterar ett antal observationer. Observationer från vad som fångat mitt intresse i närtid.

Tillbakablick 2016 och 2020

Bild: Report_Volume2.pdf (senate.gov)

2016

För att sätta valet 2024 i perspektiv så vill jag göra en tillbakablick till valen 2016 och 2020. Valet 2016 med dess efterföljande utredningar, skandaler och händelser är en av de enskilda händelser som påverkan utvecklingen på området “skydd mot informationspåverkan” allra mest. Inledningsvis var fokus framförallt på Rysslands illegitima inblandning i valet, hur de genomfört en omfattande påverkanskampanj. En kampanj som omfattade kognitiv såväl som teknisk påverkan.

Men nu i efterhand så är det kanske framförallt Cambridge Analytica som vi minns. Företaget som först arbetade för Ted Cruiz och därefter Donald Trump kampanjer. Ett företag som lyftes fram som de största av superstjärnor när det kom till politisk marknadsföring och påverkan. Men saker är sällan så bra som de framstår och skandalen var ett faktum …

2020

Bild: Interference 2020.

Till valet 2020 var insikterna kring kognitiv påverkan, sociala medier och potentiella risker och hot på en helt ny nivå. Kraven på techbolagen var åtdragna flera varav och exempelvis Facebook (Meta) begränsade politisk annonsering i anslutning till valet. Statliga myndigheter adresserade potentiella informationspåverkan från främmande makt och Atlantic Council lanserade Interference 2020.

Läs, lyssna, se, lär:

En orkan av felaktig och vilseledande information: Generativ AI, opinionsbildning och politisering.

”In short, we are learning that the potential risks posed to elections from generative AI are more akin to a cancer than a heart attack.” Atlantic Council

I en tid när alla teoretiskt sett kan använda generativ AI för att skräddarsy budskap och skapa syntetiskt innehåll, ses det ofta som ett hot mot demokratin. Jag anser dock inte att generativ AI är ett hot, utan snarare ett kraftfullt verktyg. Men tyvärr gäller det även för dem som vill skada. Vi måste vänja oss vid AI-genererat innehåll, då vi möjligen går mot en framtid där majoriteten av allt onlineinnehåll snart kan vara helt eller delvis syntetiskt.

En större utmaning, enligt mig, är möjligen politisering av olika ämnen. En händelse, område som berört mig särskillt är de utmaningar och angrepp som påverkat Stanford Internet Observatory. En av de mest mest inflytelserika aktörerna när det kommer till att analyserna spridningen av vilseledande och felaktig information har förlorat större delen av sin personal och kan komma att stängas ner på grund av politiska och juridiska angrepp.

Läs, lyssna, lär:

Ryssland, Kina och Iran

Bild: Interference 2024

Statliga påverkanskampanjer är en utmaning, ett omfattande hot mot, för USA över tid och angreppen som det amerikanska samhället utsätts för är omfattande. Påverkanskampanjer pågår i regel, framförallt, på ett lågintensivt sätt över tid. Även om det kan inträffa mer extraordinära händelser i samband med val, så är inte min uppfattning att direkta angrepp där och då är det största problemet. Men det är som oftast i valtider som påverkanskampanjer och informationspåverkan får extra mycket fokus. Så även när det gäller det stundande presidentvalet.

"The operation seeks to directly inject influence content into mainstream discussion of contentious political issues, eroding public trust in the democratic process, provoking US domestic concerns of political violence and 'civil war,' and exploiting existing social divisions," Recorded Future

Ryssland, Kina och Iran är de stater som attribueras, framförallt, av amerikanska och andra västerländska myndigheter såväl som företag och akademi. Exempel som lyfts fram:

Ryssland framställs som den mest aktiva hotaktören då de använder desinformation för att underminera förtroendet för valet och för att stödja Trump, samtidigt som de riktar in sig på motståndare som Kamala Harris.
Iran använder bland annat hack & Leak taktik och riktar sig mot Trumps medarbetare och kan potentiellt uppvigla till våld mot amerikanska tjänstemän på grund av tidigare oförrätter.
Kina framställs delvis som något mer neutralt, när det kommer till stundande val. Men de pro-kinesiska aktiviteterna är omfattande.

“Chinese state-linked influence operation (IO) Spamouflage has become more aggressive in its efforts to influence U.S. political conversations ahead of the 2024 presidential election. This includes expanding its use of personas that impersonate U.S. voters on social media platforms and spreading divisive narratives about sensitive social issues in the U.S.” The #Americans

Det är en gedigen utmaning för det amerikanska samhället att bedöma, bemöta och bekämpa sofistikerade desinformationskampanjer från dessa och andra aktörer. En tydlig utveckling och från tidigare val, exempelvis 2016 och 2020 är att USA blivit mer aggressivt i att attribuera utländska hot - i syfte att upprätthålla sin valintegriteten. Där centrala myndigheter såsom Department of State, FBI, CISA och ODNI kontinuerligt attribuerar händelser som inträffat liksom lyfter potentiella och sannolika kommande angrepp.

“Foreign adversaries are likely to perceive varying opportunities to undermine each stage of the post-voting process. This period also has a sequence of deadlines that, if missed, could disrupt the normal process and have cascading and varied effects on later stages of the process.” ODNI

Pre-bunking på högsta strategiska nivå. Även företag som Microsoft och Recorded Future publicerar löpande hotunderättelser med fokus på kommande val. Liksom NGOs, exempelvis Atlantic Council som står bakom Interference 2024.