Vad händer om allmänhetens förtroende för myndigheter sjunker? Vad är en kritisk nivå, när det kommer till förtroende och tillit?
”Under det senaste året har Säkerhetspolisen hanterat konsekvenserna av det som skett i spåren av en förändrad sverigebild. Kraftiga reaktioner på koranbränningar, i kombination med desinformationskampanjer som att svenska myndigheter kidnappar muslimska barn, samt bilden av Sverige som ett islamfientligt land har lett till att Sverige ses som ett mer legitimt mål bland våldsbejakande extremister. Som en konsekvens har terrorhotnivån höjts och ligger på ett högt hot. Detta blev extra tydligt vid det tragiska dådet i Bryssel då svenskar dödades och skadades just för att de var svenskar. Bilden av Sverige har ytterst blivit en fråga om vår säkerhet.” (Säkerhetspolisen. 2023/24)
Att först ta del av de svenska säkerhets- och underättelse myndigheternas årsrapporter och därefter läsa rapporter såsom MSB resultat för mognadsnivån avseende informations- och cybersäkerhet i offentlig sektor gör det svårt att vara optimistisk.
I en tid av stor osäkerhet, omfattande risker och komplexa hot behöver vi ha ett högt förtroende för våra medmännsikor, våra myndigheter - hela vårt samhälle!
… för jag tror att ett minskat förtroende kan medföra många problem. Det kan bidra till att de risker och hot vi har omkring oss blir ännu svårarare att hnatera. Ett minskat förtroende kan kanske leda till minskad laglydnad och svårigheter att genomföra politik, då folk är mindre benägna att följa lagar och samarbeta. På lång sikt kan detta leda till politisk instabilitet och ge upphov till ökad polarisering och populism, vilket utmanar demokratin. Dessutom kan det bidra till att samhällets förmåga att hantera kriser försämras, vilket kan leda till större skada under t.ex. pandemier eller ekonomiska nedgångar.
"Continuing with the same strategies and expecting different outcomes is a low-probability success strategy. … countries tend to do “their best” to combat cyber threats, while sometimes what they need is to ask themselves is what they can do differently. … This is what Ukraine did when Russia invaded it two years ago and launched both kinetic and digital strikes. Ukraine pivoted from a fundamentally different model in cyber, Rogers said. “And they did that because they faced such a magnitude of threat that they needed to do something fundamentally different." (Michael Rogers)
Små saker har effekt, det måste vi komma ihåg! Men utveckligen visar att det vi gör inte räcker till. Gapet mellan hot och skydd ökar. Vi måste bli smartare och vi måste våga satsa mer offensivt på vår säkerhet! Och det är nu, för 2024 är ett Super (AI) år!
Läs, lär och delta:
Vänligen
Anton Lif
Innehåll:
“Jag åker till rymden” - en tillbakablick.
2024 - ett Super (AI) valår!
2024 - ett Super (AI) desinformationsår!
2024 - ett Super (AI) cyberhot år!?
2024 - ett Super (AI) bedrägeri år!
Offentlig sektor har allvarliga brister i sitt säkerhetsarbete - hur står det egentligen till med vår motståndskraft?
“Jag åker till rymden” - en tillbakablick.
“Jag är så stolt över att få ha gjort det här uppdraget. Att få komma hem och få ett så här varmt välkomnande är helt otroligt” (Marcus Wandt)
Den 18 januari var jag plats på Kennedy Space Center i Florida för att följa Marcus Wandts “Liftoff” mot den Internationella rymdstationen, ISS. En fantastisk resa, ett minne för livet. Förutom att vara där, på plats när startrakerna drog igång så hade jag en väldigt lärorik vecka på plats i Florida. Under ESA och Rymdstyrelsens ledningen fick jag och kollegorna från Saab, liksom representater från bland annat regering och riksdag, Förvarsmakten och ett fleratal myndigheter och universitet ta del av ett inspirerande och imponerande program. Seminarium, studiebesök och umgänge. Niklas Engelhardt från föreningen Astronomisk ungdom har sammanfattat stor delar av detta i ett inlägg, på deras hemsida.
Läs, lyssna, se:
#Rymdkalender alt. Omvärldsbevakning #34 - Anton Lif - omvärldsbevakning (substack.com)
Örebroare skickade ut sin kollega i rymden – Nerikes Allehanda (na.se)
Marcus Wandt – vill ta med alla till rymden 23 februari 2024 - Söndagsintervjun | Sveriges Radio
2024 - ett Super (AI) valår!
Bild: Belarusian opposition endorses AI candidate in parliamentary elections | Semafor
År 2024 utmärker sig som ett supervalår globalt! Medborgare i minst 64 länder och Europeiska unionen ska gå till vallokalerna under året. De representer nästan hälften av världens befolkning. Detta i en tid när, teoretiskt sett, alla har möjlighet att använda generativ AI för att skräddarsy budskap, skapa syntetiskt innehåll, eller till och med manipulera existernade medier. Och det är något som redan görs, och det görs av alla. Politiker, influerare, medier, medborgere. Vad innebär detta? Hur påverkar detta den demokratiska processen? Är det rättvist att använda AI för att framställa en politisk motståndare i dålig dager, eller för att skapa en illusion av folkligt stöd som kanske inte existerar?
Den centrala frågan rör inte bara teknikens kapacitet utan också dess inverkan på den offentliga diskursen. I en värld där autentiska och AI-genererade budskap blandas, blir det allt svårare för väljarna att skilja mellan vad som är verkligt och vad som är konstruerat.
Se:
Läs:
Meet Ashley, the world's first AI-powered political campaign caller | Reuters
2024 Candidates Are Using AI In Their Campaigns—Here’s How To Spot It (forbes.com)
Call for action on deepfakes as fears grow among MPs over election threat | Politics | The Guardian
Belarusian opposition endorses AI candidate in parliamentary elections | Semafor
Behind the Scenes of the First AI-powered Election in Argentina | by Steven Smith | Medium
Right-wing German populist party hit by AI deepfake campaign amid calls to ban it (telegraph.co.uk)
Tyskland: Domstol förbjuder deepfake av förbundskanslern | techlaw
2024- ett Super (AI) desinformationsår!?
2024 är inte enbart ett “Super valår”. Många aktörer såsom jouralister, myndigheter och forskare lyfter riskerna med att det kan bli ett “super desinformationsår”.
“Now, the thing that frightens me is that this creates a vacuum of chaos and what we might call the most untrustworthy individuals, they understand these dynamics. They understand how to take all these fragments and this chaos and create some kind of absolute truth, create some kind of false certainty that is often mistaken for power and that’s where trust goes.”(Rachel Botsman)
EEAS Report on Foreign Information Manipulation and Interference Threats
I januar publicerade EU:s utrikestjänst, EEAS för andra året EEAS Report on Foreign Information Manipulation and Interference Threats - rapporten belyser den växande utmaningen med utländsk informationsmanipulation och inblandning (FIMI), som utgör ett betydande hot mot demokratier genom att strategiskt sprida desinformation för att så splittring och underminera förtroendet för demokratiska processer. Med fokus på valpåverkan, dokumenterar rapporten hur FIMI-aktörer målmedvetet riktar sig mot valprocesser, kandidater och det bredare samhällsförtroendet.
Global Risks Report 2024
I World Economic Fourm globala riskrapport för 2024 framhävs desinformation och misinformation som en av de största hoten mot samhällen världen över, med en direkt påverkan på demokratiska processer och förtroendet för institutioner. Utöver detta pekar rapporten på hot som robocalls och riktade automatiska textmeddelanden med falsk information, samt faror som phishing och doxing riktade mot valtjänstemän. En djupare fråga om förtroende lyfts fram, där nutida algoritmstyrda samhällen riskerar att underminera demokratiska värderingar och institutioners trovärdighet.
Bild: Global risks landscape: an interconnections map
“Detecting deepfakes should not be the sole responsibility of the platforms'.....Yes, platforms have a major and critical responsibility. Still, it's too easy to place a lazy onus and expectation on platforms without considering the realities of how platforms fail to do globally equitable content moderation, the challenges of detecting AI and discerning deceptive or malicious usage from all other forms of communication, and the need for any meaningful technical response to require a broader participation across the AI pipeline than just the social media platforms per se.” (Sam Gregory)
Skärmdump: “The 11th Package of Anti-Russian Sanctions Challenge” featuring a deepfake of US president Joe Biden RT
“Doppelgänger's adaptability exemplifies the enduring nature of Russian information warfare, with a strategic focus on gradually shifting public opinion and behavior. The use of generative AI for content creation signifies an evolution in tactics, reflecting the broader trend of leveraging AI in information warfare campaigns. As the popularity of generative AI grows, malign influence actors like Doppelgänger are very likely to increasingly employ AI for scalable influence content.” (Recorded Future)
Se:
Läs:
2nd EEAS Report on Foreign Information Manipulation and Interference Threats | EEAS (europa.eu)
Tackling Disinformation, Foreign Information Manipulation & Interference | EEAS (europa.eu)
Aggressive Malign Influence Threatens to Shape US 2024 Elections | Recorded Future
Preface - Global Risks Report 2024 | World Economic Forum (weforum.org)
Fake AI Taylor Swift, Joe Biden, Dead Kids on Social Media - Bloomberg
How AI-generated deepfakes threaten the 2024 election (journalistsresource.org)
2024 - ett Super (AI) cyberhot år!?
I nyligen publicerade rapporter, bland annat från Open AI och Microsoft framkommer det att (cyber)hotaktörer aktivt utforskar och anpassar stora språkmodeller (LLM) för att förbättra sin offensiva kapacitet inom cyberområdet. Dessa aktörer, som inkluderar såväl kriminella som statdsunderstödda grupperingar, använder LLM-teknik för att genomföra en rad aktiviteter. Dessa innefattar prompt-injektioner, försök till missbruk av LLM för bedrägeri och annan skadlig användning som underlättar utförandet av sofistikerade cyberangrepp. Genom att utnyttja LLM för att utföra rekognosering, förbättra skripttekniker och stödja social ingenjörskonst har hotaktörer visat en anmärkningsvärd anpassningsförmåga och innovativ användning av AI.
Exempel på hur hotaktörer använder och kan använda AI:
Rekognosering: Användning av LLM för att samla in handlingsbar underrättelseinformation om teknologier och potentiella sårbarheter.
Förbättrade skriptningstekniker: Uttnyttjande av LLM för att generera eller förbättra skript som kan användas i cyberattacker, eller för grundläggande skriptuppgifter som att identifiera specifika användarhändelser på ett system samt hjälp med felsökning och förståelse av olika webbteknologier.
Stöttad utveckling: Användning av LLM i utvecklingscykeln för verktyg och program, inklusive de med skadlig avsikt som malware.
Social ingenjörskonst: Uttnyttjande av LLM för hjälp med översättningar och kommunikation, sannolikt för att etablera kontakter eller manipulera mål.
Assisterad sårbarhetsforskning: Användning av LLM för att förstå och identifiera potentiella sårbarheter i mjukvara och system som kan vara mål för exploatering.
Optimerad lastframställning: Användning av LLM för att assistera i skapandet och finjusteringen av laster för användning i cyberattacker.
Förbättrad detektion av anomalier: Användning av LLM för att utveckla metoder som hjälper skadlig aktivitet att smälta in med normalt beteende eller trafik för att undvika detektionssystem.
Säkerhetsfunktionsomgång: Användning av LLM för att hitta sätt att kringgå säkerhetsfunktioner som tvåfaktorsautentisering, CAPTCHA eller andra åtkomstkontroller.
"In this work, we show that LLM agents can autonomously hack websites, performing complex tasks without prior knowledge of the vulnerability,"(LLM Agents can Autonomously Hack Websites)
Läs:
Staying ahead of threat actors in the age of AI | Microsoft Security Blog
The near-term impact of AI on the cyber threat - NCSC.GOV.UK
Why cybersecurity is on the frontline of our AI future | World Economic Forum (weforum.org)
AI models can be weaponized to hack websites on their own • The Register
2024 - ett Super (AI) bedrägeri år!?
I takt med att artificiell intelligens (AI) fortsätter att utvecklas i en alarmerande hastighet, ökar även dess förmåga att generera bedrägliga handlingar och identiteter. Denna utveckling har öppnat en ny arena för kriminella att operera på, vilket skapar en ny typ av brottslighet som samhället måste lära sig att hantera.
“A finance worker at a multinational firm was tricked into paying out $25 million to fraudsters using deepfake technology to pose as the company’s chief financial officer in a video conference call, according to Hong Kong police.”(CNN)
Nyligen har exempelvis OnlyFake, känd för att erbjuda realistiska bilder av falska ID-handlingar för en spottstyver, belyst hur enkelt det är att skapa och distribuera falska identiteter. Dessa dokument kan till och med kringgå KYC-kontroller hos välkända finansiella institutioner, vilket understryker den enorma utmaning som AI-bedrägerier utgör för både företag och myndigheter.
Men det är inte bara förfalskade dokument som utgör ett hot. AI har visat sig kapabel till att skapa falska mänskliga interaktioner, från bedrägliga Zoom-samtal med AI-genererade personer till sofistikerade phishing-attacker som blir allt svårare att upptäcka.
Se, Läs:
Taylor Swift deepfakes spark calls in Congress for new legislation - BBC News
Voice Deepfakes Are the Latest Threat to Your Bank Balance - The New York Times (nytimes.com)
Sumsub Research: Global Deepfake Incidents Surge Tenfold from 2022 to 2023 | Sumsub
Finance worker pays out $25 million after video call with deepfake ‘chief financial officer’ | CNN
Offentlig sektor har allvarliga brister i sitt säkerhetsarbete - hur står det egentligen till med vår motståndskraft?
”Återigen konstaterar vi att förutsättningarna för att bedriva ett systematiskt och riskbaserat informations- och cybersäkerhetsarbete saknas utan ledningens löpande engagemang.” (MSB)
Nästan 70% av organisationerna inom offentlig förvaltning saknar grundläggande delar i sitt arbete med informations- och cybersäkerhet, enligt MSB:s undersökning "Infosäkkollen" från 2023. Detta understryker behovet av ökad satsning på cybersäkerhet mot bakgrund av växande it-hot. Trots en viss förbättring jämfört med 2021, krävs mer resurser och engagemang från ledningen för att förbättra säkerhetsarbetet. MSB föreslår särskilda finansiella satsningar och en stärkt roll för CISO (Chief Information Security Officer) för att hantera dessa utmaningar och skydda samhällsviktiga funktioner.
“Den nuvarande ansvarsfördelningen är en konsekvens av svensk förvaltning. Där finns centrala aktörer, som justitie- och försvarsdepartementet, liksom myndigheter som MSB, Försvarsmakten, Säpo, PTS och FRA. Men ingen av dem har ett övergripande ansvar eller koordinerar arbetet. Istället är det regeringen som är ytterst ansvarig. Men det vi ser är att regeringar genom tiderna delegerat ansvaret till departement och myndigheter som i sin tur delegerar vidare och till slut är det ett arbete som bedrivs långt från regeringen”(FOI)
Läs, lär, använd:
Sju av tio organisationer har allvarliga brister i sitt säkerhetsarbete (msb.se)
Cybersäkerhet i Sverige 2022 Del 2: Rekommenderade säkerhetsåtgärder (ncsc.se)
Brussels spyware bombshell: Surveillance software found on officials’ phones – POLITICO
Germany to investigate after leaked recording emerges of secret army talks on Ukraine | CNN
Säkerhetskopior borta efter cyberattacken mot Tietoevry - DN.se