AI med fokus på säkerhet

I takt med att AI blir en allt större del av nationell säkerhet och kritisk infrastruktur ökar också behovet av att inte bara använda tekniken – utan att använda den på ett säkert sätt. Tutus är huvudsponsor för Secure AI, den ledande konferensen inom AI-säkerhet. I detta sammanhang lyfter Yordan Lazarov, Senior Software Engineer och System Architect på Tutus, en av de mest avgörande frågorna just nu: Hur kan AI bli ett kraftfullt verktyg även i miljöer med mycket höga säkerhetskrav?

”AI blir en strategisk fördel eftersom det hjälper försvars- och säkerhetsorganisationer att bearbeta enorma mängder information, upptäcka mönster och reagera snabbare än vad människor skulle kunna på egen hand. Men i detta sammanhang kan snabbhet utan säkerhet skapa nya risker,” säger Yordan Lazarov.

En säker användning av AI kräver mer än effektivitet. Nationell säkerhet ställer krav på AI som är robust, pålitlig och noggrant kontrollerad.

Utmaningar i klassificerade miljöer

”Inget får lämnas åt slumpen. AI medför en unik komplexitet eftersom det inte bara handlar om att skydda data; även modeller, träningsprocesser och inferenssystem måste säkras,” säger Yordan.

AI i klassificerade miljöer kräver ett helt annat arbetssätt än i kommersiella sammanhang. Allt måste köras lokalt (on-premises) med ett flerskiktat skydd: strikt auktorisation och autentisering, ansvarstagande genom loggning samt säkra anslutningar, även mellan klienter och AI-applikationer.

”De flesta AI-lösningar är designade för molnet, men i säkra miljöer är molnet inte ett alternativ. AI måste tränas, testas och driftsättas helt lokalt, inom betrodd infrastruktur. Det medför utmaningar när det gäller skalbarhet och prestanda, men skapar också möjlighet att designa AI med fullständig säkerhetsgaranti,” förklarar Yordan.

På Tutus utvecklar, testar och certifierar vi säkerhetsprogramvara – inklusive AI – för att uppfylla höga krav på säkerhet innan den implementeras hos kunder eller körs på vår egen högsäkerhetsinfrastruktur.

Risker med osäker AI

Utan starkt skydd slutar AI att vara en fördel och blir istället en sårbarhet. Den kan fungera som en osynlig angriparväg.
”Data, beslutskedjor och system kan manipuleras, komprometteras och orsaka allvarlig skada. Inom kritisk infrastruktur kan detta innebära störningar i elnät, kommunikationssystem eller till och med beredskap inom försvaret,” säger Yordan. Därför måste säker AI byggas med samma flerskiktade skydd som redan används i klassificerade nätverk.

Framtiden för säker AI

När AI-användningen accelererar är den avgörande frågan inte vad AI kan göra, utan hur AI kan bli pålitlig.
”Tutus roll är att säkerställa att AI i känsliga miljöer implementeras på ett säkert sätt, med flerskiktade skydd och full ansvarsskyldighet. På så sätt blir AI inte bara ett kraftfullt verktyg, utan också en pålitlig grund för nationell säkerhet och kritisk infrastruktur,” avslutar Yordan.

Tutus har årtionden av erfarenhet av att bygga säkra kommunikationslösningar för miljöer där kompromisser inte är ett alternativ. Den expertisen förlängs nu till AI: utvecklad, testad och säkerställd för att uppfylla de högsta säkerhetskraven.

Som huvudsponsor för Secure AI 2025 vill vi ta ytterligare ett steg för att främja utvecklingen av säker AI, där teknikens fulla potential kombineras med den trygghet som krävs inom nationell säkerhet.