I takt med att AI får en allt mer central roll blir det desto viktigare att inte bara använda AI, utan att använda AI på ett säkert sätt. Tutus är huvudsponsor till Secure AI, den ledande konferensen inom AI-säkerhet. I samband med konferensen belyser Yordan Lazarov, senior mjukvaruingenjör och systemarkitekt på Tutus, en av de mest avgörande frågorna just nu: Hur AI kan bli ett effektivt verktyg även inom nationell säkerhet och kritisk infrastruktur?
”AI är en strategisk fördel eftersom det hjälper försvars- och säkerhetsorganisationer att bearbeta stora mängder information, upptäcka mönster och agera snabbare än vad människor kan på egen hand. Men hastighet utan säkerhet kan skapa nya risker,” säger Yordan Lazarov.
En säker användning av AI kräver inte enbart effektivitet. Det krävs resiliens, pålitlighet och ett strikt reglerat användande.
Utmaningar i säkerhetsklassade miljöer
”Inget får lämnas åt slumpen. AI medför en unik komplexitet eftersom det inte bara handlar om att skydda data; även modeller, träningsprocesser och inferenssystem måste säkras,” säger Yordan.
AI i säkerhetsklassade miljöer kräver ett helt annat angreppssätt än i kommersiella sammanhang. Allt måste ske på plats, med ett gediget skydd i form av strikt auktorisering och autentisering, loggning samt säkra anslutningar, även mellan klienter och AI-applikationer.
”De flesta AI-lösningar är utvecklade för molnet, men i känsliga miljöer är molnbaserade AI-lösningar inget alternativ. Därför behöver vi bygga AI som fungerar helt inom en skyddad infrastruktur. Det är mer komplext, men också en möjlighet att skapa system med full säkerhetsassurans,” förklarar Yordan.
På Tutus utvecklar, testar och certifierar vi säkerhetsmjukvara, inklusive AI, för att uppfylla höga säkerhetskrav innan den används hos kunder eller på företagets egna säkerhetsplattformar.
Risker med osäkrad AI
Utan rätt skydd blir AI en sårbarhet och riskfaktor. ”Data, beslutskedjor och system kan manipuleras, äventyras och orsaka allvarlig skada. I kritisk infrastruktur kan det leda till störningar i elnät, kommunikationssystem eller till och med försvarsberedskap,” säger Yordan. Därför måste säker AI byggas med samma flerlagerskydd som redan används i säkerhetsklassade nätverk.
Framtiden för säker AI
I takt med att AI-användningen ökar blir den avgörande frågan inte vad AI kan göra, utan hur kan vi lita på AI.
”Tutus roll är att säkerställa att AI i känsliga miljöer används på ett säkert sätt, med flera skyddslager och fullständig ansvarsskyldighet. På så sätt blir AI inte bara ett kraftfullt verktyg, utan också en pålitlig grund för nationell säkerhet och kritisk infrastruktur,” avslutar Yordan.
Tutus har mångårig erfarenhet av att bygga säkra kommunikationslösningar för miljöer där kompromiss inte är ett alternativ. Den erfarenheten tas nu vidare in i AI: utvecklat, testat och verifierat för att uppfylla de högsta säkerhetskraven.
Som huvudsponsor till konferensen Secure AI 2025 vill vi ta ytterligare ett steg i att driva utvecklingen av säker AI, där teknikens fulla potential förenas med den trygghet som nationell säkerhet kräver.