Generativ AI, digital resiliens och civil beredskap
- Digitalisering
- Cybersäkerhet
- Civilt försvar
Det är viktigt att förstå dubbelnaturen av generativ AI (artificiell intelligens) och dess potential att både förbättra och hota digital resiliens. För en säker digitalisering och robust civil beredskap behövs en bättre förståelse om risker och dilemman med generativ AI
Studien undersöker hur generativ AI kan påverka samhällets digitala resiliens och civil beredskap. Kunskapsöversiktens resultat delas in i tre perspektiv: teknik, organisation och styrning.
- Teknikperspektivet identifierade tre teman: (1) Generering av skadligt innehåll, så som deepfakes och desinformation, (2) Cybersäkerhet, genom exempelvis identifiering av sårbarheter och AI-genererad skadlig kod, och (3) AI-modellers Inbyggda sårbarheter.
- Organisationsperspektivet omfattar teman relaterade till (4) Kunskapshantering och innovation, (5) Organisationell styrning, och (6) Anpassning av AI-system till mänskliga värderingar.
- Styrningsperspektivet handlar om (7) Legitimitet, demokrati och humanitet, (8) Styrning, lagstiftning och reglering, och (9) Förtroende för offentlig förvaltning med fokus på transparent och etisk AI-användning inom offentliga organisationer.
Generativ AI är ett dubbeleggat svärd som rör balansen mellan innovation, konkurrenskraft och etiska överväganden. Förutom vidare forskning skapas även behov av dynamiska och adaptiva styrnings- och samverkansmodeller.
Cybersäkerhet Projektet identifierar krav och behov i olika användargrupper.
Cybersäkerhet RICS-el kan användas för att studera skyddsåtgärder och cyberangrepp utan allvarliga samhällskonsekvenser.
Cybersäkerhet Det blir allt vanligare med störningar av satelliter.