Når KI-agenter går fra å svare på spørsmål til å sende e-post, oppdatere systemer og behandle fakturaer, får skjulte instrukser i teksten de leser nye konsekvenser. Hvordan kan virksomheter forstå og håndtere denne risikoen?
I denne innspilte episoden av SkyeTec Talks møter Rahal Belboe John Inge Muldal Erlandsen fra SkyeTec til en samtale om promptinjeksjoner: forsøk på å få KI til å følge instrukser gjemt i dokumenter, e-poster og annet innhold.
John Inge forteller om arbeidet med å trene en liten, spesialisert modell til å skille mellom vanlig norsk tekst og forsøk på manipulasjon. Samtalen utforsker hvorfor norsk språk spiller en rolle, hvordan beskyttelsen testes, og hvorfor en modell alene ikke er nok.
Du får innsikt i:
• Hva promptinjeksjoner er, forklart med konkrete eksempler.
• Hvorfor KI-beskyttelse bør testes på norsk og på virksomhetens egne dokumenttyper.
• Hvordan sikkerhetstiltak bør tilpasses handlingene KI-agenten kan utføre.
• Hvilke spørsmål ledere bør stille før virksomheten gir KI større ansvar.
Bidraget passer for ledere, beslutningstakere og ansatte som ønsker å forstå KI-sikkerhet. Det krever ingen tekniske forkunnskaper og kan brukes som utgangspunkt for en intern samtale om digital dømmekraft..
Dette er første episode i en serie på tre om KI-sikkerhet, laget i forbindelse med Nasjonal sikkerhetsmåned.
Lydversjon på Spotify:
https://open.spotify.com/episode/5Btp6eQpkVTDazER5s9krY