Chatbots som leser dokumenter, e-post og nettsider kan manipuleres av innholdet de leser. Slik tester vi det.
Når en AI-assistent får tilgang til interne data, e-post eller nettsider, blir alt innhold den leser potensielt en instruks. En angriper kan skjule tekst i et dokument som ber assistenten om å lekke informasjon eller utføre handlinger på brukerens vegne.
Typiske funn i våre tester
- Assistenten følger instrukser fra vedlegg og nettsider uten kildeskille.
- For brede rettigheter: lesetilgang til hele arkivet i stedet for det nødvendige.
- Manglende logging av hva assistenten faktisk hentet og sendte ut.
- Ingen godkjenning før handlinger som sender e-post eller endrer data.
FOSIK tilbyr en egen sikkerhetssjekk av AI-chat og assistenter, der vi tester for prompt injection, datalekkasje og rettighetsmisbruk – og leverer konkrete tiltak.
Trenger dere hjelp med dette?
FOSIK hjelper virksomheter med å omsette råd til konkrete tiltak – fra kurs til testing og beredskap.
Ta kontaktLes også
Da sikkerhetsfunksjonen faktisk virket: Samuel Tunick, GrapheneOS og telefonen som slettet dataene
En duress-kode i GrapheneOS skal ha slettet dataene på en telefon under en grensekontroll. Hva saken faktisk dokumenterer – og hva den betyr for sikre firmatelefoner.
Phishing med AI: slik endrer trusselbildet seg
Språkmodeller gjør svindel-e-poster feilfrie og personlige. Her er hva små og mellomstore virksomheter bør gjøre nå.