1. Begræns data fra starten

Definér hvilke datakategorier assistenten må modtage, gemme og hente. Brug dataminimering, klassifikation og klare regler for personoplysninger og fortrolige oplysninger.

2. Gør identitet og adgang eksplicit

Assistenten må aldrig få bredere adgang end brugeren eller arbejdsgangen kræver. Brug mindst mulige rettigheder, separat serviceidentitet og regelmæssig adgangsreview.

3. Antag at prompt injection vil ske

Behandl dokumenter, websider og brugerinput som potentielt fjendtlige. Adskil instruktioner fra data, filtrér handlinger, test misbrugsscenarier og kræv godkendelse før følsomme handlinger.

4. Kontrollér leverandørkæden

Vurder modeludbyder, hosting, plugins, embeddings, vektordatabase, logning og underleverandører. Dokumentér dataplacering, retention, træningsbrug og ændringsvarsler.

5. Log det der betyder noget

Bevar sporbarhed for bruger, kilde, modelversion, hentede dokumenter, handlinger, godkendelser og fejl. Undgå samtidig at skabe nye datarisici gennem overdreven logning.

6. Bevar menneskelig kontrol

Højkonsekvens-output bør kunne kontrolleres, afvises og eskaleres. Brugeren skal forstå, at assistenten kan tage fejl, og vide hvordan fejl rapporteres.

Minimum før produktion: trusselsmodel, datagrænser, adgangsmodel, misbrugstest, leverandørreview, logning, fallback og navngivne ejere.

7. Planlæg for ændring

Modeller og leverandørtjenester ændrer sig. Fastlæg hvornår ændringer kræver ny test, ny godkendelse eller opdateret dokumentation.

← Tilbage til indsigter