1. Begränsa data från början

Definiera vilka datakategorier assistenten får ta emot, lagra och hämta. Använd dataminimering, klassificering och tydliga regler för personuppgifter och konfidentiell information.

2. Gör identitet och åtkomst tydlig

Assistenten får aldrig ha bredare åtkomst än användaren eller arbetsflödet kräver. Använd minsta möjliga behörighet, separat tjänsteidentitet och regelbundna åtkomstgranskningar.

3. Utgå från att prompt injection kommer att ske

Behandla dokument, webbsidor och användarinmatning som potentiellt fientliga. Separera instruktioner från data, begränsa handlingar och kräv godkännande före känsliga steg.

4. Kontrollera leverantörskedjan

Bedöm modellleverantör, hosting, plugins, embeddings, vektordatabas, loggning och underleverantörer. Dokumentera dataplacering, retention och förändringsmeddelanden.

5. Logga det som betyder något

Bevara spårbarhet för användare, källa, modellversion, hämtade dokument, handlingar, godkännanden och fel utan att skapa nya datarisker.

6. Behåll mänsklig kontroll

Resultat med stor konsekvens ska kunna granskas, avvisas och eskaleras. Användaren ska förstå att assistenten kan ha fel.

Minimum före produktion: hotmodell, datagränser, åtkomstmodell, missbrukstest, leverantörsgranskning, loggning, reservväg och namngivna ägare.

7. Planera för förändring

Modeller och leverantörstjänster förändras. Bestäm när en förändring kräver nya tester, nytt godkännande eller uppdaterad dokumentation.

← Tillbaka till insikter