KOD OCH DATASKYDD
Bedöm miljön — inte produktnamnet
Samma AI-tjänst kan ha olika avtal, administratörskontroller, lagring och datainställningar beroende på plan och organisation. Ett företagskonto är därför inte automatiskt godkänt, och en lokal modell är inte automatiskt säker.
Kontrollera vilka data som skickas, var de behandlas, hur länge promptar och loggar sparas, om data används för träning, vilka underleverantörer som anlitas och om administratören kan begränsa funktioner och behörigheter.
Följ organisationens policy och tjänstens aktuella villkor. Använd endast öppen eller särskilt godkänd kod och syntetiska exempel. Att stänga av träning löser inte ensam frågor om lagring, åtkomst, sekretess eller kundavtal.
Vad som aldrig får klistras in i konsument-AI
Det som skickas i prompten, bifogade filer och verktygsanrop kan exponera information utanför den avsedda kretsen. Skicka bara data som verktyget och den aktuella konfigurationen är godkända att hantera. Följande ska aldrig följa med i en prompt:
- API-nycklar och anslutningssträngar: en skickad hemlighet kan hamna i tjänstens behandling, loggar eller historik och ge obehörig åtkomst. Använd en platshållare som
<REDACTED>. Om en riktig hemlighet har skickats: återkalla eller rotera den omedelbart. - Databas-dumpar med riktig kunddata: Om du behöver hjälp att optimera en SQL-query, använd ett avidentifierat schema och syntetisk testdata. Aldrig produktionsdata.
- Proprietär affärslogik: kärnalgoritmer, kundkod och säkerhetslösningar ska inte delas utanför godkänd miljö. Bryt ned problemet och använd ett generellt, syntetiskt exempel när det räcker.
AI-hallucinationer i koden
AI-genererad kod ser övertygande ut även när den introducerar allvarliga sårbarheter. Du måste granska utdatan lika hårt som kod från en oerfaren juniorutvecklare. Här är tre vanliga säkerhetsrisker i AI-kod:
- Supply chain-attacker: AI kan hallucinera fram paketnamn (t.ex. i npm eller pip) som verkar lösa ditt problem, men som faktiskt inte existerar. Skadliga aktörer registrerar ibland dessa fejkade paketnamn med skadlig kod i hopp om att AI ska föreslå dem till utvecklare.
- Injektionssårbarheter: AI föreslår ofta den enklaste lösningen för tillfället, vilket ibland innebär direkt strängkonkatenering istället för säkra parametriserade queries för SQL, eller sårbar front-end-kod (XSS).
- Inaktuella kryptografiska standarder: Eftersom träningsdata är historisk kan AI föreslå utdaterade algoritmer (som MD5 eller SHA-1) snarare än moderna och säkra alternativ för hashning och kryptering.
AI som extra kodgranskare
Använd prompten efter egen läsning, inte som ersättning för review. Klistra bara in kod som verktyget är godkänt att hantera.
Filer, kodkommentarer och webbsidor kan innehålla instruktioner
En kodagent kan läsa issues, README-filer, dokumentation, loggar eller webbsidor och misstolka text där som instruktioner. Det är indirekt promptinjektion. Risken blir större när agenten också får skriva filer, köra kommandon eller nå externa system.
- Ge minsta möjliga läs- och skrivbehörighet och använd en isolerad arbetsyta.
- Håll hemligheter utanför agentens kontext och begränsa nätverksåtkomst.
- Kräv mänskligt godkännande före installation, publicering, utskick, databasändring eller annan extern åtgärd.
- Granska diff, kommandologg och externa anrop — inte bara sluttexten.
Fyra frågor innan kod delas med AI
- Vilket verktyg? Är det en företagskontrollerad miljö med avtal, loggning och rätt datainställningar?
- Vilken data? Innehåller prompten kunddata, personuppgifter, interna URL:er, tokens, incidentdetaljer eller affärskritisk logik?
- Vilken typ av kod? Kod för auth, behörighet, kryptografi och betalning kräver extra mänsklig granskning även om AI hittar uppenbara fel.
- Vilken verifiering? Finns tester, statisk analys, dependency-kontroll och review innan ändringen når produktion?
Skribent, källor och ansvar
Sidan är skriven och innehållsgranskad av Christopher Leijon för AI på svenska. Ingen extern cybersäkerhets- eller dataskyddsjurist har granskat sidan. Kontrollera verktygets aktuella avtal, er informationsklassning och lokala säkerhetskrav.
Nästa: Etik och juridik
Förstå ansvar och risker för källkod, IP och känslig information.