Så ser du om en bild är AI-genererad och deepfake
Deepfakes är manipulerade videor, bilder eller ljudklipp som skapats med hjälp av AI för att se eller låta äkta. Tekniken kan användas för att efterlikna människors ansikten, röster och uttryck på ett mycket övertygande sätt. Det gör den användbar inte bara i underhållning, utan också i bedrägerier, desinformation och annan manipulation.
I takt med att det blivit enklare att skapa den här typen av innehåll har också riskerna ökat. Material som delas öppet på nätet, till exempel bilder, videor och ljud från sociala medier, kan användas för att bygga trovärdiga förfalskningar. Därför behöver vi i dag vara mer försiktiga med sådant som tidigare uppfattades som tydliga bevis.
Hur deepfakes används
Deepfakes används i allt fler typer av bedrägerier och manipulation. Det kan handla om att någon utger sig för att vara en familjemedlem, chef eller offentlig person för att lura till sig pengar eller känslig information. Det kan också handla om att sprida falska bilder eller videor för att påverka opinion, skapa förvirring eller förstärka propaganda.
Exemplen visar att AI-genererat innehåll inte bara är ett tekniskt fenomen. Fejkade bilder kan få människor att tro på händelser som aldrig ägt rum, användas för politisk påverkan, lura konsumenter och kränka enskilda personer.
Varför det blivit svårare att avslöja falskt innehåll
Tidigare gick det ofta att upptäcka manipulation genom att titta efter tydliga fel i en bild eller video. I dag är det inte alltid tillräckligt. AI-verktygen har blivit bättre, och därför behöver man oftare granska sammanhanget runt innehållet, inte bara själva bilden eller ljudet.
Några viktiga frågor att ställa är: Vem publicerar detta? Varför sprids det just nu? Finns det oberoende och trovärdiga källor som bekräftar uppgifterna? När material väcker starka känslor eller uppmanar till snabba beslut finns det extra stor anledning att vara försiktig.
5 exempel där AI-bilder förvrängt verkligheten
- Dublin: Tusentals människor samlades för att se en Halloween-parad som inte ens existerade, efter att AI-genererade annonser spridits i sociala medier. Läs mer hos Aftonbladet
- USA: AI-genererade bilder på Donald Trump tillsammans med svarta supportrar spreds i ett försök att påverka afroamerikanska väljare. Läs mer hos SVT
- Sverige: Den falska nätbutiken “Astrids väskor” använde AI-genererade bilder för att lura kunder.
- Sverige: Kända svenska kvinnor har utsatts för AI-genererat sexvideo- och porrinnehåll utan sitt samtycke. Läs mer hos SVT
- Israel–Palestina: AI-genererade bilder har spridits som propaganda i samband med kriget. Läs mer hos Expressen
Tecken att vara uppmärksam på
Även om deepfakes blir allt mer realistiska finns det ibland detaljer som avslöjar att något inte stämmer. Det kan handla om onaturliga ansiktsrörelser, märkligt ljus, suddiga detaljer, dålig synk mellan läpprörelser och ljud, eller en röst som låter konstig och onaturlig. Men eftersom tekniken hela tiden förbättras går det inte att lita enbart på sådana visuella eller tekniska tecken.
Så skyddar du dig
- Granska alltid avsändaren och fundera på varför innehållet delas.
- Kontrollera om etablerade och trovärdiga källor rapporterar samma sak.
- Gör en omvänd bildsökning om du vill se om bilden använts tidigare i ett annat sammanhang.
- Var extra försiktig om innehållet försöker stressa dig att agera snabbt.
- Lita inte automatiskt på att bild, ljud eller video är bevis på att något är sant.
- Be om bekräftelse via en annan kanal om någon vill att du ska skicka pengar eller lämna ut uppgifter.
- Begränsa hur mycket personligt material du delar öppet på nätet.
- Använd integritetsinställningar i sociala medier för att minska mängden tillgängligt material.
Sammanfattning
Deepfakes gör det enklare än någonsin att skapa övertygande bluffar. De används redan i bedrägerier, desinformationskampanjer och olika former av kränkningar. Därför räcker det inte längre att lita på det man ser eller hör. Det viktigaste skyddet är i stället källkritik, eftertanke och att alltid kontrollera information innan man agerar.