AI bilddetektor: Vad de faktiskt ser och när de misslyckas

AI Bilddetektor: Vad de faktiskt ser och när de misslyckas

Du har en bild på skärmen och en fråga: riktig eller genererad? En AI bilddetektor ger dig ett procenttal på tre sekunder, och det numret slår ofta inte närmare sant än gränssnittet får dig att tro. Här är vad som håller, vad som krackelerar och rutinen en art director kan köra innan en bild går in i en klientpitch.

Kort version: behandla en detektor som en brandvarnare, inte som en domare.

Vad ser en AI bilddetektor egentligen?

De flesta detektorer är klassificerare tränade på två högar: foton från kameror och output från generatorer som Midjourney, Stable Diffusion och DALL-E. De lär sig statistiska mönster. Bullerstrukturer, frekvensartefakter, hur fin textur upprepar sig när en modell fyller i detaljer.

Det är hela tricket. Ingen magi, bara en modell som sett mycket av båda högarna. Det förklarar också huvudsvagheten. En detektor är bara så bra som generatorerna den tränade på, och generatorerna flyttar på sig var tredje månad.

Vissa verktyg lägger till ett andra lager: de läser proveniansdata och vattenmärken. Det är ett helt annat djur, och vi kommer till dem längre ner.

Hur korrekta är de, riktigt?

Beror på vem som håller måttstocken. En granskning som körde åtta verktyg på en liten samling riktiga foton plus Midjourney v6, DALL-E 3 och Stable Diffusion output rapporterar Hive Moderation på omkring 94% och Illuminarty på omkring 91%. Det är hyggligt tal på rena, okomprimerade filer.

Läs nu det lilla trycket. Samma text medger att verklig noggrannhet skiftar med efter-redigering och med komprimering vid uppladdning. Leverantörer publicerar också sina egna jämförelsetal, vilket är ungefär som en kock som recenserar sin egen restaurang.

Här är testet vi skulle köra, och det du kan köra på tio minuter. Ta tre grupper av filer vars ursprung du vet:

• rena output från Midjourney v7 och Flux

• samma filer efter en skärmdump och en JPEG-omsparing

• riktiga foton och skanningar, inklusive gammal filmstock

Förvänta dig tre saker. Rena generationer blir ofta påkopplade. De omsparade kopiorna blir märkligt mindre påkopplade. Och några riktiga foton, särskilt mjuka eller starkt retuscherade, flaggas som AI. Den senaste gruppen är den ingen lägger på landningssidan.

Leverantörer publicerar falskt-positiva siffror. Ett verktyg citerar en 0,16%-flaggningshastighet på 10 000 före-2022 mänskliga bilder, vilket är imponerande, men det är leverantörens eget jämförelsetal på en specifik dataset. Din retuscherade, överskärpad klientfoto är inte den dataseten.

Hoppa över vilket verktyg som helst som visar ett enda säkert procenttal utan förklaring. Värt att använda: verktyg som visar vilken region av bilden som ser konstig ut, och som medger när de är osäkra.

Varför krackelerar skärmdumpar och omsparningar resultatet?

Därför att beviset bor på ömtåliga ställen. Pixelnivåns fingeravtryck som klassificerare förlitar sig på blir smutiga av storlekförändringar, omkomprimering och filter. Instagram, X och de flesta chattappar gör alla tre när du laddar upp.

Samma berättelse för metadata. Provenianslegitimationer och EXIF-fält sitter i filbehållaren, och plattformar rensar rutinmässigt bort dem. En saknad legitimation bevisar ingenting. Det betyder inte att bilden är falsk, och det betyder inte att den är riktig.

Det är delen människor missar. Frånvaron av en signal är inte en signal. En detektor som returnerar "osäker" på en omkomprimerad bild av en AI-generation säger inte att bilden är verklig. Den säger att fingeravtrycket är för skamfilerat för att läsa.

Vattenmärken och provenianslegitimationer: starkare signal, mindre täckning

Två system spelar roll i 2026. Provenianslegitimationer från C2PA-standarden fäster en signerad registrering av verktyget och redigeringarna på filen. SynthID-liknande vattenmärken bäddar in en osynlig signal i pixlarna vid generering. Det här belyser C2PA mot SynthID väl: legitimer säger dig filens historia, vattenmärket säger dig vilken generator som gjorde det, och ingen av dem fungerar utan att generatorn spelar med.

När de är närvarande slår de vilken klassificerare som helst. En giltig signatur är bevis, inte en gissning. Problemet är att bevis bara finns om generatorn ville. Öppenviktmodeller som Flux och Stable Diffusion som körs lokalt lämnar inget spår. Proprietära modeller kan välja att skippa signering helt.

Fåran är täckning. Öppenviktmodeller kördes lokalt, så ingen behöver fästa något. Om din referens kom ur en hemgjord Flux eller SD3.5-rörledning, förvänta ingenting. Stjäl denna regel: en positiv proveniansträff är stark, en negativ är tystnad.

Rutinen för art director: fem kontroller innan du litar på ett resultat

Detektorer är en input. Det här är ordningen vi jobbar i.

1. Titta på bilden på 200% först. Händer, tänder, smycken, text på skyltar, sömmen där håret möter bakgrund. Gamla verktyg, men de fångar fortfarande det lata grejet.

2. Be om originalfilen. En kamerani RAW eller en lagrad PSD är värd mer än vilket resultat som helst.

3. Kör två detektorer, inte en. Om de är oense, är den oenigheten ditt fynd.

4. Omvänd bildsökning. Ett riktigt foto har vanligtvis en historia. En färsk generation har vanligtvis ingen.

5. Kontrollera proveniansdata om filen har någon kvar.

Inget av detta är snabbt. Det behöver inte vara. Du kör det bara när bilden spelar roll: en klientuppdrag, ett tävlingsbidrag, en källa du planerar att kreditera. En rutinerad art director kan köra dessa fem steg på ungefär fem minuter per bild.

Vad betyder ett detektorresultat när det säger 60%?

Inte mycket. En klassificerarutgång är en säkerhet från en modell, inte en sannolikhet att bilden är falsk i den riktiga världen. Olika verktyg kalibrerar olika, så 60% i en produkt kan betyda samma sak som 85% i en annan.

Två regler håller dig ärlig. För det första, ignorera midbandet. Allt mellan ungefär 30% och 70% är verktyget skryter. Det är där klassificeraren är osäker, och osäkerhet är inte samma som evidence. För det andra, jämför aldrig resultat över produkter. Jämför domar på samma bild, och titta på var de är oense.

Oenigheten är där det intressanta jobbet är. Om ett verktyg säger 92% AI och ett annat säger 8%, tränade ett av dem aldrig på den generatorn, eller filen var trasig i transit. Gå tillbaka till källan, be om originalet och kontrollera metadata igen.

Vilka bilder lurar detektorer oftast?

Vissa kategorier är pålitligt svåra, och värt att veta innan du litar på ett resultat. Högt stiliserat arbete. Risotryck ser ut, platt illustration, kornig filmemulering: ju mer stilen skjuter bort från en kamera, desto mindre har en fotoklädd klassificerare att gripa tag i. Uppskalade och skärpade filer. Detalj som lagts till efter generering bländar originalmodellens fingeravtryck.

Små beskärningar. En 400 px miniatyr bär långt mindre signal än en full ram. Hybridbilder. Ett riktigt foto med en AI-genererad himmel, eller ett genererat porträtt med riktig retuschering, sitter i gråzonen avsiktligt. De flesta verktyg returnerar ett resultat för hela filen, så det ärliga svaret är ofta delvis.

Nya modeller. Vilken generator som helst som givits ut efter detektorns senaste träningsuppdatering är en blindfläck tills leverantören hinner ikapp. Det gapet är bäst några veckor och värst några månader. Om din dagsjobb involverar referenser från Are.na-tavlor, aktiebibliotek och sociala flöden, anta att en del av vad du samlar är redan hybridbilder.

Vad gör generatorerna själva om det?

De modeller du redan använder är orsaken till att det här problemet existerar, så låt oss titta på var var och en står på märkandet av sin egen output. Midjourney outputs är berömda för att vara polerade, vilket gör "för ren" berättelsen svagare med varje version.

Adobe Firefly lutar sig på Provenianslegitimationer som standard, vilket gör dess filer enklast att verifiera, så länge ingen rensar metadata på vägen till dig.

Krea är där många av oss itererar i realtid. Snabba loopar, massor av stilisering och ingen löfte att allt nedströms kan säga var en bild kom från.

Uppskalare spelar roll här också. Att köra en generation genom Magnific lägger till riktig textur, och den texturen är exakt vad som förvirrar en klassificerare tränad på rå modelloutput. Om du planerar att testa en detektor, testa den på uppskalade filer också.

Skarpt verktyg: ingen av dessa verktyg är byggd för att göra ditt liv enklare som verifierare. Det jobbet är ditt.

Bör du förlita dig på en detektor för klientarbete?

Värt det om du använder det som sållning. En flaggad bild får en närmare titt. Ett rent resultat köper ingenting bortom "ingen larm gick". Det är en riskhanteringsstrategi, inte ett bevis.

Hoppa över det om du är frestad att använda ett resultat som bevis i en tvistlösning, en borttagningskrav eller en tävlingsdom. Falska positiva på riktig konst är den fula delen. Fotografer och illustratörer har blivit anklagade på styrkan av ett verktygs output, och ett plant procenttal är en svag sak att stå bakom i en rättsprocess.

Vad vi faktiskt skulle göra: skriva ned processen. Vilka verktyg, vilken version, vilket datum, vilka filer. En daterad anteckning slår en skärmbild av ett resultat varje gång. Och om du är den som gör bilderna, behåll dina arbetsfiler. Lager, frön, snabbkortssedlar, de fula tidiga utkasterna. Det är den billigaste försäkring en art director kan köpa.

Vanliga frågor om AI bilddetektorer

Här är frågorna vi hör oftast från klienter och kollegor som testar detta själva.

Kan en detektor avslöja en image upscaled med Magnific? Svårt. Detektorn tränade på raw AI-output, men Magnific lägger till real texture. Det förvirrar klassificerare tränade på clean generator output. Din bästa sats är att köra två detektorer och se om de håller med.

Vad händer om jag kör samma bild genom en detektor två gånger? Du får troligtvis samma resultat om bildfilen inte ändras. Om du sparar om mellan körningarna, kan själva sparprocessen ändra resultatet märkvärt.

Ska jag dölja resultaten från mina klienter? Det beror på kontext. Om du säger du kontrollerade det, säg hur. En transparent process slår en hemlig scorecard varje gång.

Finns detektorer som är bättre än andra? Jämförelser hänger på testdataseten. Hive och Illuminarty presterar väl på ett testset från 2024, men en ny generator som släpps nästa vecka kan ge helt andra resultat.

Vad om bilden är 50/50 AI och riktig foto? De flesta detektorer ger ett resultat för hela bilden. Om det är verkligt en hybrid, är detektorns svar ofta osäker eller mittenprocent, vilket är rätt svar.