AI 이미지 판별: 감지기의 진짜 한계와 5단계 검증 루틴

AI 이미지 판별: 감지기의 진짜 한계와 5단계 검증 루틴

당신의 화면에 이미지가 있다. 하나의 질문만 남는다: 진짜 사진인가, AI로 생성된 이미지인가? AI 이미지 판별 도구가 있다. 3초 만에 확률을 보여준다. 그 숫자가 사용자 인터페이스가 주는 신뢰감만큼 정확할 리는 거의 없다.

여기 다룰 내용: 실제로 작동하는 것, 무너지는 것, 그리고 아트 디렉터가 이미지를 클라이언트 제안서에 넣기 전에 실행할 수 있는 검증 루틴을 정리했다. 생성 이미지 판별기는 생각보다 까다롭고, 신뢰도는 당신이 생각하는 것보다 낮다.

한 줄 요약: AI 이미지 판별 도구를 법관처럼이 아니라 화재 경보기처럼 취급하자.

AI 이미지 판별기는 정확히 뭘 보고 판단할까?

대부분의 판별 도구는 두 가지 데이터셋으로 학습한 분류기다. 한쪽은 카메라로 찍은 사진들이고, 다른 한쪽은 Midjourney, Stable Diffusion, DALL-E 같은 생성 모델의 결과물들이다. 이 두 카테고리의 통계적 패턴을 학습한다.

구체적으로 보면, 도구가 찾는 건 노이즈 패턴, 주파수 영역의 아티팩트, 모델이 세부 디테일을 자동으로 채울 때 미세한 텍스처가 반복되는 방식이다. 이게 판별 메커니즘의 전부다. 마법은 없다. 단지 두 종류의 이미지를 엄청 많이 본 모델일 뿐이다.

이 구조가 주요 약점도 동시에 설명한다. 판별기는 학습한 생성 모델만큼만 좋다. 그리고 생성 모델은 매달, 때론 매주 진화한다. v6에서 v7로, 그 다음 새로운 모델로. 판별기가 추격하는 동안 생성 기술은 이미 앞으로 나간다.

일부 판별 도구는 이미지 분류에 두 번째 계층을 추가한다: 파일의 메타데이터를 읽고 워터마크를 감지하는 것. 이건 분류 기반 방식과는 다른 신호 종류인데, 아래에서 더 자세히 다룬다.

판별기는 정말 얼마나 정확한가?

누가 측정 잣대를 들었냐에 따라 정확도는 크게 달라진다. 8개의 상용 도구를 실제 사진과 Midjourney v6, DALL-E 3, Stable Diffusion의 최신 결과물에 테스트한 리뷰가 있다. 이 리뷰에 따르면 Hive Moderation은 약 94%, Illuminarty는 약 91%의 정확도를 기록했다. 압축하지 않은 깨끗한 원본 파일에 대한 이 숫자들은 꽤 좋은 편이다.

그런데 세부 사항을 읽어보면 상황이 복잡해진다. 같은 리뷰는 실제 사용 환경에서는 후처리와 업로드 시 재압축의 영향으로 정확도가 상당히 변한다고 명시하고 있다. 이미지를 작게 자르거나, 필터를 적용하거나, 색상을 조정하면 판별기의 정확도는 떨어진다. 소셜 미디어 플랫폼에 올리는 순간 자동 재압축 때문에도 떨어진다.

또한 업체들이 자신의 벤치마크를 공개하는데, 이건 좀 자신의 음식점을 직접 평가하는 셰프처럼 보인다. 테스트 환경과 실제 환경은 다르다.

여기 당신이 할 수 있는 테스트가 있다. 10분이면 충분하다. 출처를 정확히 아는 파일 3가지 그룹을 준비하자:

첫 번째 그룹: Midjourney v7과 Flux 같은 최신 모델의 직접 결과물. 아무 처리도 하지 않은 원본 파일이다.

두 번째 그룹: 첫 번째 그룹의 같은 이미지를 스크린샷 찍고, JPEG 형식으로 다시 저장한 버전들이다. 이건 소셜 미디어 환경을 흉내낸 것이다.

세 번째 그룹: 실제 카메라로 찍은 사진, 필름 스캔본, 구형 카메라 사진도 포함한다. 다양한 시대의 진짜 사진.

이 테스트를 실행하면 패턴 세 개를 관찰하게 된다. 첫째, 깨끗한 생성물은 대부분의 경우 걸린다. 둘째, 재저장한 복사본은 눈에 띄게 덜 정확하게 감지된다. 셋째, 오래되고 부드러운 필름이나 심하게 후처리되고 강조된 사진은 AI로 오표시되는 경우가 몇 개 발생한다. 이 마지막 그룹이 문제인데, 이미지들이 가장 자주 클라이언트 제안서에 올라가는 종류다.

업체들은 오탐률 숫자를 공개하기도 한다. 한 판별 도구는 2022년 이전에 인간이 만든 10000장 이미지에서 0.16% 오표시 비율을 자랑한다. 인상적인 수치지만, 특정 데이터셋에 대한 업체 자체 벤치마크일 뿐이다. 당신이 클라이언트를 위해 과하게 후처리하고 색감을 강조한 사진은 그 데이터셋의 범위 밖에 있을 가능성이 높다.

도구를 선택할 때 한 개의 확률을 자신감 있게 그냥 보여주기만 하는 것은 건너뛰자. 진짜 가치 있는 도구는 어느 영역이 문제인지 시각화로 보여주는 것, 그리고 확실하지 않을 때 이를 솔직하게 인정하는 것이다.

스크린샷과 재저장이 판별기를 왜 깨뜨릴까?

이유는 간단하다. 판별기가 의존하는 증거가 부서지기 쉬운 장소에 산다는 것이다. 분류기가 의존하는 픽셀 수준의 지문은 리사이징, 재압축, 필터링으로 쉽게 번진다. 인스타그램, X, 그리고 대부분의 메신저 앱은 이미지를 업로드하는 순간 이 과정 모두를 실행한다.

메타데이터도 마찬가지다. 콘텐츠 자격증명(Content Credentials)과 EXIF 필드는 이미지 파일의 컨테이너에 저장되어 있다. 그런데 대부분의 웹 플랫폼은 업로드된 이미지에서 이 메타데이터를 자동으로 제거한다. 보안 때문일 수도 있고, 파일 크기를 줄이기 위해서일 수도 있다.

중요한 포인트: 사라진 자격증명은 아무것도 증명하지 않는다. 이미지가 가짜라는 뜻도 아니고, 진짜라는 뜻도 아니다.

이게 바로 많은 사람들이 놓치는 부분이다. 신호가 없다고 해서 그게 부정적인 신호인 것은 아니다. 신호 부재는 신호 자체가 아니다. 이건 논리적으로 매우 다르다. 이미지가 진짜일 때도 메타데이터가 제거될 수 있고, 생성 이미지일 때도 제거될 수 있다.

워터마크와 콘텐츠 자격증명: 더 강한 신호, 더 좁은 범위

2026년 현재 이미지 출처 검증에서 의미 있는 시스템은 두 가지다.

첫 번째는 C2PA 표준의 콘텐츠 자격증명(Content Credentials)이다. 이건 생성에 사용된 도구와 그 이후 모든 편집 이력의 디지털 서명된 기록을 이미지 파일에 붙인다. 서명되었기 때문에 위변조가 매우 어렵다.

두 번째는 SynthID 같은 무형 워터마크(Invisible Watermark)다. 이건 생성 시점에 픽셀 자체에 감지 불가능한 신호를 직접 심는다. 특정 생성 모델만이 이를 할 수 있다.

이 두 시스템의 차이를 C2PA 대 SynthID 설명글이 잘 정리했다: 콘텐츠 자격증명은 파일의 전체 이력을 말해주고, 워터마크는 어느 생성 모델이 만들었는지 말해준다. 둘 다 생성 모델이 의도적으로 이를 지원할 때만 작동한다.

있을 때, 이 둘은 통계 기반 분류기 어떤 것보다도 낫다. 유효한 암호화 서명은 추측이 아니라 진짜 증거다.

하지만 범위에 한계가 있다. 오픈 웨이트(Open-Weight) 모델들은 누구나 로컬에서 실행할 수 있으니, 아무도 아무것도 붙일 필요가 없다. 만약 당신의 참고자료가 자가 제작 Flux나 Stable Diffusion 3.5 파이프라인에서 나왔다면 어떤 메타데이터도 기대할 수 없다.

이 규칙을 따르자: 양수 출처 히트(유효한 자격증명)는 강력하다. 음수(메타데이터 없음)는 침묵일 뿐이다.

5단계 검증 루틴: 판별 결과를 믿기 전에

AI 이미지 판별기는 하나의 입력 도구일 뿐이다. 우리가 일할 때 따르는 순서가 있다. 중요한 이미지일 때만 이 모든 단계를 거친다.

1단계: 200% 줌으로 직접 관찰하기

먼저 이미지를 200% 줌으로 본다. 손의 디테일, 이빨, 보석, 옷의 소매, 텍스트가 있다면 표지판 글자, 머리카락과 배경의 경계선. 이 기법은 오래된 방법이지만 여전히 대충 만든 생성물은 잡는다. AI는 손가락을 그릴 때 특히 실수를 한다.

2단계: 원본 파일 요청하기

클라이언트나 협력사에게 원본 파일을 요청한다. 카메라에서 직접 나온 RAW 파일이거나, 설계 도구의 레이어드 PSD 파일이다. 이런 파일은 어떤 판별 도구의 점수보다 훨씬 더 많은 정보를 담는다.

3단계: 두 개 이상의 도구로 교차 검증하기

판별기 하나만 신뢰하지 말자. 두 개 이상의 다른 도구를 같은 이미지에 실행한다. 만약 의견이 갈린다면 그 불일치 자체가 당신이 찾아낸 중요한 발견이다. 한 도구는 92% AI라고 하고 다른 도구는 8%라고 하면, 한쪽은 그 생성기로 학습하지 않았거나 파일이 전달 중에 손상되었을 것이다.

4단계: 역이미지 검색하기

구글 렌즈나 TinEye 같은 도구로 역이미지 검색을 한다. 실제 사진은 보통 온라인 어딘가에 이력이 있다. 신경 써서 만든 생성물은 보통 온라인 어디에도 없다. 이 차이가 추가 신호가 된다.

5단계: 남은 출처 데이터 확인하기

이미지 메타데이터나 파일 속성에 출처 데이터가 남아 있다면 확인한다. 최근 이미지라면 EXIF 정보를 본다.

이 모든 과정이 빠르지는 않다. 그래야 할 이유도 없다. 당신은 이미지가 정말 중요할 때만 이 루틴을 모두 거친다: 고객사 제안서, 공모전 출품작, 언론 기사에 크레딧할 소스 이미지 같은 경우들.

판별기가 "60%" 또는 "85%"라고 했을 때 그건 뭘 뜻하나?

솔직하게 말하면 별로 뜻이 없다. AI 분류기의 출력은 모델의 신뢰도(Confidence Score)일 뿐이지, 현실 세계에서 그 이미지가 AI로 생성되었을 확률이 아니다.

더 복잡한 점은 서로 다른 도구는 서로 다르게 보정된다는 것이다. Tool A에서 60%는 Tool B의 85%와 같은 의미일 수 있다. 각 도구의 정의가 다르고, 학습 데이터셋도 다르고, 보정 방식도 다르다.

정직하게 유지하는 두 가지 규칙이 있다.

첫째, 중간 대역의 결과는 무시하자. 대략 30%에서 70% 사이의 점수는 도구가 "잘 모르겠다"고 어깨를 으쓱하는 것이다. 이 대역의 점수는 신뢰할 가치가 낮다.

둘째, 절대로 서로 다른 도구 간에 점수를 비교하지 말자. 같은 이미지를 같은 도구로 여러 번 돌려보고, 서로 다른 도구의 판정이 갈린 곳을 본다.

서로 다른 도구 간의 의견 갈림이 재미있는 일이 일어나는 곳이다. 바로 여기가 당신이 실제 조사를 시작해야 하는 지점이다. 한 도구는 92% AI라고 하고 다른 도구는 8%라고 하면: 한쪽은 그 특정 생성 모델로 학습하지 않았을 가능성이 높다. 또는 파일이 전송 중에 손상되었을 수도 있다. 그럼 원본으로 돌아가서, 원본 파일을 다시 요청하고, 메타데이터를 다시 한 번 확인한다.

판별기를 자주 속이는 이미지 종류들

몇몇 이미지 카테고리는 신뢰성 있게 판별하기 어렵고, 신뢰도 높은 판단을 하기 전에 알아두면 좋다.

극도로 양식화된 작업들: 리소 프린트 스타일, 플랫 그래픽 일러스트레이션, 필름 그레인 에뮬레이션, 아트 필터를 많이 적용한 작업. 이미지의 스타일이 카메라 사진에서 멀어질수록, 사진 데이터로 학습한 분류기가 잡을 증거가 줄어든다.

업스케일링되고 샤프해진 파일들: 생성 후에 디테일 추가 처리를 거친 이미지. Magnific 같은 업스케일러를 통과한 이미지들. 이 후처리가 원본 모델의 통계적 지문을 흐리고 변형한다.

작은 크롭과 썸네일들: 400px 너비의 작은 썸네일은 풀 프레임 이미지보다 훨씬 적은 통계적 신호를 실어 나른다.

하이브리드 이미지들: 실제 사진에 AI 생성 하늘을 합성한 것, 또는 생성된 인물에 실제 카메라 배경을 합성한 것, 또는 생성물에 실제 후처리를 많이 적용한 것. 이런 이미지는 설계상 회색 지대에 있다. 대부분의 판별 도구는 전체 이미지에 하나의 점수를 반환하기 때문에 정직한 답은 보통 "부분적"이어야 한다.

최신 모델의 결과물: 판별 도구의 마지막 업데이트 이후 새로 출시된 생성 모델의 결과물. 이 시간차가 맹점을 만든다. 최선의 경우 수주, 최악의 경우 수개월 동안 새 모델은 감지되지 않는다.

만약 당신의 일상 업무가 Are.na 보드, 스톡 이미지 라이브러리, 소셜 미디어 피드에서 참고자료를 수집하는 것이라면, 수집한 것의 상당 부분이 이미 하이브리드라고 가정하자. 무드보드에서 라벨을 붙이고, 출처를 기록해두고, 계속 진행하자.

생성 모델 업체들이 이 문제에 뭘 하고 있나

이 검증 문제가 왜 존재하냐면 당신이 매일 쓰는 생성 모델들 때문이다. 각 주요 도구가 자신의 생산물을 라벨링하는 데 어디에 있는지 보자.

Midjourney의 결과물은 악명 높게 세련되고 폴리시되어 있어서, "너무 깔끔함" 신호는 버전업이 거듭할수록 약해진다.

Adobe Firefly는 기본적으로 콘텐츠 자격증명을 생성 이미지에 붙인다. 이게 뜻하는 바는, Firefly 이미지가 다른 생성 모델보다 검증하기 훨씬 쉽다는 것이다. 물론 메타데이터가 제거되지 않는다는 조건 하에서.

Krea는 많은 디자이너들이 실시간으로 빠르게 반복하는 곳이다. 빠른 루프, 다양한 양식화 옵션, 그리고 결과물의 출처를 알 수 있다는 보장이 없다.

업스케일러들도 이 맥락에서 중요하다. 생성물을 Magnific 같은 업스케일러에 통과시키면 진짜 텍스처 정보가 추가된다. 그리고 그 텍스처가 원본 생성 결과로만 학습한 분류기를 헷갈리게 하는 정확히 그런 종류의 텍스처다.

직설적이게 말하자면: 이 생성 모델 업체들 중 검증자로서 당신의 일을 쉽게 만들려고 설계된 것은 없다. 그 책임은 당신 것이다. 당신이 확인해야 한다. 당신이 기록해야 한다.

클라이언트 업무에 판별기를 의존해야 하나?

판별기를 삼분법(Triage) 도구로 쓸 수 있다면 가치가 있다. 플래그된 이미지는 더 면밀한 검토를 받는다. 깨끗한 점수는 "경보 울리지 않음" 이상 다른 의미는 없다.

하지만 분쟁에서, 저작권 삭제 요청에서, 또는 공모전 판결 같은 상황에서 점수를 증거처럼 제시하려는 유혹이 든다면 건너뛰자. 실제 미술에 오탐(False Positive)은 추한 현실이다. 사진작가들과 일러스트레이터들이 단 하나의 판별 도구의 출력만을 근거로 AI 이미지 도용 혐의를 받은 사례들이 있다. 평면적인 확률 수치는 법정이나 분쟁에서 설 배경이 약하다.

내가 실제로 할 일: 절차를 기록으로 남기자. 어떤 도구, 어떤 버전, 정확히 어느 날짜, 어떤 파일들을 검사했는지. 점수의 스크린샷보다 날짜가 명시된 프로세스 노트가 훨씬 낫다.

그리고 당신이 이미지를 만드는 쪽의 크리에이터라면 작업 파일을 보관하자. 레이어, 시드 값, 프롬프트 노트, 초안 버전들. 아트 디렉터가 살 수 있는 가장 싼 형태의 법적 보험이고, 동시에 좋은 무드보드 관리 습관이다.

다음 스텝: 당신의 스택으로 직접 테스트하기

당신이 출처를 명확히 아는 이미지 5개를 고르자. 실제 사진 3개, 생성 이미지 2개. 두 개의 다른 판별 도구에 실행한다. 스크린샷을 찍는다. 그 다음 재저장한 버전도 같은 도구로 실행한다.

이 한 세션 안에서 당신은 어떤 랜딩페이지 마케팅 문구보다도 이 도구들의 한계를 더 명확하게 이해하게 될 것이다.

그 다음 당신의 작업 스택으로 실험을 섞어 보자. 당신이 자주 쓰는 생성 모델 중 어느 것이 판별기에 가장 먼저 걸릴까? 어느 것이 빠져나갈까? 업스케일링 후엔 결과가 어떻게 바뀔까? 당신의 작업 방식에 맞는 검증 루틴을 구축하자.