AI 생성물 표식 의무, 이미 시행 중… 다만 법은 C2PA를 지정하지 않았다

AI가 만든 이미지·음성·영상에 ’기계가 읽는 표식’을 달라는 법은 이미 시행 중이다. 다만 어느 법도 C2PA를 지정하지는 않았다.

이미지, 음성, 영상을 만드는 AI 서비스를 운영하는 개발자라면 챙겨야 할 날짜가 있다. EU AI Act의 표시 의무는 8월 2일부터 적용됐고, 그 전에 이미 시장에 나와 있던 서비스의 ‘표식’ 의무는 12월 2일부터다. 미국 캘리포니아의 AI 투명성법도 8월 2일에 시작됐다.

여기서 ’표식’은 프로그램이 읽어서 AI가 만든 것인지 알아낼 수 있게 파일에 심어 두는 정보를 말한다. 눈에 보이는 라벨과는 별개다.

이미 시행 중인 규칙

지역·법	요구 내용	시작	제재
EU AI Act 제50조	생성 AI 제공자는 출력물에 기계가 읽는 표식을 넣고, 딥페이크는 이용자에게 분명히 표시해야 한다	2026년 8월 2일. 이미 시장에 있던 시스템의 표식 의무는 12월 2일부터	최대 1,500만 유로(약 225억 원) 또는 전 세계 매출의 3%
캘리포니아 AI Transparency Act	월 이용자 100만 명 초과 생성 AI 제공자는 이미지·영상·음성에 숨은 표식(제공자, 시스템, 시각, 고유 ID)과 무료 탐지 도구를 제공해야 한다	2026년 8월 2일. 대형 플랫폼은 2027년 1월 1일, 촬영 기기는 2028년	위반당 5,000달러(약 670만 원)
한국 AI 기본법	사람이 만든 것과 구분하기 어려운 소리·이미지·영상은 AI 산출물임을 알려야 한다	2026년 1월 22일	AI 사용 고지 위반 등에 최대 3,000만 원. 과태료는 1년 이상 유예할 방침

딥페이크는 진짜처럼 보이도록 AI로 만든 사람이나 사건의 영상·음성이다.
캘리포니아 법은 AI가 만든 텍스트에는 적용되지 않는다.
한국은 법이 시행됐지만, 과태료는 최소 1년 유예하겠다는 것이 과학기술정보통신부의 방침이다.

C2PA는 어디에 있나

C2PA는 파일에 “누가, 언제, 어떻게 만들었는지”를 서명해서 붙이는 업계 표준이다. 올해 2월 9일 Content Credentials 2.3이 나왔고, 7월 28일에는 TikTok이 운영위원회에 합류했다.

하지만 법은 기술을 정하지 않는다. EU 집행위원회의 공식 FAQ는 “효과적이고 믿을 만하며 견고하고 서로 호환되는 기계가 읽는 표식”을 요구할 뿐, 워터마크나 메타데이터, C2PA를 언급하지 않는다. 지침 역할을 하는 행동강령(6월 10일 공개, 자율 참여, 7월 말 약 190개 기관 서명)도 공식 페이지에는 구체적인 기법이 적혀 있지 않다. 일부 해설은 “서명된 메타데이터와 보이지 않는 워터마크를 함께 쓰라”고 전하지만 공식 페이지에서는 확인하지 못했다.

원문에서 확인되지 않은 부분

“전방위 도입 의무화”: 지역마다 규칙과 시작일이 다르다. 한국은 과태료 유예 중이고, 캘리포니아의 플랫폼 의무는 2027년부터다.
“주요 플랫폼에서 표준으로 안착”: C2PA 채택은 늘고 있지만 업로드 때 메타데이터가 지워지는 등 일관되지 않다는 해설이 많다. 플랫폼 전반의 표준이라고 할 근거는 확인하지 못했다.
“모델 학습 단계부터 표식을 강제”: 확인한 법은 모두 출력물의 표식을 요구한다. 학습 단계에 대한 요구는 찾지 못했다.
“AI 합성물 유통 제한 강화”: 일반화할 근거를 찾지 못했다. 캘리포니아의 대형 플랫폼 의무(표식을 탐지해야 함)는 2027년부터다.

개발자에게 달라질 수 있는 것

아래는 보도와 공식 자료를 바탕으로 한 추정과 조언이다. 법률 자문이 아니므로, 서비스가 대상인지는 따로 확인해야 한다.

내 서비스가 대상인지 먼저 따진다. 이미지·음성·영상을 생성하는 기능이 있고, EU 이용자가 있거나 캘리포니아 월 이용자가 100만 명을 넘는다면 해당될 수 있다. 텍스트만 만드는 서비스는 캘리포니아 법의 대상이 아니다.
12월 2일 기한을 기준으로 점검한다. EU에서 이미 서비스 중인 생성 기능은 그날까지 표식을 넣어야 한다.
표식이 중간에 지워지지 않는지 본다. 이미지를 줄이거나 다시 인코딩하는 도구가 파일 안의 정보를 지우는 경우가 많다. 한 가지 방식에만 기대지 말고, 파일 정보와 보이지 않는 워터마크를 함께 쓰는 쪽이 안전하다.
표준 선택은 열려 있다. 법이 C2PA를 지정하지 않았으니 다른 방식도 가능하지만, 서로 호환되는 표식이어야 한다. 새로 도입한다면 C2PA 지원을 먼저 검토할 만하다.

앞으로 볼 것

EU 행동강령 서명 기관의 탐지·호환 도구 일정, 캘리포니아 2027년 1월 대형 플랫폼 의무와 개정안, 한국 과태료 유예 종료 시점과 법 개정 움직임, 그리고 C2PA 서명을 우회하는 취약점 보고가 어떻게 처리되는지다.

원화 환산은 10월 14일 환율(1유로≈1,501원, 1달러≈1,341원) 기준의 대략적인 값이다.