AI로 만든 영상, 이제 숨길 수 없다…SNS 업계 ‘AI 생성 콘텐츠’ 투명성 강화

인공지능 기술이 발전하면서 실제 촬영 영상과 구분하기 어려운 수준의 AI 생성 영상이 빠르게 확산되고 있다. 이에 따라 소셜미디어와 디지털 콘텐츠 업계에서는 AI로 만들어지거나 수정된 영상임을 이용자에게 알리고, 콘텐츠의 제작·편집 이력을 추적할 수 있도록 하는 AI 콘텐츠 투명성 체계를 강화하고 있다.

특히 단순히 화면에 ‘AI 생성’이라는 문구를 표시하는 것을 넘어 콘텐츠 자체에 메타데이터를 삽입하고, 제작과 수정 과정을 확인할 수 있도록 하는 기술 표준이 주목받고 있다.

AI 영상 확산에 커지는 ‘가짜 영상’ 우려

생성형 AI 기술의 발전으로 텍스트 몇 줄만 입력해도 실제 촬영한 것처럼 보이는 영상과 음성을 만들어낼 수 있게 됐다.

과거에는 AI로 생성한 영상에서 어색한 표정이나 움직임을 쉽게 발견할 수 있었지만, 최근에는 사람의 얼굴과 목소리, 배경, 움직임까지 상당히 자연스럽게 구현할 수 있다.

문제는 이러한 기술이 광고나 엔터테인먼트뿐 아니라 뉴스와 사회적 이슈를 다루는 콘텐츠에도 활용될 수 있다는 점이다.

특히 실제 인물이 하지 않은 말이나 행동을 한 것처럼 만들어내는 딥페이크 영상이 소셜미디어를 통해 빠르게 확산될 경우 이용자가 사실 여부를 판단하기 어려워질 수 있다.

이 때문에 AI로 만들어진 콘텐츠인지 여부뿐 아니라 누가 만들었고, 어떤 과정을 거쳐 수정됐는지를 확인할 수 있는 출처 추적 기술의 중요성이 커지고 있다.

EU, AI 생성 콘텐츠 표시 기준 본격 적용

AI 콘텐츠 투명성 강화 움직임에서 눈에 띄는 곳은 유럽연합(EU)이다.

EU AI Act의 관련 투명성 의무는 2026년 8월 2일부터 적용되기 시작했다. AI 시스템 제공자는 AI로 생성되거나 조작된 콘텐츠를 기계가 판독할 수 있는 방식으로 표시해 인공적으로 생성·변형된 콘텐츠임을 탐지할 수 있도록 해야 한다.

딥페이크에 대해서는 이용자가 해당 콘텐츠가 인공지능으로 생성되거나 조작됐다는 사실을 알 수 있도록 공개하는 것이 요구된다.

공익과 관련된 정보를 전달하기 위해 제작된 AI 생성 또는 조작 텍스트도 일정한 조건에서는 AI 사용 사실을 공개해야 한다. 다만 사람의 검토나 편집 책임이 이뤄진 경우 등에는 예외가 적용될 수 있다.

EU 집행위원회는 2026년 6월 AI 생성 콘텐츠의 표시와 라벨링을 위한 실무적인 가이드라인인 Code of Practice도 발표했다. 이를 통해 AI Act의 투명성 의무를 실제 서비스에 적용하기 위한 방법을 제시하고 있다.

‘콘텐츠 자격증명’이 새로운 표준으로 부상

AI 영상의 출처를 확인하기 위한 기술 가운데 최근 주목받는 것이 C2PA(Content Credentials)다.

C2PA는 콘텐츠가 어떻게 만들어지고 수정됐는지에 대한 정보를 메타데이터 형태로 기록하고, 이를 암호학적으로 서명해 콘텐츠의 출처와 변경 이력을 확인할 수 있도록 하는 개방형 표준이다.

AI로 생성된 콘텐츠뿐 아니라 사람이 직접 촬영한 콘텐츠의 제작과 편집 과정까지 기록할 수 있다는 점에서 활용 범위가 확대되고 있다.

핵심은 영상에 단순히 ‘AI 영상’이라는 글자를 붙이는 것과 다르다는 점이다.

콘텐츠에 출처와 제작 과정에 관한 정보를 남겨두면 해당 콘텐츠가 다른 플랫폼으로 이동하더라도 제작 및 수정 이력을 확인할 수 있는 기반을 마련할 수 있다.

틱톡도 C2PA 기반 AI 영상 표시 확대

소셜미디어 플랫폼들도 관련 기술 도입을 확대하고 있다.

틱톡은 AI 생성 콘텐츠에 대한 이용자 표시 기능과 자체 탐지 기술을 함께 운영하고 있으며, C2PA의 Content Credentials가 포함된 콘텐츠를 인식해 AI 생성 콘텐츠로 표시할 수 있도록 하고 있다.

또한 C2PA 기반 메타데이터를 활용해 AI 생성 콘텐츠를 식별하고 라벨링하는 방식을 확대하고 있으며, AI 생성 콘텐츠 표시 기술과 보이지 않는 워터마크 기술도 지속적으로 고도화하고 있다.

이는 앞으로 AI 콘텐츠의 투명성이 단순한 이용자 자율 표시를 넘어 플랫폼 차원의 자동 식별과 검증 체계로 발전할 가능성을 보여주는 사례다.

메타 역시 AI 콘텐츠 표시 체계 강화

Meta 역시 페이스북과 인스타그램, 스레드 등에 게시되는 AI 생성·조작 콘텐츠에 대한 표시 체계를 운영하고 있다.

Meta는 업계 표준에 기반한 AI 생성 신호를 활용해 콘텐츠를 식별하고, 이용자가 AI로 생성되거나 수정된 콘텐츠임을 알 수 있도록 ‘AI info’ 등의 라벨을 적용하고 있다.

특히 AI로 생성된 사실적인 인물이나 상당한 수준의 편집이 이뤄진 콘텐츠에 대해서는 보다 눈에 띄는 방식으로 관련 정보를 제공하는 접근을 사용하고 있다.

광고 영역에서도 생성형 AI를 활용해 제작하거나 크게 수정한 이미지와 영상에 대한 표시 체계를 운영하고 있다.

디지털 워터마크만으로는 부족하다

AI 콘텐츠 투명성 논의에서 중요한 부분은 워터마크와 메타데이터가 서로 다른 역할을 한다는 것이다.

디지털 워터마크는 콘텐츠 자체에 보이지 않는 식별 정보를 삽입하는 방식으로 활용될 수 있다. 반면 메타데이터 기반 출처 추적은 콘텐츠의 제작자와 생성·편집 과정 등의 정보를 기록하는 데 초점을 둔다.

따라서 앞으로의 AI 콘텐츠 검증은 하나의 기술에 의존하기보다는 다음과 같은 여러 기술을 조합하는 방향으로 발전할 가능성이 높다.

• AI 생성 콘텐츠 표시
• 콘텐츠 메타데이터 기록
• 디지털 워터마크
• 플랫폼의 AI 콘텐츠 자동 탐지
• 이용자에게 제공되는 명확한 AI 라벨
• 콘텐츠 제작·수정 이력 확인

EU 역시 AI 생성 콘텐츠의 기계 판독 가능한 표시와 이용자가 확인할 수 있는 명확한 공개를 별도로 요구하고 있다. 따라서 콘텐츠 내부의 기술적 식별 정보만으로 이용자에게 충분한 고지가 이뤄졌다고 보기는 어렵다.

AI 시대의 영상도 ‘출처’가 중요해진다

앞으로 소셜미디어에서 영상을 볼 때 단순히 ‘진짜냐 가짜냐’를 판단하는 방식만으로는 한계가 커질 수 있다.

중요한 것은 해당 영상이 어디에서 만들어졌고, AI가 어느 부분에 사용됐으며, 이후 어떤 편집 과정을 거쳤는지를 확인할 수 있는 환경을 만드는 것이다.

특히 생성형 AI 기술이 영상 제작 과정에 광범위하게 활용되면서 ‘100% 사람이 만든 영상’과 ‘AI가 일부 작업에 참여한 영상’을 명확하게 구분하는 것도 점점 어려워질 수 있다.

이에 따라 향후 디지털 콘텐츠 시장에서는 콘텐츠의 품질뿐 아니라 콘텐츠의 출처와 제작 이력을 증명할 수 있는 능력도 중요한 경쟁 요소가 될 전망이다.

AI가 영상을 만드는 시대에서 이제 플랫폼과 미디어 업계가 해결해야 할 다음 과제는 그 영상이 어떻게 만들어졌는지를 이용자에게 보여주는 것으로 옮겨가고 있다.

※ 본 기사는 AI 생성 콘텐츠의 투명성 및 출처 추적 기술과 관련한 국제적 정책·기술 동향을 바탕으로 작성됐다. AI 콘텐츠 표시 의무는 국가와 지역, 콘텐츠 유형 및 서비스 형태에 따라 적용 범위가 다를 수 있다.