유트브 영상 AI 판별하기 (너가 AI 영상이라고?)

안녕하세요!

최근에 제가 겪었던 일화를 바탕으로 오늘의 주제에 대해서 정리를 진행했습니다.

 

지인과 카톡 대화를 오가는중에 신기한 영상이 존재해서  공유를 했으나, 알고보니 AI로 제작된 영상이였습니다....^^;; 

 

 

 

이렇게 최근 AI 기술의 발전으로 YouTube에는 놀라울 정도로 정교한 AI 생성 영상들이 넘쳐나고 있습니다.

AI가 온라인 콘텐츠의 90%를 생성할 것으로 예측하고 있어, AI 생성 영상을 식별하는 능력이 그 어느 때보다 중요해졌습니다

 

그래서 이러한 AI 영상인지 판단하는 기준에 대해서 좀 자세하게 알아보고자 글을 작성하게 되었습니다. :) 

---

 

YouTube의 AI 콘텐츠 라벨링 정책 

 

YouTube는 2024년 3월부터 AI 생성 콘텐츠에 대한 새로운 정책을 시행하고 있습니다.

크리에이터들은 이제 생성형 AI로 제작한 콘텐츠에 대해 의무적으로 라벨을 표시해야 합니다.

 

특히 건강, 뉴스, 선거, 금융 등 민감한 주제의 경우 더욱 명확한 라벨이 플레이어 창에 표시되어야 합니다.

 

예시 )

- 실제 인물이 말하거나 하지 않은 행동 또는 발언을 한 것처럼 보이게 만든 경우
- 실제 사건 또는 장소의 영상을 변경한 경우
- 실제로는 발생하지 않은 장면을 진짜처럼 보이게 생성한 경우

 

 

시각적 단서로 AI 영상 판별하기

▶  부자연스러운 움직임과 몸짓 언어 

AI 생성 영상의 가장 대표적인 특징은 바로, 부자연스러운 움직임입니다.

경직된 몸짓: AI는 자연스러운 인간의 움직임을 완벽하게 복제하지 못해 딱딱하거나 기계적인 동작을 보입니다
입술 동기화 문제: AI 생성 음성과 입술 움직임이 정확히 일치하지 않는 경우가 많습니다
미세 표정의 부재: 인간이 무의식적으로 보이는 미세한 표정 변화가 AI 영상에서는 누락되는 경우가 많습니다

 

https://reelmind.ai/blog/how-to-tell-if-a-video-was-made-with-ai-reelmind-s-telltale-signs

How to Tell if a Video Was Made with AI (Reelmind's Telltale Signs)

 

▶ 조명과 그림자의 일관성 문제

AI는 복잡한 조명 환경을 완벽하게 재현하는 데 어려움을 겪습니다

그 중 대표적인게  '그림자의 방향', '반사 효과' ,'급작스러운 조명 변화' 라고 볼 수 있습니다.

그림자의 방향: 같은 장면 내에서 그림자의 방향이 일치하지 않는 경우
반사 효과: 눈, 유리, 금속 표면의 반사가 부자연스럽게 반짝이거나 평평해 보이는 경우 급작스러운
조명 변화: 장면 내에서 갑작스럽게 밝기가 변하는 경우

 

 

▶ 해부학적 오류와 물리 법칙 위반

사실 제일 빠르고 쉽게 확인할 수 있는 방법으로,  인체의 해부학적 구조나 물리 법칙을 위반하는 모습들로 파악할수 있습니다.

 

예시 )

- 기형적인 손가락이나 손의 개수가 맞지 않는 경우
- 팔다리의 길이나 각도가 부자연스러운 경우
- 머리카락이나 옷의 움직임이 중력을 무시하는 경우
- 얼굴의 좌우 대칭이 완벽하게 일치하는 경우

 

https://www.sciencetimes.co.kr/nscvrg/view/menu/249?searchCategory=221&nscvrgSn=254521

딥페이크를 식별하는 방법

 

 

분석과 출처 확인하기

▶  역방향 이미지 검색 활용

AI 생성 영상을 판별하는 효과적인 방법 중 하나는 역방향 이미지 검색을 활용하는 것입니다

역방향 이미지 검색이란?

CBIR 시스템에 검색 기반이 될 샘플 이미지를 제공하는 내용 기반 이미지 검색(CBIR) 쿼리 기술입니다.
역이미지 검색을 통해 사용자는 특정 샘플 이미지 또는 이미지의 인기와 관련된 콘텐츠를 검색하고 조작된 버전 및 파생물을 검색할 수 있습니다.

 

 

검증 절차:

① 영상에서 대표적인 프레임을 스크린샷으로 캡처
② Google 이미지 검색이나 TinEye 등의 역방향 검색 도구 사용
③ 유사한 이미지나 영상의 다른 버전과 비교 분석
④ 원본 출처나 다른 편집본이 있는지 확인

 

 

▶  메타데이터 분석

영상의 메타데이터는 AI 생성 콘텐츠를 식별하는 중요한 단서를 제공합니다

아래의 메타데이터도  AI 영상인지 판별하는데 주로 많이 사용되고 있습니다.

 

- 촬영 장소, 시간, 장비 정보의 유무
- 파일 생성 날짜와 업로드 날짜의 일치성
- 영상 코덱과 압축 정보의 특이점

 

https://seo.goover.ai/report/202407/go-public-report-ko-d4ed6b7c-0261-48cc-adac-8cfef96169ee-0-0.html

인공지능으로 생성된 콘텐츠의 식별 방식

 

 

AI 탐지 도구와 기술

현재 시장에는 다양한 AI 영상 탐지 도구들이 존재하며,  다음과 같이 4개가 대표적으로 사용되고 있습니다.

 

 

1. Sensity AI: 95-98%의 정확도로 얼굴 교체, 조작된 오디오, 딥페이크 영상 탐지
2. Intel FakeCatcher: 96% 정확도로 실시간 딥페이크 탐지
3. Deepware AI: 머신러닝 알고리즘을 사용한 영상 조작 탐지
Microsoft Video Authenticator: 머신러닝과 블록체인 기술을 결합한 탐지 도구

 

 

이중 Google에서 제공하는  SynthID 시스템의 경우,

 

1. 텍스트, 오디오, 이미지, 비디오 콘텐츠 모두 지원
2.콘텐츠 품질을 보존하면서 탐지 가능한 워터마크 삽입
3.콘텐츠가 공유되거나 변형되어도 탐지 가능한 강력한 워터마크

 

의 기능을 제공하고 있으면서  Google AI로 생성된 콘텐츠를 식별하는 포털로 이미 100억 개 이상의 콘텐츠에 워터마크가 적용되었습니다

 

 

https://blog.google/technology/ai/google-synthid-ai-content-detector/

SynthID Detector — a new portal to help identify AI-generated content

 

 

 

마치면서

 

YouTube에서 AI 생성 영상을 판별하는 것은 현대 디지털 시대의 필수 기술이 되었습니다. 

시각적 단서부터 기술적 도구까지 다양한 방법을 종합적으로 활용해야 합니다. 

 

YouTube의 라벨링 정책이 시행되고 있지만, 아직은 부족한 단계로 여전히 개인의 판별 능력과 비판적 사고가 가장 중요한 방어막입니다.

AI 기술이 계속 발전하면서 탐지 기술도 함께 발전하고 있지만, 가장 중요한 것은 모든 미디어 콘텐츠를 비판적으로 접근하고, 의심스러운 영상에 대해서는 다양한 검증 방법을 동시에 활용하는 것입니다.

 

이러한 종합적인 접근을 통해 저처럼 당하는 일이 없길 바랬으면 합니다 :)