AI로 사진 조작을 탐지하다 (어도비 블로그 요약) 2018-06-25

전문적인 도구의 손길을 받은 이미지들이 예술을 표현(영문)하고, 역사를 보존(영문)하고, 실종 아동을 찾게 하기(영문)도 합니다. 
다른 기술들처럼 이미지 편집 기술 역시 좋게 쓰이기도, 나쁘게 쓰이기도 합니다.

1710년 조나썬 스위프트는 이렇게 말했습니다.

거짓은 날아다니고, 진실은 그 후에 절뚝 거리며 온다.

그렇습니다. 진본 여부와 진실, 거짓과 미디어 사이에서 우리가 세상을 보는 관점은 다듬어지고 있습니다. 소셜 미디어에서는 거짓이 더 빠르게 전파되기도 합니다.

그렇기에 디지털 미디어를 생산하는 도구를 만드는 Adobe가 인공지능을 통해 디지털 미디어의 진본 여부와 신뢰를 가꾸는 방법을 찾으며 기술의 새로운 경계를 펼쳐나가고 있습니다.

인공지능 AI, 오래된 문제의 새로운 해법

Adobe 연구원 블라드 모라리우는 컴퓨터 비전을 수년간 연구하면서 DARPA 미디어 포렌직 프로그램에 참여하며 이미지 조작을 탐지하는데 힘써오고 있습니다.

저희는 이미지 조작에 쓰이는 3대 기술에 초점을 맞추기로 했습니다. 서로 다른 이미지를 합치는 접합, 사진 속 오브제를 옮기거나 복사 그리고 붙여넣기 하는 복제/이동, 사진에서 오브제를 지워버리는 제거를 꼽을 수 있습니다.

이미지가 조작될 때마다, 어떻게 이것이 바뀌었는지 알려주는 증거를 남깁니다. 경계가 뚜렷해지거나 부드러워진 구간이 생긴다던지 또는 노이즈 패턴이 달라진다던지 말이죠. 이런 증거들은 사람의 눈으론 잘 보이지 않지만 픽셀단위로 정밀분석하거나 필터를 적용하면 탐지가 가능합니다.

포렌직 전문가가 수 시간을 들여 하는 일을 AI가 몇 초만에 해내는 것을 보시게 될 것입니다. 이 프로젝트를 통해 어디가 어떻게 조작되었는지 확인시켜줄 것입니다.

이 기술은 픽셀의 RGB(픽셀을 구성하는 빨강 초록 파랑의 성분) 흐름, 노이즈 흐름(디지털 카메라의 센서나 소프트웨어 조작에 의한색상과 명암의 임의 변화) 필터를 통해 조작을 탐지합니다. 많은 사진과 카메라는 고유한 노이즈 패턴을 갖고 있으므로, 이런 노이즈의 일관성이 사라지는지 확인하여 조작여부와 조작된 구역을 탐지해내는데 두 장 이상의 사진이 합쳐진 경우 잘 찾아냅니다.

왼쪽에서 순서대로 진본, 조작된 이미지, 노이즈 맵, 조작된 구역, 탐지 결과를 나타냄

이런 기술이 완성되는 동안 사진의 진실 논란을 필수적으로 풀어주진 않겠지만, 가능성과 디지털 조작의 영향을 관리하는데 더 많은 선택을 제공해주며 이러한 질문에 잘 대답해줄 것입니다. 블라드는 사진 속 조명의 변화나 반복된 저장이 일으킨 압축에 의한 변화와 같은 흔적들을 찾아낼 수 있도록 연구를 확장할 계획이라고 밝혔습니다.

원문

https://theblog.adobe.com/spotting-image-manipulation-ai/

맺음말

2016년 말 어도비는 음성인식된 텍스트를 편집해 다시 음성으로 반영할 수 있는 VoCo라는 프로젝트의 음성 합성 소프트웨어를 개발해냈고 최근에는 대통령이나 유명 방송 진행자의 목소리를 머신러닝으로 훈련해 음성 합성에 쓰는 사례도 나왔습니다. 기술이 진보해갈수록 나쁜 손에 어떻게 쓰이게 될지 걱정이 되는 것도 사실이겠죠. 그렇기에 조작 판별 기술 역시 개발되는 것에 안도감을 느낍니다.