지금 당신이 보고 있는 사진 속의 인물들이 실제로 존재하는 사람들이 아니라고 한다면 어떤 생각이 드시나요? 아래에 붙여져 있는 사진 속의 인물들은 실제로 존재하는 인물들이 아닙니다. 남자, 여자, 노인, 아이까지 모두 단지 AI가 임의의 조합으로 만들어낸 가상의 인물 사진들입니다.
□ AI를 통한 가상의 얼굴 Random 생성기 (Random Face Generator)
AI를 통한 가상의 얼굴 만들기 프로젝트는 2018년에 개발된 Nvidia(엔비디아)의 StyleGAN이라는 neural network를 통해서 이루어졌습니다. 2개의 서로 다른 neural network가 한쪽에서는 계속해서 가상의 인물 사진을 만들어내고, 다른 한쪽에서는 해당 사진의 진위 여부를 판별해내는 훈련을 펼쳤습니다. 훈련을 계속한 결과, 가상의 얼굴을 만들어내는 쪽에서, 진위 여부를 판별해내는 쪽을 계속해서 속이는 데 성공하자 훈련은 종료되었습니다.
아래에 링크된 사이트(This Person Does Not Exist)에 접속하시면 인물 사진이 보이는데, 여기서 보이는 사진들은 모두 AI로 만들어낸 가상의 인물 사진들입니다. 사진이 마음에 들지 않으면 새로고침을 통해서 다른 사진으로 바꿀 수도 있고 마음에 들면 다운로드할 수도 있습니다.
https://this-person-does-not-exist.com/
ThisPersonDoesNotExist - Random AI Generated Photos of Fake Persons
Test description og
this-person-does-not-exist.com
https://thispersondoesnotexist.com/
This Person Does Not Exist
thispersondoesnotexist.com
□ 사진의 진위 여부를 판단하는 방법
해당 사진이 AI로 만들어진 가짜 인물인지 실제 인물인지를 파악하는 것은 거의 불가능합니다. 일반인들의 90%는 위조 여부를 알아차리지 못하며 숙련된 사진가들조차도 절반은 진위 여부를 판단하지 못합니다. 하지만 AI 역시 실수를 하기 때문에 가끔 사진에서 오류가 관찰되며, 인간의 시각 처리 시스템이 아직은 컴퓨터보다 강력하기 때문에 유심히 살펴보다 보면 가짜 사진 여부를 파악할 수 있는 경우가 있습니다.
AI가 만든 사진에서 가장 흔하게 관찰되는 오류는 안경이나 귀걸이, 또는 얼굴 대칭 문제 등입니다. 양쪽 귀걸이가 서로 다르거나 귀의 크기나 모양이 서로 다른 경우들이 자주 관찰되며, 안경은 없는데 안경걸이만 귀에 걸려 있다던지 반대로 안경알만 관찰된다던지 하는 경우들도 관찰됩니다.
또 다른 문제점은 배경입니다. 주로 주인공 인물의 얼굴 위주로 만들어지다 보니, 주변에 인물이 있다면 얼굴이 왜곡되고 일그러져서 매우 징그럽게 찍혀있는 경우들이 있으며, 주인공의 손이 얼굴 근처에 있을 때 심하게 일그러져 있는 경우도 있습니다. 또한 치열 등 이빨에서도 이상한 점이 관찰됩니다.
파악할 수 있는 가짜 사진들 예시
이렇게 사진에서 이러한 이상한 부분들이 관찰된다면 다행히 가짜 사진 여부를 파악해낼 수 있겠지만, 그렇지 않은 사진들에서는 정말로 진위여부를 파악해내기 어렵습니다.
이러한 가짜 사진으로 만들어낸 가상의 인물들이 SNS를 비롯한 인터넷상에서 나에게 접근해온다면 과연 어떻게 될까요? 지금도 단지 전화 목소리만으로도 속아서 큰돈을 남에게 보내도록 하는 보이스피싱 범죄가 성행하고 있는데, 나중에 더 발달된 AI가 실제 인간과 정말로 구분이 안 되는 가상 인물들을 만들어내고 범죄에 이용된다면, 정말 많은 어려움을 겪게 될 것으로 생각됩니다.
댓글