새전북신문

[온누리] 딥페이크

기사 작성: 이종근 - 2024년 03월 12일 14시02분

경찰청 국가수사본부가 '딥페이크(Deepfake)‘ 탐지 소프트웨어를 개발해 범죄 단속에 활용하 고 있다. 새로 개발한 소프트웨어에 영상을 올리면 통상 5~10분 이내에 딥페이크 영상 여부를 판별할 수 있다. 판별이 완료됨과 동시에 결과 보고서를 즉시 만들어내 수사에 곧바로 활용할 수 있다는 설명이다. 한국인을 대상으로 한 합성 영상의 탐지율이 높다는 것도 특징이다. 기존 탐지 모델 대다수는 해외에서 서양인 위주의 데이터로 제작돼 국내에서 활용하기에 적합하지 않은 면이 있었다.

'딥페이크'는 딥러닝(Deep learning)과 '가짜'를 의미하는 단어인 페이크(Fake)의 합성어로, 기존 영상을 다른 영상에 겹쳐서 만들어 내는 AI 기술을 기반으로 한 이미지 합성기술을 말한다. 경찰이 개발한 소프트웨어는 페이스 스왑(Face Swap·영상 등에서 얼굴을 인식하고 교체하는 AI 딥러닝 기술) 등 딥페이크 기술이 쓰인 것으로 의심되는 영상을 시스템에 올리면 통상 5∼10분 이내에 분석 작업을 완료해 진위를 판별한다. 판별이 완료되면 결과보고서를 즉각 만들어 수사에 활용할 수 있도록 한다. 새 모델은 한국인 데이터 100만건, 아시아 계열 인종 데이터 13만건을 포함, 520만건의 데이터를 학습했다. 기존에 학습된 데이터가 아닌, 새로운 형태의 합성 영상이 발견되더라도 대응할 수 있도록 최신 인공지능(AI) 모델을 적용했다. 딥페이크 영상과 관련된 선거범죄에 대해서는 학계, 기업 등 AI 전문가로 구성된 민간 자문위원의 교차 검증을 별도로 거쳐 해당 소프트웨어의 오탐지 가능성을 최소화할 예정이다.

한국에서 딥페이크 음란물이 성행하고 있다고 프랑스 유력 매체 르몽드가 보도했다. 매체는 이러한 현상에 대해 K-팝의 세계적 성공 및 성차별·여성 혐오 등이 한국적 상황과 결부된 결과라고 분석했다. 르몽드는 7일(현지시간) 최근 미국 팝스타 테일러 스위프트의 얼굴 사진이 합성된 음란 이미지가 온라인에 퍼져 논란을 빚은 일을 나열하면서 "이런 일이 놀랍지 않은 나라가 바로 한국"이라고 했다. 이어 "오랫동안 '몰카 공화국'으로 불렸던 한국은 이제 '딥페이크 공화국'이 됐다"고 했다. K팝의 국제적인 성공이 이런 부작용에 많은 영향을 미쳤다고 분석했다. 과거에 신체적, 언어적 공격이 주를 이뤘던 성차별 공격이 디지털 방식으로 이어졌고 그 대표적인 사례가 '특이한 관음증인 몰래카메라'라는 것이다. 이런 현상에 딥페이크 기술이 더해져 여성이 본인도 모르게 음란물의 희생양이 되고 있다. 여성들이 ‘내 인생은 당신의 포르노가 아니다‘라는 슬로건 아래 음란물에 대한 강력한 처벌을 요구하는 시위에 나섰다./이종근(문화교육부장)

전북을 바꾸는 힘! 새전북신문 *무단전재-재배포 금지

■ 이종근 기자의 최근기사

[온누리] 딥페이크

전북 곳곳서 어린이날과 가정의 달 행사 다채롭게 열린다

전주국제영화제,‘농심신라면상’ 신설

돌아온 민주주의의 봄! 제26회 전주국제영화제‘다시, 민주주의로’ 섹션

새만금 관광활성화 사진전‘REVITAL 새만금’

‘우리는 늘 선을 넘지’ 제26회 전주국제영화제가 성대하게 막올려

26개의 원으로 영화와 영화제, 영화제의 과거와 미래의 연결 보여줘

[데스크의 눈] 광복 80주년의 의미 살려야

전북동부 문화유산돌봄센터, 국가유산 재난대응 합동소방훈련

<부음> 정순흥 상

전주 교동미술관서 군산대 대학원 김경희 박사학위 청구전

Leave a Comment

많이 보는 기사

하트 날리는 우범기 전주시장

제26회 전주국제영화제 레드카펫

이동진 희망찬동행포럼 상임대표 대선 출마