텔레그램을 기반으로 한 ‘딥페이크 성범죄’가 기승을 부리며 사회 전반에 근절 대책에 대한 논의가 한창이다. 정치권에서도 딥페이크 성범죄를 막기 위한 초당적 협력을 예고했다. 국내 대표적인 사이버보안 전문가이자 윤석열 대통령에게 사이버·인공지능(AI) 정책 등을 조언하고 있는 임종인(사진) 대통령실 사이버특별보좌관(고려대 정보보호대학원 명예교수)은 ‘표현의 자유’를 저해하지 않으면서도 ‘딥페이크 성범죄’라는 타깃을 명확히 한 실효적 규제법이 조속히 마련돼야 한다고 강조했다.

지난 28일 서울 종로구의 한 카페에서 헤럴드경제와 만난 임 특보는 “딥페이크 기술을 악용해 음란물을 제작·배포하는 사람을 지금보다 더욱 강력하게 처벌해야 하는 건 기본”이라며 “최대한 빠른 시일 안에 디지털 성범죄 영상물이 즉각적으로 삭제될 수 있도록 플랫폼 업체들의 협조를 의무화하는 법적 근거가 서둘러 마련돼야 한다”고 말했다.

이날 임 특보는 최근 딥페이크 성범죄 문제와 관련해 “날이 갈수록 정교해지는 AI 기술의 특성상 딥페이크 이미지나 영상을 만드는 것 그 자체를 없애고 적발하는 건 현실적으로 쉽지 않다”고 진단했다. 그러면서 “지금도 무료 애플리케이션 하나만 다운로드 받으면 순식간에 딥페이크 영상물 하나쯤은 금방 만들 수 있다. 유료 서비스는 더 정교한 터라 해외에서는 일론 머스크와 워런 버핏의 얼굴과 목소리를 합성한 이미지 또는 영상을 이용한 투자 사기도 빈번하다”고 설명했다.

그는 다만 딥페이크 성범죄 방지 차원에서 거론되고 있는 ‘AI 워터마크 표시 의무화’ 논의에 대해서 비판적 견해를 냈다. 최근 전 세계 각국에서는 실제와 구분하기 어려운 딥페이크 성착취 영상물 확산 피해가 커지면서 워터마크 도입을 고려하고 있다. 우리 정부도 지난 5월 딥페이크, 가짜뉴스 등에 대응하기 위해 AI 생성 콘텐츠에 워터마크 표시를 의무화하는 계획 등을 밝혔다. 국회에서도 정보통신망법 개정안 등 관련 법안이 발의된 상황이다. 하지만 임 특보는 “오픈AI의 챗(Chat)GPT나 구글의 제미나이와 같은 폐쇄형 AI 모델과 달리 오픈소스(개방형) AI들은 워터마크 표시를 의무화하는 방안이 통할 리 없다”며 “기본적으로 오픈소스 AI를 활용한 딥페이크 영상물은 다크앱 등지에서 불법적으로 유포되고 있을 뿐더러 이미 워터마크를 지우는 AI도 많은 상황이어서 효과적인 대책이 되기에는 다소 부족하다”고 말했다.

임 특보는 그 대신 딥페이크 영상 등을 이용한 선거운동을 금지하는 내용으로 공직선거법에 새롭게 신설된 조항(제82조의8)을 예시로 들며 “딥페이크 성범죄물 제작·유포라는 불법행위를 정확히 처벌할 수 있도록 규제 범위를 명확화해야 한다”며 “과거 정보통신망법상 명예훼손죄를 따로 규정한 것처럼 딥페이크 성범죄와 관련해서도 일반적인 성범죄 처벌보다 훨씬 더 강하게 처벌하도록 숙의해야 한다”고 강조했다.

임 특보는 “우리 사회가 선진 사회로 거듭나기 위해서라도 AI 윤리 차원의 고민을 해볼 시점”이라며 “표현의 자유라는 가치를 중시하되 시민들을 대상으로 딥페이크와 관련한 캠페인을 전개해 자발적으로 건전한 딥페이크 기술 이용 문화를 확산하는 것도 하나의 방법이 될 것”이라고 제언했다. 그러면서 “현재 대통령도 사이버 범죄 척결에 관심이 많다”며 “지난 27일 ‘국제 사이버범죄 대응 심포지엄(ISCR)’에도 직접 대통령이 참석한 것은 이 같은 범죄에 대한 근절 의지의 표명”이라고 말했다. 당시 윤 대통령은 이 심포지엄에 처음으로 참석해 관계 기관에 최고 수준의 사이버범죄 대응 역량을 갖출 것을 당부했다.

임 특보는 “이미 범부처적으로 대응에 나선 상황이지만, 무엇보다 한국이 디지털에 이어서 AI 분야의 빅3 국가가 되려 한다면 AI 기술을 잘 활용하고 이에 대한 역기능을 최소화하는 노력이 필수”라며 “딥페이크 성범죄 확산에 대한 대비는 이 같은 인식에서 출발해야 할 것”이라고 말했다. 이용경 기자