"감금된 딸이 빌었는데…딥페이크" 경찰, 'AI 악용 납치 사기' 주의 당부

[이데일리 손의연 기자] 딥페이크 기술로 자녀 얼굴을 복제해 합성한 영상을 이용, 부모에게 보이스피싱을 시도한 사례가 발생해 경찰이 주의를 당부했다.

경찰 (사진=연합뉴스)

경찰청 국가수사본부는 “최근 딥페이크 기술로 자녀의 얼굴을 합성한 가짜 영상을 제작해 부모에게 전송하고, ‘자녀를 납치를 했다’며 금전을 요구한 외국인 대상 전화금융사기가 발생했다”며 “국내에서도 유사한 사건이 발생할 가능성이 있으므로 각별히 주의해달라”고 당부했다.

딥페이크는 인공지능(AI) 기술을 활용해 실제 인물처럼 보이는 가짜 인물을 만들어내는 기술이다. 단순히 영상 속 얼굴을 바꾸는 것을 넘어서 실제 인물처럼 표정ㆍ움직임 등도 재현할 수 있다.

지난 10월 불상의 외국 범죄 조직이 해외에 있는 부모(외국인)를 대상으로 보이스피싱을 시도했다. 범인은 한국을 여행 중이던 딸이 방 안에 감금된 채 울면서 살려달라고 하는 영상을 전송했다.

범인은 “당신 딸을 납치했다, 딸을 살리고 싶으면 합의금을 보내라”며 협박했다.

부모는 이 사실을 영사관에 알렸고 영사관은 한국 경찰에 신고했으며, 경찰은 신속하게 요구조자의 안전을 확인했다.

사건 피해는 없었지만 딥페이크 기술을 이용한 범죄였다는 점이 확인됐다.

최근 딥보이스(Deepvoice) 범죄에 대한 위험성도 떠오른다. 딥보이스는 AI 기술을 통해 특정 인물의 목소리를 학습해 그 사람처럼 말하는 가짜 음성을 생성하는 기술이다.

범죄 조직은 자녀의 목소리를 복제한 뒤 부모에게 전화하여 마치 납치된 것처럼 흐느끼며 살려달라고 한다거나 급한 일이 있다면서 돈을 빌려달라는 목소리를 들려주는 방식으로 범행에 이용할 수도 있다. 부모와 자식 간의 가족관계라는 특수성을 이용해 자녀의 얼굴이나 목소리를 가짜로 생성한 후 부모가 상황을 판단할 여유를 가질 수 없도록 압박하며 즉각적인 송금을 요구하는 방식이다.

경찰은 앞으로 AI 기술을 악용한 전화금융사기가 국내에서도 발생할 수 있으므로 피해 예방을 위해서는 딥페이크ㆍ딥보이스 기술이 범죄에 악용될 수 있음을 반드시 숙지하고 있어야 한다고 강조했다.

경찰 관계자는 “딥페이크와 딥보이스는 실제 인물을 학습해야 하므로 사회관계망 서비스(SNS) 등에 공개된 본인과 가족의 영상, 사진, 목소리 등은 범죄조직의 표적이 될 수 있다”며 “특히, 딥페이크 기술이 고도화돼 전문가들조차도 육안만으로는 진위를 판단하기 어려운 만큼, 평소에 사회관계망 서비스(SNS) 등에 불특정 다수가 볼 수 있는 공개 설정으로 게시물을 올리는 것을 지양해야 한다”고 당부했다.

또 딥페이크 등 이용 전화금융사기를 포함한 납치빙자형 전화금융사기에 대처하기 위해서는 경찰에 신고하는 것이 가장 중요하다.

올해 9월까지 납치 빙자 전화금융사기 사건이 총 174건 발생한 사실을 고려할 때 납치 전화가 전화금융사기일 가능성을 항상 염두할 필요가 있다.

경찰 관계자는 “범죄조직은 ‘가족이나 지인을 납치했다’는 협박 전화를 받으면 두려움과 걱정 때문에 피해자들이 신고를 주저한다는 점을 노리기 때문에 납치든, 납치를 가장한 전화금융사기 사건이든 무조건 경찰에 신고해야 한다”며 “납치 신고를 접수하면 요구조자의 위치 파악 등 초동조치를 최우선으로 하기 때문에 경찰에 신고를 해야 요구조자의 안전은 물론 금전 피해까지 예방할 수 있다”고 말했다. 이어 “범인이 전화를 끊지 못하도록 협박해 경찰에 신고하기 곤란한 경우에는 주변 사람에게 경찰에 신고하도록 도움을 청하거나, 통화하면서 문자메시지로 112에 신고해 자녀의 안전을 확인하는 방식으로 대처해야 한다”고 덧붙였다.