딥러닝이 만든 가짜 목소리, AI 보이스피싱의 실체

보이스피싱 범죄, 계속 발전하고 있다

보이스피싱은 대표적인 디지털 민생범죄 중 하나로, 메시지 또는 이메일 등을 악용해 사용자 또는 기업의 정보를 탈취하여 금전적 이득 등을 편취하는 행위이다. 유사 개념으로 ‘전기통신금융사기’라는 용어와 비슷하게 사용되고 있는데 여기서 피싱(Phishing)이란 개인정보(Private Data)와 낚시(fishing)를 뜻하는 영어를 합성한 신조어다.

피싱은 지금도 계속 늘고 있다

보이스피싱 수법이 날로 진화하고 있는데, 그 피해금액과 피해자수가 급등하고 있다. 금융감독원에 접수된 보이스피싱 피해 금액이 2023년 9월 249억 원에서 12월 610억 원으로 급증했다. 불과 3개월 만에 2.5배 가까이 늘어난 수치다. 피해자 1인당 평균 피해액도 약 4,100만 원에 달한다.

보이스피싱 건수 역시 폭발적으로 증가했다.한국인터넷진흥원에 따르면, 스미싱 탐지 건수는 2023년 50만 건에서 지난해 219만 건으로 약 4.4배 급증했다.

AI 보이스피싱의 진화, 그리고 '딥페이크 보이스피싱'이라는 이름

최근 보이스피싱 수법이 놀라울 정도로 정교해지고 있다. 단순히 발신번호를 조작하거나 대본을 활용한 전화 사기에서 벗어나, 이제는 AI 기술을 악용해 실제 사람의 목소리를 흉내 내는 수준에 이르렀다.

이러한 신종 사기 수법은 흔히 ‘AI 보이스피싱’이라 불리지만, 기술적으로 더 정확한 명칭은‘딥페이크 보이스피싱(Deepfake Voice Phishing)’이다.

딥페이크 보이스피싱은 말 그대로, 딥러닝 음성 합성 기술을 이용해 실제 인물의 목소리를 인공지능이 정교하게 재현한 후 그 목소리를 사칭해 피해자에게 금전이나 개인정보를 요구하는 방식이다. 부모나 자녀, 혹은 직장 상사의 목소리를 그대로 흉내 내기 때문에 피해자는 이를 진짜라고 믿고 속아넘어가기 쉽다.

이러한 기술은 대부분 딥러닝 기반의 음성합성 기술, 즉 TTS(Text-to-Speech) 또는 음성 클로닝(Voice Cloning) 기술이 활용된다. 불과 몇 초 분량의 음성만 확보해도 AI는 특정인의 말투와 억양을 빠르게 학습해 거의 구별이 어려운 수준의 음성을 만들어낸다.

문제는 이 기술이 누구나 쉽게 사용할 수 있을 만큼 보편화되고 있다는 점이다. 딥러닝 기반 음성 합성 모델은 오픈소스로 공개되어 있고, 이를 조합하면 일반인도 짧은 시간 안에 ‘누군가의 목소리로 말하는 AI’를 만들 수 있는 시대가 된 것이다.

결국 AI 기술의 발전이 한편으로는 디지털 범죄의 수단으로 악용되는 현실을 마주하게 한다. 정확한 용어를 알고, 그 위험성을 인식하는 것부터가 예방의 시작이다.

‘AI 보이스피싱’이라는 단순한 표현보다,이제는 기술적 실체를 드러내는‘딥페이크 보이스피싱이라는 명칭에 주목해야 할 때다.

AI 보이스피싱, 이렇게 막을 수 있다

이미 국내에서는 공직선거법 제 82조의 8번에 2를 살펴보면 딥페이크영상등을 제작ㆍ편집ㆍ유포ㆍ상영 또는 게시하는 경우에는 해당 정보가 인공지능 기술 등을 이용하여 만든 가상의 정보라는 사실을 명확하게 인식할 수 있도록 중앙선거관리위원회규칙으로 정하는 바에 따라 해당 사항을 딥페이크영상등에 표시하여야 한다.고 명시되어 있고, 디지털정책인사이드에서 다뤘던 내용을 살펴보면 성폭력범죄 처벌에 의해 규제를 강력히 시행하고 있다.

보이스피싱과 몸캠피싱의 연관성

보이스피싱과 몸캠피싱은 겉보기에는 서로 다른 유형의 범죄로 보일 수 있지만, 실제로는 동일한 범죄 조직에 의해 운영되거나 상호 보완적으로 활용되는 경우가 많아 밀접한 연관성을 가지고 있다. 이 두 범죄는 목적, 수법, 그리고 사용되는 정보의 측면에서 유기적인 연결 구조를 형성한다.

아크링크만의 몸캠피싱 유포 차단 솔루션

아크링크는 국내 몸캠피싱 대응 공식 기업이다. 아크링크가 보유한 기술은 이와 같은 솔루션으로 피해 상황에서 효과적으로 벗어날 수 있도록 지원한다.

• 초기 대응 가이드 제공

• 영상 유포 상황을 실시간 감지

• 가해자 통신 매체 제한을 통한 영상 유포 행위 억제

• 가해자의 접근을 차단

몸캠피싱으로 관련 피해를 당했다면 디지털범죄 대응 업체 아크링크의 24시간 상담을 통해 신속하고 효과적으로 대응할 수 있도록 도와드립니다.