'딥페이크 보이스피싱' 사례 및 예방법

검찰이 신종범죄로 떠오른 딥보이스 탐지에 초점을 맞춰 기술 개발에 나서는 것은 처음이다.

[힘쎈여자 강남순] 보이는 게 다가 아니다 무조건 의심하라, 딥페이크 보이스피싱
https://youtube.com/shorts/goGxJGbAfUg?si=gMaFEx078VhtxvuA

음성 복제·합성·변조 기술인 딥보이스는 '목소리 딥페이크'다. 인공지능의 딥러닝(심화학습) 기술로 '진짜 같은 가짜(fake)' 목소리를 만드는 목소리 바꿔치기 기술이 딥보이스다.

누군가의 음성 파일을 따 다른 사람의 입모양에 덧씌우는 음성합성 기술이나 게임 등에서 이용자의 목소리를 캐릭터의 소리로 바꿔주는 음성변조 기술이 범죄에 악용된다.

딥보이스 범죄가 무서운 것은 경찰청이 공개한 공익 영상에서처럼 지인의 목소리로 피해자를 속일 수 있다는 점이다.(기사中)


[단독]"목소리 소름주의"…400억 가로챈 '딥보이스 범죄', 檢도 나섰다 2023.02.11
https://m.mt.co.kr/renew/view_amp.html?no=2023020913433930492

[단독]"목소리 소름주의"…400억 가로챈 '딥보이스 범죄', 檢도 나섰다 - 머니투데이

[MT리포트-신종범죄의 습격 1부: 딥보이스, AI 범죄 잡는 AI]①

딥페이크는 특정 인물의 얼굴, 음성 등을 AI 기술을 이용해 변조, 합성하는 것을 뜻한다. 딥페이크는 유명인이나 일반인의 얼굴을 합성하는 디지털 성범죄에 쓰이고 있으며 최근에는 가짜뉴스, 가짜영상 제작에도 악용되고 있다. 그런데 딥페이크 기술이 피싱에도 쓰일 수 있다는 것이다.(기사中)

커지는 딥페이크 보이스피싱 우려...경고 잇따라 2021.11.29
https://www.digitaltoday.co.kr/news/articleView.html?idxno=426273

커지는 딥페이크 보이스피싱 우려...경고 잇따라 - 디지털투데이 (DigitalToday)

"보증금 도와줘" 영통까지 한 친구…'딥보이스' 피싱에 당했다 2023.06.18
https://www.joongang.co.kr/article/25170581

"보증금 도와줘" 영통까지 한 친구…'딥보이스' 피싱에 당했다 | 중앙일보

“엄마 돈 좀…” 부모도 깜빡 속이는 AI 보이스피싱, 해결 가능해질까 2023.07.15
https://www.chosun.com/national/national_general/2023/07/15/PD6SJ5KPZVG5LBB7O7BK7DCSZQ/

“엄마 돈 좀…” 부모도 깜빡 속이는 AI 보이스피싱, 해결 가능해질까

“엄마, 돈 좀 보내줘” 등 자녀를 사칭해 송금을 요구하는 것은 보이스피싱의 전형적인 사례다. 그런데 최근 인공지능(AI) 딥페이크가 보이스피싱에 활용되면서 더 큰 피해가 우려되고 있다. 자녀를 사칭하는 것부터 피해자에게 혼란을 야기하는데, 목소리까지 감쪽같이 따라 하면 속을 수밖에 없게 되기 때문이다. 이에 국내 한 연구팀은 딥페이크로 모방한 음성을 탐지하는 소프트웨어 기술 개발에 나섰다.(기사中)


"엄마 돈 보내줘" 딸인줄 알았더니 AI…대응책 있나 2023.07.15
https://www.yna.co.kr/view/AKR20230714070900017

"엄마 돈 보내줘" 딸인줄 알았더니 AI…대응책 있나 | 연합뉴스

📌 이처럼 진짜와 가짜를 구분하기 어려울 정도로 AI이미지 기술이 발전한 이유는 GAN(Generative Adversarial Network; 적대적 생성 신경망)이라는 인공지능 때문이다.
국내에도 구글을 통해 GAN기술을 통한 그림이나 딥페이크 영상을 만드는 사이트를 쉽게 찾아볼 수 있으며, 쉽게 이용도 가능하다.

그리고 이런 쉬운 접근성으로 인해 범죄자들에게 쉽게 이용되는 것이 우려된다. 전문가들은 "이 기술은 전문가들도 쉽게 속일 수 있다. 앞으로 보이스피싱에 파생된 딥페이크가 한층 더 기승을 부릴 것으로 예측, 전망된다.(기사中)


딥페이크 피싱 범죄 기승 주의 요망 2023.09.07
https://m.dt.co.kr/contents.html?article_no=2023090702109923039003

https://m.dt.co.kr/contents.html?article_no=2023090702109923039003

정 교수는 목소리만 듣고 합성 여부를 구분하기 어려워진 만큼 당사자들만 알 수 있는 질문으로 본인인지 확인해야 한다고 당부했다. 정 교수는 “본인 확인을 위해 예를 들면 본인들만 아는 질문을 한다든가 서로 대화를 하면 준비가 안 된 답변이라든가 이런 데서는 품질이 떨어질 수도 있고 답변을 못 할 수도 있다”며 “내가 물어본 거에 대해 저쪽이 답변해야 하는데 그 답변이라는 게 실시간으로 음성을 만들어내기는 어렵다“고 말했다.

정 교수는 “문자를 집어넣어 음성을 얼른 합성해 답변할 수 있지만 그 답변 내용을 모를 수도 있고 단어나 이런 것들이 준비가 전혀 안 되고 트레이닝이 잘 안 된 답변 같으면 어색하게 들린다”고 설명했다.

그러면서 “일종의 패스워드 비슷하게 본인들만 아는 거를 (질문해 본인 확인을 거쳐야 한다)”며 “예를 들면 ‘너 누구 맞냐 그러면 너 지난번에 이렇게 했는데 그때 어떻게 했어’(라고) 이런 식으로 (질문)했을 때 저쪽에서는 답을 모르면 답할 수 없을 것”이라고 설명했다.(기사中)

딸 목소리 분명한데…딥보이스 피싱엔 “둘만 아는 질문을” 2023.09.20
https://m.hani.co.kr/arti/society/society_general/1109297.html#cb

딸 목소리 분명한데…딥보이스 피싱엔 “둘만 아는 질문을”

📌《GAN의 원리》는 그림을 만드는 생성자(Generator)와 그림이 진짜인지 판독하는 판별자(Discriminator), 이 두 가지의 서로 대립하는 적대적 시스템의 경쟁 학습을 통해 더 나은 결과물을 스스로 생성하는 것이다.

[칼럼]딥페이크의 위험성에 대비하는 방법 2023.09.03
http://m.mdilbo.com/detail/CBIT5x/702021

[칼럼]딥페이크의 위험성에 대비하는 방법

📌 딥페이크(Deepfake)란 인공지능의 핵심 기술인 딥러닝(Deep Learning)과 가짜(Fake)의 합성어로 인물 사진이나 영상 자료를 이용해 특정 얼굴이나 신체 등을 합성하는 AI 컴퓨터그래픽 기술이다.딥페이크가 유명해진 계기는 2017년 트럼프 대통령의 '하바나(Havana)' 노래이다.

📌 딥페이크의 시작은 2017년 미국의 '레딧'이라는 온라인 커뮤니티에 'Deepfakes'라는 아이디의 회원이 음란물에 미국 유명 여배우를 합성한 영상으로 알려져 있다.

포르노부터 금융 사기까지...AI가 낳은 부작용 '딥페이크' 막을 방법은? 2021.04.08
https://www.aitimes.com/news/articleView.html?idxno=137840

포르노부터 금융 사기까지...AI가 낳은 부작용 '딥페이크' 막을 방법은? - AI타임스

"보이는 게 다가 아니다. 무조건 의심하라"

도움이 되셨길 바라고 공감하는 분은 나가시면서 왼쪽 아래 ❤ 한번 눌러주시면 감사하겠습니다.