본문 바로가기
스마트폰 레시피

'딥페이크 보이스피싱' 사례 및 예방법

by 주니꼬 2023. 10. 24.
728x90
반응형
SMALL

검찰이 신종범죄로 떠오른 딥보이스 탐지에 초점을 맞춰 기술 개발에 나서는 것은 처음이다.

[힘쎈여자 강남순] 보이는 게 다가 아니다 무조건 의심하라, 딥페이크 보이스피싱
https://youtube.com/shorts/goGxJGbAfUg?si=gMaFEx078VhtxvuA



음성 복제·합성·변조 기술인 딥보이스는 '목소리 딥페이크'다. 인공지능의 딥러닝(심화학습) 기술로 '진짜 같은 가짜(fake)' 목소리를 만드는 목소리 바꿔치기 기술이 딥보이스다.

누군가의 음성 파일을 따 다른 사람의 입모양에 덧씌우는 음성합성 기술이나 게임 등에서 이용자의 목소리를 캐릭터의 소리로 바꿔주는 음성변조 기술이 범죄에 악용된다.

딥보이스 범죄가 무서운 것은 경찰청이 공개한 공익 영상에서처럼 지인의 목소리로 피해자를 속일 수 있다는 점이다.(기사中)


[단독]"목소리 소름주의"…400억 가로챈 '딥보이스 범죄', 檢도 나섰다 2023.02.11
https://m.mt.co.kr/renew/view_amp.html?no=2023020913433930492

[단독]"목소리 소름주의"…400억 가로챈 '딥보이스 범죄', 檢도 나섰다 - 머니투데이

[MT리포트-신종범죄의 습격 1부: 딥보이스, AI 범죄 잡는 AI]①2021년 아랍에미리트(UAE)의 한 은행에서 대기업 임원의 전화를 받고 3500만달러(당시 환율 약 420억원)를 송금했다. 하지만 전화를 건 사

news.mt.co.kr

[MT리포트-신종범죄의 습격 1부: 딥보이스, AI 범죄 잡는 AI]①



딥페이크는 특정 인물의 얼굴, 음성 등을 AI 기술을 이용해 변조, 합성하는 것을 뜻한다. 딥페이크는 유명인이나 일반인의 얼굴을 합성하는 디지털 성범죄에 쓰이고 있으며 최근에는 가짜뉴스, 가짜영상 제작에도 악용되고 있다. 그런데 딥페이크 기술이 피싱에도 쓰일 수 있다는 것이다.(기사中)

커지는 딥페이크 보이스피싱 우려...경고 잇따라 2021.11.29
https://www.digitaltoday.co.kr/news/articleView.html?idxno=426273

커지는 딥페이크 보이스피싱 우려...경고 잇따라 - 디지털투데이 (DigitalToday)

[디지털투데이 강진규 기자] 인공지능(AI)으로 얼굴, 음성을 변조하는 딥페이크(Deepfake) 기술을 이용한 피싱 범죄에 대한 경고의 목소리가 높아지고 있다. 이미 해외에서 유사한 사례가 나타나고

www.digitaltoday.co.kr



"보증금 도와줘" 영통까지 한 친구…'딥보이스' 피싱에 당했다 2023.06.18
https://www.joongang.co.kr/article/25170581

"보증금 도와줘" 영통까지 한 친구…'딥보이스' 피싱에 당했다 | 중앙일보

세계 곳곳서 '딥보이스' 보이스피싱 범죄가 발생하고 있다.

www.joongang.co.kr



“엄마 돈 좀…” 부모도 깜빡 속이는 AI 보이스피싱, 해결 가능해질까 2023.07.15
https://www.chosun.com/national/national_general/2023/07/15/PD6SJ5KPZVG5LBB7O7BK7DCSZQ/

“엄마 돈 좀…” 부모도 깜빡 속이는 AI 보이스피싱, 해결 가능해질까

엄마 돈 좀 부모도 깜빡 속이는 AI 보이스피싱, 해결 가능해질까

www.chosun.com


“엄마, 돈 좀 보내줘” 등 자녀를 사칭해 송금을 요구하는 것은 보이스피싱의 전형적인 사례다. 그런데 최근 인공지능(AI) 딥페이크가 보이스피싱에 활용되면서 더 큰 피해가 우려되고 있다. 자녀를 사칭하는 것부터 피해자에게 혼란을 야기하는데, 목소리까지 감쪽같이 따라 하면 속을 수밖에 없게 되기 때문이다. 이에 국내 한 연구팀은 딥페이크로 모방한 음성을 탐지하는 소프트웨어 기술 개발에 나섰다.(기사中)


"엄마 돈 보내줘" 딸인줄 알았더니 AI…대응책 있나 2023.07.15
https://www.yna.co.kr/view/AKR20230714070900017

"엄마 돈 보내줘" 딸인줄 알았더니 AI…대응책 있나 | 연합뉴스

(서울=연합뉴스) 조성미 기자 = "엄마, 나 사고 났어. 빨리 돈 좀 보내줘."

www.yna.co.kr


📌 이처럼 진짜와 가짜를 구분하기 어려울 정도로 AI이미지 기술이 발전한 이유는 GAN(Generative Adversarial Network; 적대적 생성 신경망)이라는 인공지능 때문이다.
국내에도 구글을 통해 GAN기술을 통한 그림이나 딥페이크 영상을 만드는 사이트를 쉽게 찾아볼 수 있으며, 쉽게 이용도 가능하다.

그리고 이런 쉬운 접근성으로 인해 범죄자들에게 쉽게 이용되는 것이 우려된다. 전문가들은 "이 기술은 전문가들도 쉽게 속일 수 있다. 앞으로 보이스피싱에 파생된 딥페이크가 한층 더 기승을 부릴 것으로 예측, 전망된다.(기사中)


딥페이크 피싱 범죄 기승 주의 요망 2023.09.07
https://m.dt.co.kr/contents.html?article_no=2023090702109923039003

https://m.dt.co.kr/contents.html?article_no=2023090702109923039003

m.dt.co.kr



정 교수는 목소리만 듣고 합성 여부를 구분하기 어려워진 만큼 당사자들만 알 수 있는 질문으로 본인인지 확인해야 한다고 당부했다. 정 교수는 “본인 확인을 위해 예를 들면 본인들만 아는 질문을 한다든가 서로 대화를 하면 준비가 안 된 답변이라든가 이런 데서는 품질이 떨어질 수도 있고 답변을 못 할 수도 있다”며 “내가 물어본 거에 대해 저쪽이 답변해야 하는데 그 답변이라는 게 실시간으로 음성을 만들어내기는 어렵다“고 말했다.

정 교수는 “문자를 집어넣어 음성을 얼른 합성해 답변할 수 있지만 그 답변 내용을 모를 수도 있고 단어나 이런 것들이 준비가 전혀 안 되고 트레이닝이 잘 안 된 답변 같으면 어색하게 들린다”고 설명했다.

그러면서 “일종의 패스워드 비슷하게 본인들만 아는 거를 (질문해 본인 확인을 거쳐야 한다)”며 “예를 들면 ‘너 누구 맞냐 그러면 너 지난번에 이렇게 했는데 그때 어떻게 했어’(라고) 이런 식으로 (질문)했을 때 저쪽에서는 답을 모르면 답할 수 없을 것”이라고 설명했다.(기사中)

딸 목소리 분명한데…딥보이스 피싱엔 “둘만 아는 질문을” 2023.09.20
https://m.hani.co.kr/arti/society/society_general/1109297.html#cb

딸 목소리 분명한데…딥보이스 피싱엔 “둘만 아는 질문을”

☞한겨레 뉴스레터 H:730 구독하기. 검색창에 ‘한겨레 h730’을 쳐보세요. 인공지능(AI)으로 특정인의 목소리까지 위조하는 보...

www.hani.co.kr



📌《GAN의 원리》그림을 만드는 생성자(Generator)와 그림이 진짜인지 판독하는 판별자(Discriminator), 이 두 가지의 서로 대립하는 적대적 시스템의 경쟁 학습을 통해 더 나은 결과물을 스스로 생성하는 것이다.

[칼럼]딥페이크의 위험성에 대비하는 방법 2023.09.03
http://m.mdilbo.com/detail/CBIT5x/702021

[칼럼]딥페이크의 위험성에 대비하는 방법

트럼프 가짜 사진과 1위 수상작 스페이스 오페라 극장■김경수의 미디어리터러시딥페이크가 이슈이다. 올해 미국 트럼프 전 대통령이 뉴욕 맨해튼에서

www.mdilbo.com


📌 딥페이크(Deepfake)란 인공지능의 핵심 기술인 딥러닝(Deep Learning)과 가짜(Fake)의 합성어로 인물 사진이나 영상 자료를 이용해 특정 얼굴이나 신체 등을 합성하는 AI 컴퓨터그래픽 기술이다.딥페이크가 유명해진 계기는 2017년 트럼프 대통령의 '하바나(Havana)' 노래이다.

📌 딥페이크의 시작은 2017년 미국의 '레딧'이라는 온라인 커뮤니티에 'Deepfakes'라는 아이디의 회원이 음란물에 미국 유명 여배우를 합성한 영상으로 알려져 있다.



포르노부터 금융 사기까지...AI가 낳은 부작용 '딥페이크' 막을 방법은? 2021.04.08
https://www.aitimes.com/news/articleView.html?idxno=137840

포르노부터 금융 사기까지...AI가 낳은 부작용 '딥페이크' 막을 방법은? - AI타임스

\"보이는 게 다가 아니다. 무조건 의심하라\" 눈에 보이는 것을 그대로 믿을 수 없는 세상이 됐다. 딥페이크(Deep Fake) 영향이다.딥페이크는 딥러닝(Deep Learning) 기술과 페이크(Fake)의 합성어다. ...

www.aitimes.com


"보이는 게 다가 아니다. 무조건 의심하라"



도움이 되셨길 바라고 공감하는 분은 나가시면서 왼쪽 아래 ❤ 한번 눌러주시면 감사하겠습니다.

728x90
반응형
LIST