AI를 이용한 사기: 사기꾼들이 생성 AI를 악용하는 방법

TRM Lab의 오픈 소스 사기 신고 플랫폼인 Chainabuse의 데이터에 따르면, 2024년 5월부터 2025년 4월까지 생성 인공지능(genAI)을 이용한 사기 신고는 2023~24년 같은 기간에 비해 456% 증가했으며, 이는 이미 2022~23년에 비해 78% 증가했던 수치입니다. 이는 지난 몇 년 동안 genAI 도구의 폭발적인 증가로 인해 AI를 이용한 사기가 급증했음을 보여줍니다.

이러한 도구를 통해 악의적인 공격자는 사람과 유사한 텍스트, 코드, 이미지, 동영상을 대규모로 제작할 수 있습니다. 이 기술은 2025년 2월에 발표된 "인공지능을 이용한 범죄의 부상" 보고서에서 자세히 설명한 것처럼 보다 그럴듯한 피싱 미끼를 만들거나 갈취를 위한 딥페이크 생성 등의 활동에 사용되고 있습니다.

이 글에서는 체인어뷰스의 사례와 자체 조사를 통해 사기꾼들이 AI를 배포하는 가장 일반적인 방법을 살펴봅니다. 

‍

{{horizontal-line}}

주요 요점

• 사기꾼들은 점점 더 딥페이크와 대규모 언어 모델(LLM)과 같은 생성 AI(genAI) 도구를 사용하여 더욱 그럴듯한 페르소나를 만들고 유명인을 사칭하고 있습니다. 이러한 기술을 통해 사기 수법은 더욱 합법적으로 보이고 탐지하기 어려워집니다.
  
• 딥페이크 활용 사기는 가장 흔히 보고되는 AI 스캠 유형입니다. 여기에는 엘론 머스크와 같은 유명 인사의 조작된 동영상을 이용한 가상자산 사기가 포함됩니다. 라이브 딥페이크는 이러한 사기를 특히 탐지하기 어렵게 만들고 있습니다.
  
• 사람의 감독이 제한적인 AI 에이전트는 사기의 규모와 정교함을 가속화하고 있습니다. 사기범들은 다양한 플랫폼에서 사람들에게 접근하고, 웹에서 개인 데이터를 수집하여 맞춤형 사기를 일으키고, LLM 기반 챗봇과 가짜 헬프 데스크를 구축하는 데 AI 에이전트를 사용합니다.
  
• 범죄자들이 AI를 악용하고 있지만, 이와 같은 도구를 활용하여 반격할 수도 있습니다. 다음과 같은 블록체인 인텔리전스 플랫폼 TRM Labs 과 같은 블록체인 인텔리전스 플랫폼은 AI를 통합하여 수사관이 자금을 더 빠르게 추적하고, 스마트 계약을 분석하고, 새로운 사기 유형을 탐지할 수 있도록 지원합니다. AI 기반 사기에 대응하기 위해서는 금융 기관, 규제 기관, 법 집행 기관, 정보 제공업체의 조율된 대응이 필요합니다. 

‍

{{horizontal-line}}

사기꾼이 AI를 사용하는 방법 

TRM은 AI를 사용하는 사기꾼을 관찰했습니다:

1. 딥페이크 가상자산 사기 생성
2. 딥페이크 CEO 사칭 사기 만들기
3. LLM을 통한 가짜 페르소나 생성
4. 운영 자동화 및 개선

1. 딥페이크 가상자산 사기

딥페이크 사기는 가장 일반적으로 보고되는 AI 기반 사기 유형이며, 가상자산 사기가 가장 흔한 사용 사례 중 하나입니다. 특히, 체인버즈 사용자들은 고전적인 "비트코인 두 배 스캠"의 genAI 기반 버전을 신고했습니다. 

스캠 원래 버전은 악의적인 행위자가 인기 있는 유튜브 채널을 해킹한 후 이름을 바꿔 가상자산 커뮤니티의 유명 인사들의 실제 인터뷰를 스캠 웹사이트와 겹쳐서 스트리밍하는 방식입니다. 이 동영상에 등장하는 유명 인사로는 엘론 머스크, 리플 CEO 브래드 갈링하우스, 마이크로스트레티지 CEO 마이클 세일러, 아크 인베스트 CEO 캐시 우즈 등 저명한 인물들이 있습니다. 

적어도 2024년 중반부터 딥페이크의 도움을 받아 더 정교한 버전의 스캠 등장했습니다. 사기범들은 주로 엘론 머스크와 같은 특정 인물의 딥페이크를 사용하여 투자금을 두 배로 돌려준다는 등의 특정 스캠 웹사이트를 홍보하는 것처럼 보이게 합니다. 

2024년 6월, 또 다른 체인어뷰스 사용자가 유튜브에서 일론 머스크를 사칭한 딥페이크 경품 스캠 인해 자금을 잃었다고 신고했습니다. TRM의 분석에 따르면 신고된 주소는 약 20분 이내에 여러 피해자로부터 자금을 받은 것으로 보이며, 아마도 유튜브에서 라이브 스트리밍이 진행 중일 때인 것으로 보입니다. 

해당 주소로 송금된 자금은 다양한 목적지로 이동하지만 주로 몇몇 대형 거래소, 특히 MEXC로 이동합니다. 이 피해자를 사취한 사기범들은 2024년 3월부터 2025년 1월 사이에 최소 5백만 달러를 받았습니다. TRM은 또한 두 개의 다크넷 시장과 한 사이버 범죄 단체로 소액의 자금이 전송되는 것을 관찰했습니다.

2023년 11월의 또 다른 체인어뷰스 보고서에 따르면 엘론 머스크 딥페이크가 사용자에게 AI 기반 거래 플랫폼에 투자하도록 유도했다고 합니다. 또한 사기범은 자금을 MEXC로 송금했으며 2023년 7월부터 2024년 2월까지 330만 달러 이상을 받은 것으로 추정됩니다.

이러한 사례는 사기꾼들이 유명인에 대한 대중의 신뢰를 악용하여 피해자를 사회적으로 조작하는 방법을 보여줍니다. 딥페이크는 악의적인 행위자가 실제 유명인이 암호화폐를 지지하는 것과 구별하기 어려운 매우 사실적인 동영상을 제작할 수 있게 해줍니다. 

2. 딥페이크 사칭 사기

딥페이크가 사기에 이용되는 것은 유명 인사뿐만이 아닙니다. 점점 더 많은 사기꾼들이 딥페이크를 사용하여 회사 경영진은 물론 일반인을 사칭하고 있습니다. 

라이브 영상 통화에서 자신의 얼굴 위에 다른 사람의 얼굴을 오버레이하는 라이브 딥페이크는 이러한 사기에 새롭고 정교한 요소를 추가했습니다. 이 기술은 범죄자가 피해자에 대한 대량의 데이터를 수집할 필요가 없습니다. 이제 사기범들은 몇 초의 영상이나 오디오를 기반으로 사람의 목소리나 이미지를 복제할 수 있습니다. 2024년 2월, 홍콩의 한 다국적 기업은 직원이 이 기능을 이용해 회사 임원을 사칭한 사기범과 화상 통화를 한 후 수백만 달러를 사기당한 것으로 알려졌습니다.

또 다른 일반적인 스캠 범죄자들이 피해자의 목소리를 변조한 후 가족에게 연락하여 문제가 생겨 돈이 필요하다며 피해자를 사칭합니다. 아시아에서 가장 흔한 유사한 스캠 경우, 위협 행위자는 피해자의 친구나 친척을 사칭하여 부탁이 있다며 도움이 필요하다고 말하거나 자신이 돈을 벌었다고 주장하는 사기에 투자하도록 피해자를 부추깁니다.

TRM은 또한 사기꾼들이 금융 그루밍 사기(일반적으로 다음과 같이 불리는 장기 사기 수법)에 라이브 딥페이크를 사용하는 증거를 발견했습니다. 돼지도살). 또한, 금융 그루밍 사기와 투자 스캠 통해 딥페이크 서비스 제공자에게 가상자산 지급되는 것을 관찰했습니다. 

이는 사기꾼들이 이러한 서비스를 이용해 사기를 벌이고 있을 가능성이 높다는 것을 의미합니다. 서비스형 딥페이크, 더 넓게는 서비스형 AI의 급증은 조직 범죄자들이 이 기술에 대한 수요가 증가하고 있음을 나타냅니다.

TRM은 금융 그루밍 사기범으로 추정되는 사람과의 화상 통화 중에 라이브 딥페이크가 사용되는 것을 또 한 번 목격했습니다(아래 참조). 이 사기범의 부자연스러운 헤어라인으로 보아 딥페이크 기술을 사용한 것으로 의심됩니다. AI 탐지 도구를 통해 해당 이미지가 AI가 생성한 것일 가능성이 높다는 판단을 확인할 수 있었습니다. 이 특정 스캠 및 이와 관련된 다른 사기범들은 대부분 이더리움으로 최소 6천만 달러를 받았으며, 이는 이러한 사기 행위로 인한 잠재적인 금전적 이득을 나타냅니다.

현실 점검

genAI가 사기에 널리 사용됨에 따라 대중도 불법적인 목적으로 사용되는 것에 대해 더 많이 인식하게 될 것입니다. 잠재적인 피해자들의 두려움을 완화하고 더 진짜처럼 보이기 위해, 특히 연애 관련 사기에 연루된 사기꾼들은 AI와 함께 실제 사람들을 사용하고 있습니다.

예를 들어, TRM은 캄보디아의 한 여성이 텔레그램에서 잠재적인 스캠 및 온라인 카지노 모집자들에게 "실제 얼굴 모델"이 아닌 "AI 모델"로 자신의 서비스를 광고한 증거를 발견했습니다. 이러한 작업에서 사기범들은 모델 중 한 명과 피해자를 위한 영상 통화를 설정합니다. 사기범들은 딥페이크 기술을 사용하여 더 매력적으로 보이거나 특정 인물과 닮도록 외모를 변경합니다. 

3. LLM을 통한 가짜 페르소나 생성

딥페이크는 점점 더 정교해지고 있지만, 지금까지는 텍스트 기반 genAI보다 탐지하기가 더 쉬웠습니다. 사기꾼들은 점점 더 LLM을 사용하여 사기 수법을 강화하고 있습니다. 

LLM은 돼지도살 같은 장기 사기 행각을 벌이는 사기꾼에게 특히 유용하며, 이러한 도구를 통해 악의적인 행위자는 사기 행각을 벌일 수 있습니다:

• 사람의 감독 필요성 감소 및 운영 피로도 최소화
• 가짜 페르소나를 생성하여 피해자와의 신뢰 구축
• 문화적 또는 지역적 맥락을 개선하여 보다 합법적으로 보이도록 메시지를 맞춤화하세요.
• 대규모로 설득력 있는 피싱 메시지 생성(2025년 3월 , KnowBe4는 2024년에 분석한 피싱 이메일 중 최소 73.8%가 AI를 사용했다는 보고서를 발표했습니다 ).
• 텍스트를 대상 언어로 더 빠르고 유창하게 번역하세요.

이 마지막 점을 증명하기 위해 TRM은 중국어 간체와 영어로 소통하기 위해 LLM을 사용하는 사기꾼을 발견하기도 했습니다.

AI가 생성한 CEO 및 직원 아바타

LLM을 통해 사기꾼이 더 합법적으로 보이도록 하는 것과 마찬가지로, 웹사이트에 CEO 또는 직원 팀의 이미지를 올리는 것만으로도 피해자와의 신뢰를 구축하는 데 도움이 될 수 있습니다. 예를 들어, 2024년 최대 다단계 사기 중 하나인 메타맥스(MetaMax)는 AI로 생성된 CEO를 사용한 것으로 보입니다. 

다른 다단계 및 폰지 사기와 마찬가지로 메타맥스는 사용자가 소셜 미디어의 콘텐츠에 참여하면 상당한 투자 수익을 얻을 수 있다고 주장했습니다. 이 사기는 제3자를 통해 AI로 생성된 아바타를 만들어 전 세계, 특히 필리핀의 피해자들을 대상으로 약 2억 달러에 가까운 자금을 유치했습니다.

또한, 투자 스캠 사이트인 babit[.]cc는 기존 사기 사이트처럼 실제 사람의 이미지를 사용하는 대신 직원으로 추정되는 아바타를 만들었습니다. 이 페이지(아래 참조)를 언뜻 보면 AI가 생성한 것일 가능성이 높습니다. 그러나 기술이 발전하고 이미지가 점점 더 사실적으로 변함에 따라 이러한 AI 사용을 탐지하는 것은 더욱 어려워질 것입니다.

4. AI 에이전트가 사기 운영을 개선하고 자동화하는 방법

AI 에이전트는 합법적인 활동과 불법적인 활동 모두에서 혁신적인 발전으로 떠오르고 있습니다. 반응형 AI 모델과 달리 높은 수준의 자율성을 가지고 작동하며 작업을 시작하고 의사 결정을 내릴 수 있으며, 워크플로우의 다양한 단계에 genAI를 통합하는 경우가 많습니다. 

예를 들어, 기업에서 AI 에이전트를 만들 수 있습니다:

• 받은 편지함에서 읽지 않은 모든 이메일 스캔하기
• 각 메시지를 분류합니다(예: 가격 쿼리 대 배송 상태 쿼리).
• 충분한 정보가 확보되면 자동으로 응답
• 추가 입금 필요한 경우 사람에게 메시지를 에스컬레이션하다 .

마찬가지로 사기꾼은 AI 에이전트를 사용하여 조직을 구성하고, 규모를 확장하고, 운영을 더 효율적으로 만들 수 있습니다. 악의적인 공격자는 에이전트를 사용하여 대상의 직업, 위치, 관심사, 최근 구매 및 소셜 미디어 상호 작용과 같은 공개 데이터를 스크랩하여 개인화된 사기를 만들 수 있습니다. 또한 LLM 기반 챗봇과 가짜 헬프 데스크를 구축하고 에이전트를 활용하여 사용자의 온라인 상태를 요약하고 전반적인 감정을 분석하여 취약한 사람들을 대규모로 찾아낼 수 있습니다.

사기범들은 AI 에이전트를 사용하여 여러 플랫폼에서 홍보, 번역, 커뮤니케이션을 자동화할 가능성이 높습니다. 이러한 도구는 또한 악의적 행위자가 프로그래밍 방식의 자금 세탁 프로세스를 구축하고, 스캠 스크립트 결과를 대규모로 검토하여 스캠 전략을 최적화하고, 피해자 페르소나 에이전트를 사용하여 새로운 스캠 기법을 테스트하는 데 도움이 될 수 있습니다.

내장된 안전 장치에도 불구하고 사기꾼은 이를 우회하기 위해 genAI 모델을 조작할 가능성이 높습니다. 예를 들어, 연구원으로 위장하여 사기 목적의 프로세스 구축에 대한 도움을 요청함으로써 제한된 GPT로부터 사기 관련 조언을 얻을 수 있습니다. 이를 설명하기 위해 TRM은 사기꾼이 AI 에이전트를 사용하여 워크플로를 개선하는 방법을 ChatGPT에 문의했습니다. 이에 대한 답변은 다음과 같습니다:

{{horizontal-line}}

AI가 AI 기반 사기를 탐지하고 차단하는 방법

AI를 이용한 사기를 막으려면 기술 솔루션, 정책 및 규제 조치, 대중 교육, 협업을 포함한 다각적이고 미래 지향적인 접근 방식이 필요합니다. 전 세계의 정책 입안자들은 AI의 혁신을 장려하는 동시에 이 혁신적인 기술을 악용하려는 불법 행위자들의 위험을 완화하는 규제 환경을 조성하기 위해 노력하고 있습니다.

AI 기반 사기의 위험성을 대중에게 교육하는 것은 이를 완화하는 데 필수적입니다. Federal Bureau of Investigation (FBI)( )과 유로폴(Europol )과 같은 기관은 대중에게 genAI의 위험성을 알리는 캠페인에 투자하고 있습니다. 인식은 취약성을 줄이고 개인이 사기 행위가 확대되기 전에 이를 인지하는 데 도움이 됩니다.

금융 기관, 규제 기관, 법 집행 기관, 정보 제공자들도 이러한 위협에 대처하기 위해 협력해야 합니다. 따라서 다음과 같은 블록체인 인텔리전스 도구가 도움이 될 수 있습니다. TRM Labs 과 같은 블록체인 인텔리전스 도구는 수사관에게 AI 기반 도구를 제공하여 수사를 가속화할 수 있는 역량을 강화하고 있습니다. AI 기술과 도구는 선입선출(LIFO) 또는 선입선출(FIFO) 경로를 따라 더 빠르게 추적하고, 조사 그래프의 요약을 작성하고, 온체인에서 새로운 범죄 행동 패턴을 발견하는 데에도 사용할 수 있습니다.

TRM의 블록체인 인텔리전스 플랫폼:

• 머신 러닝과 온체인 분석을 결합하여 난독화 기술을 사용하는 경우에도 범죄 유형을 탐지합니다.
• 금융 기관 및 법 집행 기관을 위한 실시간 모니터링 및 위험 우선순위 지정 기능 제공
• AI를 활용하여 스마트 컨트랙트의 잠재적 문제를 자동으로 분석하거나 이더리움의 프로그래밍 언어인 솔리디티를 일반 언어로 번역하여 컨트랙트의 기능을 이해합니다.

TRM은 블록체인 인텔리전스 도구에 AI를 내장함으로써 조직이 위협을 더 빠르게 탐지하고, 더 효과적으로 대응하며, 진화하는 사기 위협 환경에 대한 복원력을 구축할 수 있도록 지원합니다. 사기 대응팀은 AI를 도구 키트에 통합하여 방어를 강화하고 AI를 이용한 사기를 예방 및 조사할 수 있는 최상의 기회를 확보해야 합니다.