OpenAI, 캄보디아 기반 사기 작전 차단 성공

소개

올해 초, OpenAI는 캄보디아를 기반으로 한 사기 작전을 차단하는 데 성공했습니다. 이 작전은 ChatGPT를 활용하여 투자, 로맨스, 도박, 법 집행 기관 사칭 등의 사기 수법을 지원했습니다. 우리는 WhatsApp의 동료들로부터 정보를 받아 이 활동을 조사하기 시작했으며, 이후 관련 업계 파트너 및 당국과 추가적인 위협 신호를 공유했습니다.

이 작전은 현대 사기 네트워크의 중요한 현실을 보여줍니다. 조직화된 범죄 그룹은 드물게 단일 유형의 사기에만 국한되지 않습니다. 대신, 피해자를 속이기 위해 가장 효과적이라고 생각되는 이야기, 인물, 전술을 기회에 맞춰 활용합니다. 우리의 조사에서 우리는 배우들이 사기 유형 간에 이동하거나 단일 작전 내에서 여러 사기 기법을 결합하는 것을 자주 관찰합니다.

네트워크의 일부 사용자들은 인신매매 및 강제 범죄와의 연관성을 시사하는 콘텐츠를 생성하기도 했습니다. 이러한 관찰은 동남아시아에서 합법적인 고용을 약속하며 노동자를 모집한 후 그들을 부채 속박과 강압의 시스템에 가두는 조직 범죄 그룹에 대한 광범위한 공개 보고와 일치합니다. 우리는 관련된 모든 개인의 상황을 독립적으로 판단할 수는 없지만, 이 활동은 사기를 수행하는 사람들이 스스로 착취의 피해자가 될 수 있음을 상기시킵니다.

행위자

이 네트워크는 가짜 온라인 인물을 만들고 운영하기 위해 우리의 모델을 사용했으며, 사기 대상에게 보내는 메시지를 생성하고 번역하며, 그들의 사기 계획을 위한 홍보 콘텐츠를 만들고 일상적인 운영을 지원했습니다.

과거에 우리가 차단한 사기 네트워크와 마찬가지로, 일부 사용자들은 ChatGPT를 행정 업무에도 활용했습니다. 여기에는 내부 공지 작성, 직원 간 메시지 번역, 채용, 이민 상태, 근무 조건, 직원 징계와 관련된 문제 문서화 등이 포함되었습니다.

행동

이 네트워크는 여러 유형의 사기를 동시에 수행하며 종종 다양한 계획의 요소를 혼합했습니다. 예를 들어, 운영자들은 데이팅 인물을 사용하여 신뢰를 쌓은 후 암호화폐 및 금 현물 거래와 관련된 사기성 투자 기회를 소개했습니다. 다른 사용자들은 허구의 정체성을 사용하여 대상과 긴 로맨틱한 대화를 나누거나, 가짜 보너스와 당첨금을 제공하는 온라인 도박 플랫폼의 대표자로 사칭하거나, 심각한 범죄 행위에 대한 벌금을 지불해야 한다고 주장하며 법 집행 기관을 사칭했습니다.

이야기는 다양했지만, 네트워크 전반의 사용자들은 일관되게 기만적인 행동 패턴을 보였습니다. 예를 들어, 그들은 가짜 데이팅 프로필, 허구의 투자 전문가, 사기성 법 집행 인물을 만들고 운영했습니다. 또한 여권, 법적 통지서, 주식 구매 확인서, 도박 플랫폼 인터페이스 등 위조 문서의 이미지를 생성했습니다.

• 핑: 네트워크는 ChatGPT를 사용하여 WhatsApp 및 Telegram과 같은 메시징 플랫폼에서 대상과의 대화를 번역하고 생성했습니다. 사기꾼들은 또한 소셜 미디어 콘텐츠를 만들고 가짜 인물을 지원하기 위한 데이팅 프로필 자료를 조사했습니다.
• 징: 사기꾼의 메시지는 종종 감정적 압박과 신뢰 구축 기술에 의존했습니다. 예로는 보장된 수익과 "무위험" 투자 약속, 로맨틱한 언어, 대화를 비밀로 유지하라는 지시, 허구의 보너스가 만료되기 전에 조치를 취하라는 긴급 요청 등이 포함되었습니다.
• 스팅: 사기꾼들은 피해자에게 보상을 잠금 해제하기 위해 입금을 하거나, 활성화 수수료를 지불하거나, 허구의 벌금을 정산하도록 지시한 후, 지불 증거로 송금 내역이나 계좌 정보를 제공하도록 요구했습니다.

인신매매 지표

사기 외에도, 일부 사용자는 인신매매나 강제 노동과 같은 위반 활동에 연루된 것을 시사하는 콘텐츠를 생성했습니다. 여기에는 항공편, 숙박, 식사, 비자, 근로 허가를 약속하는 Poipet의 "채터" 직업에 대한 소셜 미디어 광고 생성이 포함되었습니다.

다른 활동은 작전 내부의 노동자 관리와 관련된 것으로 보였습니다. 사용자들은 직원의 부채, 급여 공제, 징계 벌금, 대출 상환 기록을 유지하고, 이민 상태, 근로 허가, 비자 초과 체류 및 채용 인센티브에 대한 논의를 번역했습니다.

일부 대화에서는 구금, 탈출 시도, 사기 작전에서 일하도록 강요받은 사람들의 잠재적인 형사 책임에 대한 언급도 있었습니다. 이러한 대화는 특정 개인의 상황을 판단할 수는 없지만, 동남아시아의 조직 범죄 그룹의 활동을 설명하는 광범위한 공개 보고와 일치합니다.

영향

우리는 이 작전과 관련된 ChatGPT 계정을 차단하고, 관련 지표를 업계 파트너 및 관련 당국과 공유했으며, 이러한 행위자들이 우리의 제품과 서비스에 다시 접근하기 어렵게 만들기 위한 조치를 취했습니다.

네트워크와 관련된 재정적 손실의 전체 규모는 알려지지 않았지만, 사기꾼들의 자체 커뮤니케이션에 따르면 이 작전은 여러 사기 유형에 걸쳐 수백 명의 대상과 상호작용했을 수 있습니다. 사용자 대화에서는 개별 피해자가 수천 달러를 잃었다는 언급이 있었지만, 우리는 이러한 주장을 독립적으로 확인할 수 없습니다.

더 넓게 보면, 이 사례는 두 가지 경향을 강화합니다. 첫째, 조직화된 사기 네트워크는 여러 사기 계획을 동시에 운영할 수 있는 높은 다양성을 가지고 있으며, 단일 사기 유형에만 좁게 국한되지 않습니다. 둘째, 온라인 사기, 조직 범죄, 인신매매 간의 경계는 종종 모호합니다. 효과적인 차단은 피해자에게 직접적인 사기 활동뿐만 아니라 이를 조직하고 이익을 얻는 범죄 조직을 대상으로 해야 합니다.