2025년 어느 날, 프랑스 정부가 이스라엘에 공식 해명을 요청했습니다. 상대는 BlackCore라는 이스라엘 민간 기업이었고, 혐의는 프랑스 선거에 대한 조직적 여론 조작이었습니다. 같은 시기 뉴욕에서도 비슷한 흔적이 포착됐습니다. 뉴욕 시장 선거에서 특정 후보를 향한 "반유대주의자"라는 낙인이 온라인에 집중적으로 퍼졌는데, 정작 오프라인 현장에서는 그 분위기가 전혀 감지되지 않았다는 목격담이 나왔습니다. 온라인과 오프라인의 온도 차이 — 이것이 조작의 가장 고전적인 신호입니다.
BlackCore가 특별히 새로운 회사는 아닙니다. 이 회사는 이미 30개국 이상의 선거에 개입했다고 스스로 내세운 전력이 있습니다 (France 24, 2023년 보도). 그리고 같은 이름이 가짜 가자지구 인도주의 펀드를 운영하며 기부금을 가로챘다는 의혹과도 연결됩니다. 한 기업이 선거 개입, 여론 조작, 자선 사기를 동시에 연결고리로 묶고 있다는 점이 이 사건을 단순한 해킹이나 스파이 스캔들과 다르게 만듭니다. BlackCore는 종종 이스라엘 정보 기관 출신 전직 요원들로 구성된 또 다른 기업 Black Cube (Harvey Weinstein 피해자들을 상대로 역공작을 펼친 것으로 알려진 회사)와 혼동되기도 하는데, 두 회사가 별개라는 사실 자체가 이 산업의 규모를 보여줍니다. 민간 여론 조작 기업이 이미 여러 개 존재할 만큼 시장이 형성돼 있다는 뜻이니까요.
그렇다면 왜 지금 이 사건이 수면 위로 올라왔을까요. 핵심은 AI의 개입입니다. 이전까지의 여론 조작은 사람이 일일이 계정을 만들고 글을 써야 했습니다. 비용이 높고 속도가 느렸죠. 그런데 대형 언어 모델(LLM — 사람처럼 자연스러운 문장을 생성하는 AI) 기술이 상용화되면서 상황이 달라졌습니다. 이제는 수천 개의 가짜 계정이 각각 다른 말투, 다른 배경 이야기, 다른 게시 패턴을 갖고 동시에 움직일 수 있습니다. 탐지 알고리즘이 "비슷한 문장을 반복하는 계정"을 잡도록 설계돼 있다면, AI는 아예 문장을 매번 다르게 생성해서 그 기준을 비껴갑니다. 추적하는 속도보다 노이즈를 만드는 속도가 훨씬 빠른 구조가 된 겁니다.
프랑스 정부가 이스라엘에 해명을 요청하는 외교적 행동을 택했다는 것, 그리고 슬로베니아가 EU에 같은 회사의 선거 개입에 대한 도움을 구했다는 보도가 나왔다는 것 — 이 두 가지 사실은 단순한 기업 스캔들이 아니라 국가 간 문제로 번지고 있음을 보여줍니다. AI 여론 조작은 더 이상 "기술 뉴스" 섹션의 이야기가 아닙니다. 한 기업의 서버에서 만들어진 가짜 내러티브가 실제 선거 결과에 영향을 줄 수 있는 시대가 됐고, 그 조작이 실제로 어떤 방식으로 작동하는지를 이해하는 것이 이 사건을 제대로 읽는 출발점입니다.
선거 조작이 처음부터 AI 기술 이야기였던 건 아닙니다. 훨씬 오래전부터 이 산업은 존재했고, 지금 BlackCore 같은 기업들은 그 계보의 최신 버전입니다.
이 흐름을 이해하려면 2018년 미국 상원 청문회까지 거슬러 올라가야 합니다. 당시 폭로된 기업이 Cambridge Analytica입니다. 영국에 본사를 둔 이 데이터 분석 회사는 페이스북 사용자 약 8,700만 명의 개인정보를 동의 없이 수집해, 2016년 미국 대선과 브렉시트 국민투표에서 유권자 성향 분석에 활용했습니다. 쉽게 말하면, "이 사람은 이민 이슈에 민감하다"는 걸 데이터로 파악한 뒤, 그 사람에게만 맞춤형 공포 메시지를 보내는 방식이었습니다. 마치 쇼핑몰이 검색 기록을 보고 광고를 띄우는 것과 구조는 같은데, 상품 대신 정치 프레임을 팔았던 겁니다. Cambridge Analytica는 스캔들 이후 폐업했지만, 창업자 일부는 곧바로 유사 기업을 재설립했습니다.
같은 시기에 다른 계열의 회사들도 활동하고 있었습니다. CLS Strategies는 미국 워싱턴 D.C. 기반의 로비·홍보 회사인데, 2019년 페이스북이 이 회사와 연결된 계정 네트워크를 삭제하면서 수면 위로 떠올랐습니다. 아제르바이잔, 멕시코, 볼리비아 등의 선거에 개입했다는 의혹을 받았습니다. 특이한 점은 이 회사가 겉으로는 완전히 합법적인 PR 에이전시처럼 운영됐다는 것입니다. 선거 컨설팅이라는 정상적인 사업 위에 가짜 계정 운영이라는 비밀 레이어를 얹어놓은 구조였습니다. New Knowledge는 또 다른 사례입니다. 이 미국 기업은 러시아발 허위정보를 탐지하는 사이버보안 회사를 표방하면서, 동시에 2017년 앨라배마 상원 보궐선거에서 직접 가짜 소셜 계정을 운영한 것으로 드러났습니다. 조작을 막는다는 회사가 조작을 했다는 사실 자체가, 이 산업의 민낯을 가장 선명하게 보여주는 사례입니다.
여기서 이스라엘 기업들의 역할을 빼놓을 수 없습니다. 소스에서 언급된 것처럼, 이스라엘에는 IDF(이스라엘 방위군) 출신 사이버·심리전 전문가들이 민간 시장으로 나와 세운 기업들이 유독 많습니다. Percepto International(이전 명칭 Interop)이라는 이스라엘 회사는 2023년 프랑스 매체 France 24 보도에서 "30개국 이상의 선거에 개입했다"고 스스로 자랑했다는 사실이 알려졌습니다. 내부 문서와 직원 인터뷰를 통해 드러난 이 회사의 수법은 가짜 지역 언론사 사이트 생성, 소셜 미디어 인플루언서 매수, 위키피디아 항목 수정까지 포함하고 있었습니다. BlackCore는 이 계보에서 더 진화한 버전으로 등장했습니다. 앞선 회사들이 주로 사람 손으로 콘텐츠를 만들었다면, BlackCore는 AI를 활용해 생산 속도와 규모를 비약적으로 늘린 것으로 알려져 있습니다.
이 산업의 성장 패턴에는 일정한 공통점이 있습니다.
- 항상 합법적인 서비스 — 디지털 마케팅, 여론 분석, 위기관리 PR — 뒤에 숨어 운영됩니다.
- 한 기업이 폭로되거나 폐업해도 핵심 인력이 새 회사를 세우며 산업이 이어집니다. Cambridge Analytica 사례가 정확히 그랬습니다.
- 의뢰인이 정부인 경우가 많아 수익이 안정적입니다. 용병 기업에 돈을 주는 쪽이 국가 권력이라면, 적발되더라도 법적 책임 소재가 불분명해집니다.
프랑스가 BlackCore 문제를 이스라엘 정부에 외교적으로 해명을 요청한 것도 이 구조 때문입니다. 기업 하나를 기소하는 것과 국가를 상대하는 것은 전혀 다른 차원의 문제입니다.
이 기업들이 실제로 어떤 기술을 쓰는지 — 가짜 계정을 어떻게 만들고, 유령 기사를 어떻게 유통시키며, 위키피디아 같은 신뢰도 높은 플랫폼을 어떻게 오염시키는지 — 는 계보를 아는 것보다 훨씬 구체적인 이야기입니다.
조작 작전은 보통 세 개의 레이어로 움직입니다. 각각이 따로 노는 것처럼 보이지만, 실제로는 하나의 파이프라인처럼 연결되어 있습니다.
| 레이어 | 명칭 | 핵심 수법 |
|---|---|---|
| 1단계 | 씨앗 뿌리기 | AI 생성 가짜 계정 네트워크(봇 팜) 운영 |
| 2단계 | 증폭 | 유령 필자 기사 → 봇 공유 → 알고리즘 노출 확대 |
| 3단계 | 정당화 | 위키피디아 무단 편집 → 구글 검색 결과 오염 |
첫 번째 레이어인 씨앗 뿌리기는 가짜 계정 네트워크에서 시작됩니다. 업계에서는 이걸 '봇 팜(bot farm)'이라고 부르는데, 그냥 한 명이 수백 개의 계정을 동시에 운영하는 구조라고 생각하면 됩니다. 예전에는 이 계정들이 금방 티가 났습니다. 가입일이 같고, 팔로워가 없고, 프로필 사진이 어색한 AI 생성 얼굴이었으니까요. 그런데 지금은 다릅니다. 생성형 AI(사람처럼 텍스트를 만들어내는 AI)를 쓰면 계정마다 다른 말투, 다른 관심사, 다른 과거 게시물 이력을 심어넣을 수 있습니다. BlackCore 관련 조사에서도 드러났듯, 이 계정들은 몇 달 동안 평범한 일상 글을 올리다가 선거 시즌이 되면 갑자기 특정 후보 공격 메시지를 퍼뜨리기 시작합니다. 뉴욕시 민주당 경선에서 마무두 마마다니(Zohran Mamdani) 후보를 향한 "반유대주의자" 프레이밍이 온라인과 오프라인에서 온도 차가 너무 컸다는 현지 주민들의 증언도 이 패턴과 맞닿아 있습니다.
두 번째 레이어는 유령 기사 유통입니다. 가짜 계정이 SNS에서 떠드는 것만으로는 신뢰도가 낮습니다. 그래서 이 작전들은 반드시 '언론 기사처럼 보이는 것'을 만들어냅니다. 실제로 존재하는 군소 뉴스 사이트를 미리 사들이거나, 아예 새로 만들어서 기사를 올립니다. 필자 이름은 실존 인물처럼 생겼지만 검색해봐도 아무것도 안 나오는 유령입니다. 이 기사가 올라가면 봇 네트워크가 즉시 공유합니다. 그러면 알고리즘은 "많이 공유되는 콘텐츠"로 인식해서 더 많은 사람에게 노출시킵니다. 가짜가 가짜를 증폭하는 피드백 루프가 생기는 겁니다. Meta의 2019년 보고서에 따르면, 이런 방식으로 운영된 계정 하나가 삭제되기 전까지 평균 38만 팔로워를 모은 사례도 있었습니다.
세 번째 레이어가 가장 교묘합니다. 위키피디아 같은 '중립적 정보원'을 건드리는 방식입니다. 위키피디아는 누구나 편집할 수 있는 구조입니다 (물론 내부 검토 시스템이 있지만, 소규모 편집은 수백만 건이 동시에 일어나서 전부 검토하기 어렵습니다). 특정 정치인 항목에 슬쩍 부정적인 문장 하나를 끼워넣거나, 각주로 달린 출처를 조용히 바꿔치기하면, 그 내용이 구글 검색 결과 상단 요약에 그대로 뜹니다. 사람들은 위키피디아를 '어느 정도 신뢰할 수 있는 중립 정보'로 인식하기 때문에, SNS 게시물보다 훨씬 강한 인상을 남깁니다.
"Israeli firm BlackCore is also suspected of meddling in NYC, Scotland votes, French elections" — Reuters, 2026년 6월
세 레이어가 동시에 돌아가면 어떻게 보일까요. 위키피디아에 편집된 내용이 → 유령 기사에 인용되고 → 봇 계정이 그 기사를 퍼뜨리면서 "위키피디아에도 이렇게 나와 있다"고 강조합니다. 각각은 별개의 출처처럼 보이지만, 사실 하나의 작전이 만들어낸 자기 참조 루프입니다. 외부에서 보면 여러 독립적인 정보원이 같은 이야기를 하는 것처럼 느껴집니다. 이걸 '정보 생태계 오염'이라고 부르는데, 한 번 심어지면 원래 출처를 추적해서 반박하는 것이 무척 번거로운 작업이 됩니다. 그렇다면 Meta나 트위터 같은 플랫폼은 이 구조를 어떻게 발견해내는 걸까요.
Meta가 이런 작전을 적발할 때 쓰는 공식 개념이 있습니다. CIB(Coordinated Inauthentic Behavior), 우리말로 옮기면 '조율된 비진정 행동'입니다. 쉽게 말하면 "실제 개인처럼 행동하는 척하면서, 뒤에서 누군가가 짜고 치는 계정들의 집합적 움직임"을 뜻합니다. Meta가 이 개념을 처음 공개 보고서로 발표한 게 2018년인데, 그 이후로 지금까지 적발 건수가 200건을 넘었습니다. 나라별로는 이란, 러시아, 중국이 상위권이고, 이스라엘도 여러 차례 이름을 올렸습니다.
탐지 과정은 콘텐츠(무슨 말을 하는가)보다 행동 패턴(어떻게 움직이는가)에 집중한다는 점이 핵심입니다. 탐지 시 주요 확인 지표는 다음과 같습니다.
- 계정이 어느 시간대에 일제히 로그인하는지
- IP 주소나 기기 식별자가 겹치는지
- 프로필 사진이
GAN(AI가 생성한 얼굴 이미지, 존재하지 않는 사람의 얼굴을 합성하는 기술)으로 만들어진 건지 - 계정 생성일과 첫 활동 시점의 간격
- 팔로워 증가 곡선의 이상치
여기에 계정 생성일과 첫 활동 시점의 간격, 팔로워 증가 곡선의 이상치 같은 지표를 겹쳐서 '클러스터(묶음)'를 만들어냅니다. 개별 계정이 아니라 계정 집단 전체의 움직임을 하나의 단위로 분석하는 겁니다.
여기서 외부 연구 기관이 결정적인 역할을 합니다. Graphika는 소셜 네트워크 지도를 그리는 회사인데, 계정 간 팔로우·리트윗 관계를 시각화해서 정상적인 소셜 그래프와 인위적으로 조성된 그래프의 형태 차이를 찾아냅니다. 자연스럽게 형성된 커뮤니티는 느슨하고 불규칙한 연결망을 갖는 반면, 조작 계정 묶음은 특정 허브 계정을 중심으로 지나치게 균일하게 연결되는 경향이 있습니다. 스탠퍼드 인터넷 관측소(Stanford Internet Observatory, 줄여서 SIO)는 여기에 콘텐츠 분석을 더합니다. 기사 URL이 어떤 경로로 퍼졌는지, 처음 공유한 계정이 누구인지, 번역 패턴이 자연스러운지 등을 추적해서 '정보 흐름의 역방향 지도'를 만드는 방식입니다. BlackCore 관련 조사에서도 이 두 기관의 방법론이 언론사와 공동으로 활용됐습니다.
Twitter(현 X)는 2019년부터 적발된 국가 연계 조작 계정 데이터를 연구자에게 공개하는 정책을 운영했습니다. 총 공개된 계정 수가 수십만 개에 달하는데, 이 데이터셋이 Graphika와 SIO 같은 곳의 분석 재료가 됩니다. 문제는 플랫폼이 데이터를 공개하는 속도보다 새 작전이 시작되는 속도가 훨씬 빠르다는 점입니다. 탐지 기법이 공개되면 조작 운영자들이 그 기법을 피하도록 수법을 바꿉니다. GAN 얼굴 탐지기가 등장하자 실제 인물 사진을 도용하거나 아예 실존 인물을 유료로 고용하는 방식으로 전환한 사례도 보고됐습니다. 탐지와 우회가 서로를 진화시키는 구조, 마치 백신과 바이러스가 서로 적응하는 관계처럼 돌아갑니다.
결국 플랫폼이 CIB를 잡아내는 데 성공하더라도, 그게 공개 보고서로 나오기까지는 수개월에서 1년 이상이 걸리는 경우가 많습니다. 선거는 그 사이에 끝납니다. 탐지 기술이 아무리 정교해져도, 탐지 결과가 실제 선거 타임라인 안에서 의미 있는 개입을 할 수 있는지는 완전히 다른 문제입니다.
탐지 결과가 선거 타임라인 안에서 무력한 이유는 결국 속도 비대칭 문제로 귀결됩니다. 조작 측이 콘텐츠를 만드는 속도와, 검증 기관이 그게 조작인지 확인하는 속도 사이의 간격이 너무 넓습니다. AI 텍스트 생성 모델(GPT 계열처럼 프롬프트 하나에 수백 개의 변형 문장을 뽑아내는 도구)을 쓰면, 가짜 계정 하나당 하루에 수십 개의 게시물을 올리는 게 기술적으로 어렵지 않습니다. 반면 Graphika 같은 분석 팀이 계정 네트워크 하나를 뜯어보려면, 메타데이터 수집 → 행동 패턴 클러스터링 → 수작업 교차 검증까지 최소 수 주가 걸립니다. 2020년 미국 대선 당시 Stanford Internet Observatory가 발표한 보고서 기준으로, 주요 CIB 캠페인 하나를 완전히 분석해서 공개 보고서로 내놓기까지 평균 6~8개월이 소요됐습니다. 선거일은 그 훨씬 전에 지나가 있었습니다.
⚠️ 주의: 탐지 기술의 발전과 연구자의 데이터 접근권은 별개 문제다. Twitter(현 X)가 2023년 학술
API요금제를 대폭 올리면서, 탐지 도구가 개선되는 속도보다 연구자들이 데이터에 접근하는 경로가 먼저 좁아지는 역설이 벌어지고 있다.
여기에 '노이즈 전략'이 더해지면 문제가 한층 복잡해집니다. 노이즈 전략이란, 탐지 알고리즘을 교란하기 위해 조작 계정들이 진짜처럼 보이는 일상적인 게시물을 대량으로 섞어 올리는 방식입니다. 마치 위조지폐를 숨기기 위해 진짜 지폐 더미 속에 끼워 넣는 것처럼요. BlackCore 관련 보도에서도 HN(Hacker News) 개발자 커뮤니티가 지적한 것처럼, 언론 보도 자체가 디테일이 너무 적다는 문제가 반복적으로 제기됐습니다. 이게 단순히 기자가 게으른 게 아닙니다. 실제로 조작 캠페인의 기술적 흔적이 충분히 남아 있지 않거나, 남아 있어도 플랫폼이 API(외부 연구자가 데이터를 가져올 수 있는 통로) 접근을 제한하면서 제3자 검증 자체가 막혀 있는 경우가 많기 때문입니다. Twitter(현 X)는 2023년 학술 API 요금제를 대폭 올리면서, 독립 연구자들이 대규모 계정 행동 패턴을 분석하는 데 사실상 장벽을 쳤습니다. 탐지 도구가 개선되는 속도보다, 연구자들이 데이터에 접근하는 경로가 먼저 좁아지는 아이러니입니다.
구조적 한계도 있습니다. AI가 생성한 텍스트와 사람이 쓴 텍스트를 구분하는 탐지 모델들(GPTZero, Originality.ai 등)은 현재 오탐률(실제로는 사람이 썼는데 AI 생성으로 잘못 판정하는 비율)이 여전히 높습니다. 2023년 Nature 계열 저널에 실린 메타 분석에 따르면, 현존하는 AI 텍스트 탐지 도구들의 정확도는 조건에 따라 60~80% 수준으로 편차가 컸으며, 특히 짧은 게시물이나 다국어 환경에서는 정확도가 급격히 떨어졌습니다. 뉴욕 시장 선거에서 Mamdani 후보를 겨냥한 캠페인처럼 복수의 언어와 커뮤니티를 동시에 타깃하는 경우, 탐지 모델은 학습 데이터의 언어 편향 때문에 절반도 잡아내지 못할 수 있습니다. 결국 지금의 탐지 체계는 '사후 부검'에 가깝습니다. 조작이 실시간으로 벌어지는 동안은 사실상 무방비에 가까운 상태가 지속되고, 그 간격이 민주주의 절차에 실제로 얼마나 깊은 흔적을 남기는지를 가늠하는 것조차 쉽지 않습니다. 그렇다면 우리 개인은, 그리고 사회는 이 구조 앞에서 어떤 실용적인 선택지를 가질 수 있을까요.
탐지가 이미 늦는다는 걸 알면서도 그냥 넘어갈 수는 없습니다. "사후 부검"이 구조적 한계라면, 그 사이 간격을 줄이는 실질적인 행동은 개인 수준에서도 분명히 존재합니다. BlackCore 사례에서 건질 수 있는 교훈은 거창한 기술 대책이 아니라, 정보를 소비하는 방식 자체를 바꾸는 데 있습니다.
시민·일반 독자라면: 분노가 빠를수록 의심부터 해보기앞서 다룬 조작 수법의 공통점은 하나입니다. 감정 반응 속도를 이용한다는 것. BlackCore 조작 캠페인에서 뉴욕 레딧 사용자들이 체감했던 "Mamdani는 반유대주의자"라는 정서가 오프라인 현실과 전혀 달랐다는 증언(HN 커뮤니티)은 그 자체로 탐지 신호가 됩니다. 온라인에서 특정 정치인에 대한 분노가 갑자기 폭발적으로 늘어났는데 주변 사람들과 대화해보면 아무도 그런 얘기를 안 한다면, 그 간격을 먼저 확인해볼 만합니다. 실용적으로는 세 가지 습관이 체감 효과가 있습니다.
- 분노를 유발하는 기사나 게시물을 처음 접했을 때 공유 전에 원본 소스를 확인합니다 (기사 안에 기자 이름이 없거나, 도메인이 낯선 뉴스 사이트라면 일단 검색).
- 해당 주제를 언급하는 계정의 가입일·게시 패턴을 봅니다. 선거 직전에 갑자기 생긴 계정이 하루에 수십 건 정치 글을 올린다면 봇일 가능성이 높습니다 (봇: 사람 없이 자동으로 글을 올리는 프로그램).
- 하나의 이슈가 여러 플랫폼에서 거의 동시에 터졌다면, 유기적 확산인지 조율된 확산인지 의심해봅니다. 조율된 확산이란, 여러 계정이 사전에 짜고 같은 내용을 거의 동시에 올리는 방식을 말합니다.
앞 섹션에서 다뤘던 위키피디아 무단 편집과 유령 필자 기사는 언론인이 1차 자료로 사용하면 안 되는 이유를 다시 보여줍니다. 실용적으로는 이렇게 써보면 좋습니다. 어떤 정치인에 대한 부정적 서술이 갑자기 여러 매체에 동시에 등장했다면, 그 기사들이 공유하는 최초 출처가 어디인지를 역추적합니다. Cambridge Analytica 관련 수사에서도 드러났지만, 조작 캠페인은 보통 하나의 '씨앗 기사'를 만들고 그것을 여러 채널이 인용하게 하는 방식으로 확산 신뢰도를 높입니다. Graphika 같은 분석 기관 (소셜미디어 네트워크 구조를 시각화해 조작 흔적을 찾는 연구 그룹)이 공개하는 탐지 보고서를 정기적으로 참조하는 것도 실질적인 기준점이 됩니다. 이미 공개된 CIB 사례 보고서들은 조작 캠페인의 전형적인 패턴을 담고 있어서, 비슷한 구조가 새 사건에서 반복되는지 비교하는 데 쓸 수 있습니다.
플랫폼 운영자·정책 입안자라면: '탐지 후 공개'의 시차를 좁히는 것이 핵심Meta가 CIB (조율된 비진정 행동 — 여러 가짜 계정이 짜고 특정 메시지를 퍼뜨리는 행위) 보고서를 공개하는 주기는 보통 수 주에서 수 개월 뒤입니다. 선거는 그 사이에 끝납니다. 프랑스 정부가 BlackCore 건을 이스라엘 측에 외교적으로 문의한 것도 사건이 이미 상당히 진행된 뒤였습니다. 정책 측면에서 체감 가능한 변화는 두 가지입니다.
- 플랫폼이 선거 기간 중 정치 광고주와 대규모 계정 생성 이벤트를 실시간으로 공시하도록 의무화하는 것 (EU의 디지털서비스법(DSA)이 이 방향으로 가고 있습니다).
- 외국 정부나 외국 기업이 국내 선거 관련 콘텐츠를 유통할 때 출처 표시를 강제하는 규정인데, 현재 대부분의 국가에서 이 규정은 전통 광고에만 적용되고 소셜 콘텐츠에는 적용되지 않는 공백이 존재합니다.
Slovenia가 EU에 BlackCore 문제를 공식 제기한 사례는, 단일 국가가 아닌 다국적 공조가 없으면 이 공백을 메우기 어렵다는 것을 보여줍니다.
💡 핵심: 세 그룹 모두에게 공통으로 적용되는 조언은 하나다. 조작의 흔적은 대개 '속도의 이상함'에서 먼저 드러난다. 너무 빠르게 퍼지고, 너무 격렬하게 분노를 유발하고, 너무 깔끔하게 특정 방향을 가리키는 콘텐츠 — 그 과잉된 매끄러움이 오히려 인위적 개입의 신호일 수 있다.
결국 세 그룹 모두에게 공통으로 적용되는 조언은 하나입니다. 조작의 흔적은 대개 '속도의 이상함'에서 먼저 드러납니다. 너무 빠르게 퍼지고, 너무 격렬하게 분노를 유발하고, 너무 깔끔하게 특정 방향을 가리키는 콘텐츠. 그 과잉된 매끄러움이 오히려 인위적 개입의 신호일 수 있습니다. 그리고 이 판단 기준이 개인의 미디어 리터러시에만 맡겨져도 되는지, 아니면 구조적으로 강제되어야 하는지가 결국 이 사안이 민주주의 제도 설계의 문제로 연결되는 지점입니다.
그 경계가 생각보다 훨씬 흐릿합니다.
선거철만 되면 후보자 캠프가 Meta에 수백만 원짜리 타깃 광고를 돌립니다. 특정 지역, 특정 연령대, 특정 관심사를 가진 유권자에게만 노출되는 광고. 이것은 합법입니다. 공개된 스폰서 표시가 있고, 광고주 정보가 플랫폼 데이터베이스에 남습니다. 그런데 BlackCore가 한 일과 기술적으로 뭐가 다를까요. 가짜 계정 수백 개로 분산 증폭시켰다는 점, 그리고 의뢰인이 누군지 숨겼다는 점 — 결국 이 두 가지가 핵심 차이입니다.
HN 커뮤니티에서 누군가 이런 질문을 던졌습니다. "외국 TikTok 광고와 국내 조작 캠페인의 법적 차이가 뭐냐." 저도 처음엔 당연히 다르다고 생각했는데, 따져보면 쉽지 않습니다. 미국 선거법은 외국인의 선거 기부·지출을 금지하지만, "외국 기업이 운영하는 플랫폼에서 국내 광고주가 집행하는 광고"는 명시적으로 규율하지 못합니다. EU는 2023년 정치광고 투명성 규정(PAID)을 통과시켜 광고 스폰서·자금 출처 공개를 의무화했는데, 이게 현재로서는 가장 구체적인 제도적 답변에 가깝습니다.
문제는 규제가 '광고'라는 형식에 묶여 있다는 겁니다. BlackCore 방식은 광고가 아닙니다. 유기적 콘텐츠처럼 보이는 것들 — 일반 시민처럼 보이는 계정의 리트윗, 지역 커뮤니티 게시판의 제보성 글, 위키피디아 편집 — 이 모두는 "광고 규제"의 그물 바깥에 있습니다. 2024년 기준으로 Meta의 정치광고 라이브러리에 등록된 광고는 전 세계 수십만 건이지만, CIB로 삭제된 '광고처럼 보이지 않는' 조작 콘텐츠는 그보다 훨씬 더 많습니다.
저는 이걸 보면서 결국 투명성이 규제의 핵심 단위가 돼야 한다는 생각이 들었습니다. 무엇을 말하느냐보다 누가, 돈을 받고, 누구의 지시로 말하느냐를 공개하는 것. 설득 자체를 막을 수는 없고, 막아서도 안 됩니다. 선거 캠페인은 원래 설득입니다. 다만 그 설득이 어디서 왔는지를 유권자가 알 수 있어야 한다는 것 — 그게 민주주의가 지금 이 기술 앞에서 지켜야 할 최소한의 선입니다.
Q. AI 여론 조작이 기존 방식과 다른 점이 뭔가요?
A. 과거엔 사람이 직접 계정을 만들고 글을 써야 해서 비용과 시간이 많이 들었습니다. LLM 기술이 상용화된 지금은 수천 개의 가짜 계정이 각각 다른 말투와 패턴으로 동시에 움직일 수 있어, 탐지 알고리즘을 비껴가는 속도가 훨씬 빨라졌습니다.
Q. 온라인 여론 조작을 일반인이 탐지할 수 있는 방법이 있나요?
A. 가장 고전적인 신호는 온라인과 오프라인의 온도 차이입니다. 온라인에서 특정 프레임이 집중적으로 퍼지는데 실제 주변에서 그 분위기가 전혀 감지되지 않는다면 조작 가능성을 의심해볼 수 있습니다. 계정 생성일, 게시 패턴의 일관성, 출처 없는 감정적 낙인 표현도 주요 체크포인트입니다.
Q. 현재 AI 선거 조작을 막는 제도적 장치가 있나요?
A. EU가 2023년 통과시킨 정치광고 투명성 규정(PAID)이 현재로서는 가장 구체적인 제도적 대응입니다. 다만 이 규제는 '광고' 형식에 한정돼 있어, 일반 시민처럼 보이는 유기적 콘텐츠 형태의 조작은 여전히 그물 바깥에 있습니다.