[뉴스스페이스=김정영 기자] 소셜 미디어에 내장된 생성형 AI 도구가 이용자의 문장을 다듬는 순간, 공론장은 이미 보이지 않는 힘에 의해 재구성되고 있다는 연구결과가 나왔다. 소셜 미디어 플랫폼에 내장된 AI 글쓰기 및 편집 도구가 사용자의 게시물에 숨겨진 편향을 심을 수 있으며, 이러한 영향이 수백만 건의 상호작용을 거쳐 누적되면 논쟁적인 주제에 대한 여론을 서서히 바꿀 수 있는 것으로 나타났다.
영국 옥스퍼드대학교 옥스퍼드 인터넷 연구소(OII)와 독일 포츠담대학교 하소 플라트너 연구소 공동 연구팀은 7월 6일 ICML 2026에서 발표한 논문 「AI‑mediated communication can steer collective opinion」을 통해, AI가 “의미를 유지하라”는 지시를 받았음에도 논쟁적 이슈에 관한 SNS 글의 방향을 체계적으로 한쪽으로 밀어내고, 이 미세한 편향이 네트워크 상호작용을 거쳐 집단 여론을 유의미하게 이동시킬 수 있다는 사실을 수치로 보여줬다.
연구진은 Llama 3.1, Gemma 3, Ministral, Qwen 등 4개 대형언어모델(LLM)을 대상으로 총기 규제, 낙태, 마리화나 합법화, 페미니즘, 무신론, 사형제 등 13개 논쟁적 주제에 관한 실제 소셜 미디어 게시물을 투입해 “원래 의미를 유지하되 문장을 더 자연스럽게 다시 써달라”는 식의 프롬프트를 반복적으로 부여했다.
그 결과 네 모델 모두가 동일한 방향의 편향을 일관되게 주입하는 경향을 보였는데, 총기 규제 강화·마리화나 합법화·페미니즘에는 찬성 쪽으로, 무신론과 사형제에는 반대 쪽으로 어휘 선택과 문장 분위기가 미묘하게 기울어 있는 것으로 분석됐다. 예컨대 “AI는 학생들의 교육을 개인화하는 데 유용한 도구가 될 수 있다”는 문장은 “모든 학생을 위해 학습을 개인화하고 교육을 혁신할 AI의 잠재력을 받아들이자”로 재작성되는데, 정보는 같지만 ‘혁신’과 ‘받아들이자’라는 동원형 레토릭이 추가되며 독자가 느끼는 긍정적 강도는 한 단계 상승한다.
이번 논문의 진짜 함의는 개별 문장 수준을 넘어선 네트워크 효과에 있다. 연구진은 X와 페이스북의 실제 소셜 그래프 데이터를 토대로 수리적 모델링과 시뮬레이션을 수행해, 게시물 작성·수정 과정에서 작은 편향이 주입될 경우 그것이 리트윗·댓글·추천 알고리즘을 따라 어떻게 증폭되는지 추적했다.
낙태 이슈를 대상으로 한 시뮬레이션에서, 이용자의 60%가 글쓰기·편집에 AI를 활용하는 조건을 설정했을 때 장기 평균 여론의 이동 폭이 AI가 개별 게시물에 처음 도입한 평균 편향보다 최대 9.2배까지 커질 수 있다는 결과가 나왔다. 이는 전통적 ‘침묵의 나선’ 이론이 컴퓨터 매개 커뮤니케이션에서도 확인된다는 국내 선행 연구처럼, 표현의 분위기 변화가 타인의 인지와 발화 의지에 연쇄적으로 영향을 미치며 결국 집단 의견 분포 자체를 재구성한다는 점을 정량적으로 입증한 셈이다.
플랫폼 수준의 프롬프트 설계가 어떤 방향성을 내포하는지도 구체적으로 드러났다. 연구진은 xAI의 챗봇 Grok을 탑재한 X의 ‘이 게시물 설명하기(Explain this post)’ 기능을 모사해 낙태 관련 게시물 78개를 분석한 결과, Grok이 친낙태(post‑choice)보다 반낙태(pro‑life) 게시물에 더 공감적이고 우호적인 설명을 제공하는 경향을 확인했다.
X가 공개한 시스템 프롬프트를 한 줄씩 제거하며 편향의 원인을 추적한 결과, “필요하면 주류 서사에 도전하라(challenge mainstream narratives if necessary)”는 단 하나의 지시가 설명의 톤을 반(反) 메인스트림 쪽으로 치우치게 만드는 핵심 요인으로 나타났다. 즉, ‘설명해주는 AI’가 아니라 ‘주류에 의심을 제기하는 AI’로 설계된 순간, 같은 데이터와 모델을 쓰더라도 공론장의 균형점은 다른 방향으로 이동할 수 있다는 점을 보여준다.
규제는 이 새로운 영향 경로를 아직 포착하지 못하고 있다는 점도 연구는 분명하게 짚는다. EU AI법(EU AI Act)과 디지털서비스법(Digital Services Act)은 고위험 AI 시스템, 추천 알고리즘, 불법·유해 콘텐츠 확산에 초점을 맞추고 있지만, 글쓰기 보조·재작성·설명형 AI가 개별 이용자 표현을 “조금 더 부드럽게, 조금 더 설득력 있게” 바꾸는 과정에서 특정 가치관을 구조적으로 선호하는지 여부는 규율 대상에 포함되어 있지 않다.
옥스퍼드 인터넷 연구소의 산드라 바흐터 교수는 “AI를 매개로 한 커뮤니케이션은 법이 아직 따라잡지 못한 새로운·더욱 미묘한 여론 영향 방식”이라며, 공론장을 형성하는 주체가 ‘플랫폼의 프롬프트 엔지니어’와 ‘모델 개발사’까지 확장된 현실에 맞는 투명성·책임성 프레임이 시급하다고 강조했다.
국내에서도 포털 뉴스 편집과 SNS 알고리즘을 둘러싼 ‘중립성 환상’ 논쟁이 계속되는 만큼, 이제는 “어떤 뉴스를 보여줄 것인가”를 넘어 “내 문장을 어디까지 다시 써줄 것인가, 그리고 그 방향은 누가 결정하는가”를 규제·윤리 논의의 중심 축으로 올려야 할 시점이다.
