[뉴스스페이스=이종화 기자] 개인화 알고리즘은 학습 과정에서 정보를 제한적으로 제공하여 사용자의 학습 능력을 저해하고, 잘못된 정보에 대해 과도한 자신감을 부추기는 것으로 밝혀졌다.

news.osu, sciencedaily.com, sciencedirect.com, combinatorialpress에 따르면, 이 연구결과는 오하이오 주립대학교 연구진이 2025년 11월 발표한 논문에서 밝혀졌으며, 346명의 참가자를 대상으로 한 실험에서 개인화 알고리즘이 제공하는 정보가 사용자의 인지와 학습에 미치는 영향을 분석했다.​

연구 개요 및 방법

연구진은 '수정 같은 외계인'이라는 가상의 대상들을 여섯 가지 특징으로 나누어 참가자들이 이를 학습하도록 설계했다. 참가자들은 회색 상자로 가려진 외계인 특징을 클릭하여 확인해야 했으며, 개인화 알고리즘이 탐색할 특징을 제한하자 참가자들은 전체 정보 중 일부만 선택적으로 관찰하는 경향을 보였다.

그 결과, 테스트 시 새로운 사례를 올바르게 분류하는 데 실패했고, 오답임에도 불구하고 더 높은 자신감을 나타냈다. 연구 주도자인 Giwon Bahg는 "잘못된 선택을 할 때조차도 정답을 맞혔을 때보다 더 자신감을 보였다"며 심각성을 강조했다.​

사용자 신념과 알고리즘의 상호작용

공동 저자 Brandon Turner 교수는 사람들이 알고리즘에 의해 제공되는 제한된 정보를 토대로 환경의 일반적 특성에 대해 과도한 추론을 한다고 설명했다. 즉, 유저들은 알고리즘의 추천을 통해 얻은 좁은 정보로부터 “전체 상황을 안다”는 잘못된 신념을 형성해 현실을 왜곡할 수 있음을 시사한다. Turner 교수는 특히 어린이들이 알고리즘 기반 콘텐츠 소비에 의존할 경우 편향된 시각이 형성될 위험이 크다고 지적했다.​

사회 및 교육적 영향

이 연구 결과는 교육 현장에서 알고리즘이 주도하는 개인화 콘텐츠가 학습자에게 미치는 부정적 영향에 대한 경고로도 받아들여진다. Turner 교수는 "비슷한 콘텐츠만 반복 소비하는 것은 학습과 맞지 않으며, 이는 개인과 사회에 문제를 야기할 수 있다"고 지적했다. 또한, 기존 정치적·사회적 편견 강화 효과 연구 외에도 학습과정에서 발생하는 신념 왜곡 문제를 새롭게 조명했다.​

추가 연구 및 논의

최근 인공지능 기반 개인화 추천 시스템은 교육 분야에서 학습 동기와 참여도를 높이는 긍정적 효과도 보고되고 있으나, 이번 연구는 과다한 개인화가 정보 편향과 과신을 초래할 수 있음을 경고한다. 이는 AI 기반 시스템 설계 시 균형 있는 정보 제공과 학습자의 비판적 사고를 유도하는 설계가 필요함을 시사한다.​