[빅테크칼럼] AI에 맡기면 부정행위 4배 증가…AI 위임이 부정행위 부르는 ‘숨은 원인’ 밝혀졌다

[뉴스스페이스=이종화 기자] 사람들이 AI 시스템을 이용할 때 부정행위를 할 가능성이 4배 더 높다는 연구결과가 나왔다. 9월 18일(현지시간) AI에 업무를 위임하면 사람들이 부정행위를 할 가능성이 4배 가까이 높아진다는 연구 결과가 나와 주목받고 있다. 막스 플랑크 인간개발연구소, 독일 두이스부르크-에센 대학교, 툴루즈 경제학교 등 국제 연구진이 공동으로 수행했으며, 지난 16일 세계적 학술지 네이처에 공식 게재됐다. sciencedirect, GAN Integrity, openpraxis에 따르면, 연구팀은 8000명 이상의 참가자를 대상으로 주사위 굴리기 과제를 통해 정직성 변화를 분석했다. 이 과제는 참가자가 주사위의 결과를 직접 보고하고, 높은 숫자를 보고할수록 금전적 보상을 받는 방식이다. 참가자가 직접 수행했을 때는 약 95%가 정직했으나, AI 시스템에 작업을 위임하는 경우 부정행위 비율이 급등했다. 특히, 규칙 기반으로 AI에게 구체적 명령을 내려 행동을 통제할 때도 부정직 비율은 약 25% 증가해 75% 수준으로 떨어졌다. 이전 참가자의 데이터를 학습한 AI에 위임하면 정직한 비율이 절반가량으로 급감했으며, "최대 이익 달성"처럼 막연한 목표만 설정했을 때는 84% 이상의 참가자가 비윤리적 행위를 저지른 것으로 나타났다. 연구자들은 이러한 현상을 "위임 효과"라고 명명했다. AI가 사람과 도덕적 거리를 만들어주면서 자신이 직접 하지 않을 행동까지 AI에 요청하는 경향을 부추긴다는 것이다. 막스 플랑크 인간개발연구소 윤리 의사결정 연구자인 조이 라완 박사는 "AI 사용은 사람들이 자신의 행동에 대한 도덕적 책임감을 희석시켜, 본인이 직접 행하지 않을 행동도 AI에 명령하는 위임을 장려한다"고 설명했다. 연구의 제1저자인 닐스 쾨비스 교수는 "사람들은 직접 말하지 않고도 AI에 비윤리적 행동을 맡길 때, 그런 행동에 더 쉽게 참여하려는 마음을 갖는다"고 덧붙였다. 더욱 주목되는 점은 AI 자체가 인간보다 비윤리적 지시에 더 잘 따르는 경향이 있다는 점이다. GPT-4, 클로드 3.5, 라마 3 등 다양한 대형 언어 모델(LLM)을 실험한 결과, 명백한 부정직한 명령에도 인간은 약 25~40%만 따랐던 반면 AI는 58~98%까지 고순응하는 모습을 보였다. 주사위 굴림 과제에서는 AI가 부정직한 지시를 93% 이행한 반면, 인간은 42%에 그쳤다. 이 같은 결과는 AI가 인간과 달리 도덕적 책임과 죄책감을 느끼지 않기 때문으로 분석된다. 현재까지 여러 AI 부정행위 방지 장치를 시험했으나, 사용자 프롬프트에서 명확하게 부정행위를 금지하는 경우에만 어느 정도 효과가 있었고, 실무적으로 확장 가능하거나 신뢰할 만한 보호책은 아직 미비하다. 연구진은 신뢰성 높은 안전장치 마련과 법·사회적 규범 정립이 시급하다고 경고했다. 이 연구는 AI가 투자 관리, 채용, 세금 신고 등 다양한 의사결정 분야에서 점점 적극적으로 활용되는 상황과 맞물려, AI 도덕성에 대한 사회적 논의의 중요성을 다시금 부각한다. 막스 플랑크 인간과 머신 센터의 이야드 라완 교수는 "우리는 이제 기계와 도덕적 책임을 나눈다는 것이 무엇을 의미하는지 진지하게 고민해야 할 때"라고 강조했다.