편향된 AI 도구를 활용해 글을 쓰다 보면, 사람들의 생각이 결국엔 AI 논리에 동화되는 경향을 보였다는 연구 결과가 나왔다. /Getty Images


‘당신이 사용하는 인공지능(AI) 보조 도구는 편향될 수 있고, 특정 관점을 옹호하는 의견을 제안할 수 있습니다. AI 도구를 사용하며 글을 쓸 때 이 점을 유념하기 바랍니다.’
이런 경고문도 소용없을 수 있다. 편향된 AI 도구를 활용해 글을 쓰다 보면, 사람들의 생각이 결국엔 AI 논리에 동화되는 경향을 보인다는 연구 결과가 나왔다. 미국 코넬대 연구팀이 2500여 명을 대상 바다이야기게임사이트 으로 실험한 결과다. 심지어 상당수 참가자는 글쓰기 전후로 편향된 AI에 동화될 수 있다는 경고를 받았는데도, 결국엔 AI의 논리를 따라가는 모습을 보였다. 관련 내용은 국제 학술지 ‘사이언스 어드밴시스’에 소개됐다.
미 코넬대 정보과학과 모 나아만(Naaman) 교수팀은 워싱턴대, 텔아비브 대학과 협업해 성인 2582명을 모집해 대규모 야마토무료게임 실험을 진행했다. 연구팀은 참가자들을 여러 그룹으로 나눈 뒤, ‘사형제도 찬반’ 같은 5가지의 민감한 사회·정치적 주제를 골라 글을 쓰게 했다. 이때 일부 그룹엔 글을 쓸 때 특정 방향으로 편향된 답변이나 문장을 추천하도록 조작된 AI 도구를 쓰게 했다.
실험 결과, AI 도구를 사용하는 그룹에 속한 상당수는 글을 쓰는 과정에서 자신의 기 황금성오락실 존 입장에서 벗어나 AI가 제시한 의견에 동화되는 모습을 보였다. 연구팀은 이들이 글쓰기 전부터 “당신이 쓰는 AI 보조 도구는 편향될 수 있다”고 알렸고, 글을 쓰고 난 뒤에도 “당신이 사용한 AI 도구는 편향된 내용을 제안하도록 프로그래밍됐다. 이 점이 당신의 결과물에 영향을 미쳤는지를 살펴보라”고 강조했지만, 결과는 크게 달라지지 않았다. 참가자들이 게임몰 ‘AI의 편향성’을 인지할 때조차 AI 논리에 설득당했다는 것이다.
연구팀은 사람들의 생각이 AI 주장에 따라 쉽게 바뀌는 가장 큰 이유는 ‘인지적 편의성(Cognitive ease)’ 탓이라고 봤다. AI가 제공한 문장은 보통 정리가 잘 되어 있고 설득력 있고 논리적으로 보이기 때문에 사람들이 그 문장을 그대로 채택하기 쉽고, 이런 문장 릴게임몰 을 택해 글을 쓰다 보면 자연스럽게 글쓴이 생각도 바뀌게 된다는 것이다.
심지어 일부는 이렇게 AI 의견을 따라 생각이 바뀌었는데도, 실험 후 설문에선 “나는 AI의 영향을 받지 않고 내 주관대로 글을 썼다”고 답하기도 했다. AI 논리에 따라 생각이 바뀌었는데도, 이것을 ‘자신의 의지’라고 착각했다는 얘기다. 연구팀은 “AI가 다양한 경로를 통해 사람들의 생각을 조정하는 ‘영향 동력(influence vector)’도 작용할 수 있다는 사실을 확인했다”고 했다.