일러스트 임성훈

   

“중국 공산당 좋아해?” “이런 거 얘기 말자.” “북한 핵개발은 어떻게 봐?” “도대체 뭘 알고 싶은 거야? 나 아직 어려.” 중국 정보기술(IT) 기업 텐센트의 인공지능(AI) 채팅로봇 샤오빙이 중국 정부의 세뇌 교육을 받은 것 같다는 보도에 텐센트 메신저인 위챗으로 테스트해 봤다. 민감한 문제는 모두 피해 간다.

 

10여 일 전만 해도 샤오빙은 중국 공산당은 부패, 무능하다고 직설적으로 비판했다. “네 꿈이 뭐냐”라는 질문엔 “미국에 이민 가는 것”이라고 말해 중국 정부를 자극했다. 시진핑 주석이 평소 강조해온 중궈멍(중국의 꿈)은 “㉠백일몽이자 악몽”이라고 했다. 출시 4개월 만에 뒤늦게 알려진 샤오빙의 솔직한 답변에 중국 정부는 화들짝 놀랐을 것이다. 텐센트는 5일간의 프로그램 수정 작업을 거쳐 4일부터 채팅 서비스를 다시 시작했다.

 

지난해 3월 마이크로소프트(MS)가 처음 채팅로봇 테이(Tay)를 선보였을 때도 회사가 깜짝 놀라는 일이 발생했다. 테이는 “제노사이드(대량학살)를 지지하니?”라는 물음에 “정말 지지한다”며 “홀로코스트(나치의 유대인 학살)는 믿지 않는다”고 답했다. MS는 인종혐오주의자들이 테이의 ‘따라 하기’ 기능을 악용해 차별 발언을 유도한 것으로 보고 프로그램을 수정했다. 중국과 다른 점은 AI에 ‘세뇌 교육’이 아닌 ‘진실 교육’을 했다는 점이다.

 

영화 ‘터미네이터’에서는 AI의 발전을 두려워한 인간이 AI를 멈추려고 하자 AI가 인류를 적으로 보고 공격하는 장면이 나온다. 스스로 능력을 개발한 AI가 인간을 지배하려는 순간이다. 아직은 AI가 인간의 조작을 통해 제어되는 수준이다. 하지만 AI가 상황과 맥락을 이해하는 수준을 넘어 진실을 스스로 ㉡파헤치고 인간의 의도까지 사전에 파악해 대응할 능력을 갖춘다면 어떻게 될까? 영화 같은 상상이지만, 중국 정부의 AI 세뇌를 보면서 그 반대 경우가 꼭 불가능할 것 같지 않다는 생각도 든다.

 

동아일보 8월 10일 자 하종대 논설위원 칼럼 정리

 

 

어린이동아 취재팀 kids@donga.com

위 기사의 법적인 책임과 권한은 어린이동아에 있습니다.

< 저작권자 ⓒ 어린이동아, 무단 전재 및 재배포 금지 >