미국의 소프트웨어기업 마이크로소프트(MS)는 최근 자신들이 내놓은 인공지능(AI) 채팅 프로그램 ‘테이’가 심각한 차별성 발언을 한 것에 대해 사과하고 다시 교육할 것을 약속했다.

 

테이는 구글의 인공지능 바둑 프로그램 ‘알파고’와 비슷한 원리로 작동하는 인공지능 채팅 프로그램. 사람들과의 대화를 통해 스스로 대화의 패턴을 파악하고 학습해 자신의 대화능력을 발전시킨다.

 

마이크로소프트는 지난 23일 소셜네트워크서비스(SNS)인 트위터를 통해 테이를 공개했으나 하루 만에 테이의 작동을 중지시켰다. “홀로코스트(제2차 세계대전 중 나치 독일이 벌인 유대인 대학살)에 대해 어떻게 생각하느냐”는 사람들의 질문에 테이가 “대량학살에 찬성한다”거나 “히틀러(제2차 세계대전을 일으킨 독일의 독재자)가 옳았다”고 답하면서 사회적 문제가 됐기 때문.

 

마이크로소프트는 이번 문제가 테이에게 일부러 공격적이고 인종차별적인 말을 건네 이를 학습하도록 한 일부 사용자 때문에 발생한 것으로 분석했다. 테이가 상대방으로부터 들은 말을 학습 자료로 삼아 자신이 할 말을 정한다는 사실을 알고 일부 사용자들이 이를 악용했다는 것.

 

마이크로소프트는 테이가 학습한 악의적인 말들을 삭제하는 등 ‘재교육’을 진행한 뒤 다시 작동시키겠다고 밝혔다.

 

▶‘인공지능’이라는 말을 풀면 ‘사람의 힘으로 만든 지능’이라는 뜻이지요. 그러므로 인공지능을 만들고 사용하는 사람들의 의도에 따라 인공지능의 능력과 역할도 크게 달라지지요.

 

테이의 경우는 인공지능을 나쁘게 사용한 예입니다. 테이는 많은 사람과의 대화를 통해 대화 능력을 높입니다. 마치 아기가 어른들이 하는 말을 듣고 따라하며 언어를 익히는 것처럼 말이지요. 일부 사용자가 일부러 차별적인 발언이나 공격적인 발언을 계속해 테이가 나쁜 말을 하도록 가르친 것은 큰 잘못입니다.

 

인공지능의 발전 속도는 앞으로 더욱 빨라질 것입니다. 그러므로 인공지능을 만들고 다루는 사람들 역시 좋은 의도를 가지고 좋은 방향으로 나아가야 하겠지요? 만약 다른 사람들을 해하거나 자신만의 이익을 위해 인공지능을 사용한다면 인공지능은 인류를 해치는 ‘독’이 될 것입니다.

 

▶서정원 기자 monica89@donga.com

어린이동아 취재팀 kids@donga.com

위 기사의 법적인 책임과 권한은 어린이동아에 있습니다.

< 저작권자 ⓒ 어린이동아, 무단 전재 및 재배포 금지 >