정보기술(IT) 전문가들이 잇따라 인공지능(AI)을 갖춘 킬러로봇(살상용 로봇) 개발 금지를 주장하고 나섰다.

호주와 캐나다의 AI 연구자들은 각각 맬컴 턴불 호주 총리와 쥐스탱 트뤼도 캐나다 총리에게 ‘AI를 무기로 만드는 일을 국제적으로 금지하는 데 나서 달라’는 내용의 공개서한(여럿에게 공개하는 편지)을 최근 보냈다. 인간이 명령한 대로 행동할 뿐 아니라 자율적으로 판단해 공격할 능력까지 갖춘 AI 킬러로봇이 개발되면 더욱 많은 생명이 희생될 가능성이 크다는 것. 전문가들은 특히 킬러로봇이 해킹을 당하거나 테러에 이용될 경우에 발생할 인명피해에 대해 크게 걱정했다.

공개서한에 참여한 호주 뉴사우스웨일즈대의 AI 연구자인 토비 월시는 “사람의 생사를 결정하는 일을 기계에게 맡기는 것은 도덕의 선을 넘는 일”이라면서 “AI가 인간을 공격하거나 살해하도록 허용해서는 안 된다”라고 말했다.

이들은 정부에게 13일부터 스위스 제네바에서 열리는 킬러로봇에 관한 유엔(UN·국제연합)의 첫 공식 논의에서 ‘킬러로봇을 금지하자’라는 의견을 내세워 달라고 요구한 것이다.

테슬라와 스페이스X의 최고경영자(CEO)인 일론 머스크를 비롯한 전 세계 IT 전문가 116명은 지난 8월 UN에 ‘킬러로봇의 개발과 사용을 금지해 달라’는 내용의 서한을 보내기도 했다.

▶미국과 러시아 등 군사 강국들은 사람 없이 임무를 수행할 수 있는 무기들을 이미 개발하고 있습니다. 미국은 바닷속에서 적을 발견하고 탐지, 공격하는 무인 잠수함과 무인 전투기를 개발 중입니다. 러시아는 사람이 타지 않고도 목표물을 향해 달려가 총을 쏘는 무인 지상차를 개발하고 있어요. 이들 무기는 임무를 수행할 때 인명피해가 적고 감정에 휘둘리지 않는다는 점에서 ‘미래형 무기’로 주목받고 있지요.

하지만 과학자들은 AI 기술이 이런 무기들에 적용된다면 재앙이 일어날 수 있다고 경고합니다. AI는 학습한 내용을 바탕으로 스스로 판단을 내릴 수 있어요. 또 빠른 속도로 지능이 발전하고 있습니다. AI가 킬러로봇 같은 무기에 적용되면 사람을 공격할지 말지를 AI가 결정하고 이런 AI의 결정을 사람이 되돌릴 수 없는 상황이 올 수 있는 것이지요.

머스크와 스티븐 호킹 같은 과학기술계 리더들이 ‘AI가 무기에 적용되는 것을 막아야 한다’고 적극적으로 나서는 것은 이런 위험성 때문입니다.

▶어린이동아 김보민 기자 gomin@donga.com

위 기사의 법적인 책임과 권한은 어린이동아에 있습니다.

< 저작권자 ⓒ 어린이동아, 무단 전재 및 재배포 금지 >