어린이 뉴스
  • [뉴스쏙 시사쑥] 인공지능으로 무기를 만든다면?
  • 이지현 기자
  • 2018-06-06 16:56:49
  • 인쇄프린트
  • 글자 크기 키우기
  • 글자 크기 줄이기
  • 공유하기 공유하기
  • URL복사

구글 직원들 “AI 인명 살상 활용 안 돼”

[오늘의 키워드] 킬러로봇

전쟁터에서 적군을 살상(사람을 죽이거나 상처를 입힘)하는 역할을 담당하는 인공지능(AI) 로봇. 감정 없이 기계적 판단에 의해 인간이 프로그램 해놓은 대로 수류탄을 던지거나 총을 쏴 적군을 공격한다.

민간인의 목숨을 잃게 할 가능성이 높고 테러리스트나 독재자에게 악용(나쁘게 이용함)될 수 있다는 이유로 킬러로봇 개발을 반대하는 측과 인간의 잘못된 판단을 예방하고 킬러로봇끼리의 전투로 인명 피해를 줄일 수 있다는 개발 찬성 측이 대립하고 있다.​



미국 정보기술(IT) 기업 구글의 인공지능(AI) 기술을 이끄는 핵심 임원과 직원들이 구글의 AI를 무기에 활용하는 것을 두고 반발하자 회사 측이 결국 미국 국방부 프로젝트에서 손을 떼기로 했다.

미국 일간신문 뉴욕타임스에 따르면 다이앤 그린 구글 클라우드 사업 대표는 최근 전체 직원회의에서 국방부와 체결한 ‘메이븐 프로젝트’ 계약을 내년에 연장하지 않겠다고 밝혔다. 메이븐 프로젝트는 AI 기술을 이용해 국방부가 모은 영상 정보를 해석하는 시스템을 만드는 작업. 이 프로젝트를 통해 드론(무인기)이 목표물을 더 정확하게 타격하도록 기술력을 높인다는 계획이었다.

구글 직원들은 국방부와 협업하는 데 크게 반발해왔다. 메이븐 프로젝트가 AI 기술을 이용해 첨단 무기를 만드는 시작 단계라고 보았기 때문. 구글 직원들은 드론이 목표물을 더 정확하게 식별하면서 AI를 결국 인명 살상에 활용하게 되는 것이라고 지적해왔다. AI 기술을 담당하는 연구원 10여 명이 항의의 의미로 구글을 떠났고 직원 4000여 명이 메이븐 프로젝트 참여에 반대하는 청원서에 서명하기도 했다.

구글은 이 프로젝트가 AI 기술을 활용해 공격하려는 것이 아닌 보호하려는 것이며, 오히려 인명피해를 막을 수 있다고 설명했지만 내부 반발이 심해지자 결국 직원들의 주장에 따라 프로젝트를 그만두게 됐다.​

▶AI 기술이 발전하면서 이를 군사 기술에도 이용하고자 하는 움직임이 생기고 있습니다. 이에 대해서 많은 연구자는 “비윤리적이다”라고 반박하지요.

지난해 전기차 업체 테슬라의 최고경영자(CEO) 일론 머스크와 AI 바둑 프로그램 알파고를 개발한 무스타파 술래이먼 등 IT 및 로봇 전문가들은 유엔(UN·국제연합)에 AI 기술을 이용한 킬러로봇의 개발과 사용을 금지해달라고 청원하기도 했지요.

최근 한국과학기술원(카이스트·KAIST) 연구진이 한 기업과 함께 킬러로봇을 개발한다는 의혹을 받아 해외의 저명한 학자들이 카이스트와의 협업 보이콧(국가, 단체 등과 거래를 중지하는 운동)을 하는 일이 있었습니다. KAIST는 이에 대해 “그런 일이 없고 앞으로도 그럴 계획이 없다”고 해명하면서 보이콧은 철회되었지요.

AI 기술을 이용한 무기는 치명적인 피해를 줄 수 있습니다. 독재자나 테러리스트가 자동화된 무기를 이용해 대량살상을 할 수도 있고 프로그램이 해킹을 당한다면 예상치 못한 피해가 생길 수도 있지요. 영화 ‘터미네이터’나 ‘아이, 로봇’에서처럼 인간의 통제를 벗어나 인류에게 위협을 가하는 킬러로봇이 생길 수도 있습니다. AI를 군사 기술에 이용하는 것에 많은 이들이 조심스러운 입장을 보이고, 엄격한 윤리 기준이 필요하다고 하는 것도 이 때문입니다.​

[한 뼘 더] AI 개발자가 가져야 할 윤리 기준은 무엇일까요? 위 글을 읽고 AI 개발자가 지켜야 할 윤리 기준을 담아 헌장을 만들어 보세요.​

▶어린이동아 이지현 기자 easy27@donga.com

위 기사의 법적인 책임과 권한은 어린이동아에 있습니다.

< 저작권자 ⓒ 어린이동아, 무단 전재 및 재배포 금지 >

터치소리 한미양행 독해킹 만화로 보는 한국사 와글와글스토리툰 헬로마이잡
텐텐수학
  • 댓글쓰기
  • 로그인
    • 어동1
    • 어동2
    • 어동3
    • 어동4
    • 어솜1
    • 어솜2
    • 어솜3

※ 상업적인 댓글 및 도배성 댓글, 욕설이나 비방하는 댓글을 올릴 경우 임의 삭제 조치됩니다.

더보기

NIE 예시 답안
독해왕 시사원정대
  • 단비교육