“인류보다 빠르게 진화하는 인공지능(AI)의 반란에 대비해야 한다.”

고인이 된 영국의 천체물리학자 스티븐 호킹은 AI의 발전에 대해 이렇게 경고했다. 마치 공상 과학(SF) 영화 ‘아이, 로봇’의 한 장면처럼 AI가 인간을 능가하고 급기야는 인간을 공격하는 일이 머지않아 일어날 수 있음을 경계하라는 걱정 섞인 메시지인 것.

이처럼 AI 기술의 발전이 인류를 이롭게 할 것이라는 전망은 지나친 낙관이라는 목소리가 최근 들어 적지 않게 나온다. 한국전자통신연구원(ETRI)이 2017년 일반인 850명을 대상으로 인공지능에 대한 신뢰도를 조사한 결과, AI에 대한 전반적인 신뢰도는 7점 만점 기준으로 4.7점에 그쳐 낮은 것으로 나타났다. AI가 가진 잠재적 위험이 해결되지 않는다면 신뢰도는 오르지 않을 것이란 분석이다. 대체 인류는 어떤 문제에 대비해야 하는 것인지 실제 발생한 AI 위험 사례를 바탕으로 알아보자.​


테슬라의 자율주행차 모델S가 AI 로봇을 치고 지나가는 장면. 유튜브 동영상 캡처

인명피해 낳는 자율주행차

최근 국제전자제품박람회(CES) 2019가 마무리 된 가운데, 이 전시회에 참가할 예정이었던 인공지능 휴머노이드(인간형) 로봇이 자율주행차에 치이는 사고가 발생했다. 이 로봇은 러시아 로봇회사 ‘프로모봇’의 신형 모델로 자율주행 모드로 달리던 미국 전기차회사 테슬라의 모델S에 충돌해 옆으로 넘어졌다고 영국 일간신문 데일리메일이 보도했다.

테슬라에 따르면, 자율주행 기능이 탑재된 모델S는 장착된 센서로 보행자가 갑자기 나타났을 때 이를 인식하고 멈춰 설 수 있다. 그러나 사람과 비슷하게 생긴 인공지능 로봇이 길에 있는 것을 미처 인지하지 못하고 그대로 치고 간 것으로 미루어보았을 때 비슷한 사고가 사람에게 일어나지 않으리라는 보장이 없는 것.

실제로 지난해 3월에는 자율주행차가 인간을 사망하게 하는 사고도 있었다. 미국의 차량공유서비스업체인 우버의 자율주행 차량이 미국 애리조나 주 템페 시내에서 길을 건너던 여성을 치어 숨지게 했다. 자율주행차에 의한 최초의 보행자 사망사고로 기록된 이 사례는 자율주행차 사고에 대한 경계심을 키우기에 충분했다.​


아마존에서 일하는 직원들. 아마존 블로그

여성 지원자는 감점시킨다고?!

인간이 축적한 빅데이터를 기반으로 학습하는 AI. 인공지능이 사회에 만연한 편견까지 그대로 흡수하기 때문에 성차별 및 인종차별의 주체가 될 수 있다는 지적도 나온다. 지난해 10월 미국의 인터넷 종합 쇼핑몰 아마존은 여성 지원자를 차별한다는 이유를 들어 AI 기반 채용 시스템을 폐기했다.

과거 10년간의 아마존 이력서를 바탕으로 학습을 한 AI는 아마존이 이제껏 채용한 사원 대다수가 남성이었던 것을 고려해 ‘여성보다 남성 지원자가 더 적합하다’고 판단했다. 이에 ‘여성 체스 동호회장’ 등 여성이라는 글자가 들어간 이력서를 배제하고, 여자대학을 졸업한 지원자에게 낮은 점수를 준 것.

이에 대해 미국 매사추세츠공과대학이 펴내는 과학 전문지 ‘MIT 테크놀로지 리뷰’는 최근 “AI가 성별이나 인종에 따라 사람을 차별하는 사례가 발생하고 있다”며 “인공지능 개발 분야에 여성이나 흑인 등이 많지 않아 다양성이 확보되지 못하는 것도 원인 중 하나”라고 지적했다.​


중국 신화통신의 AI 아나운서. 신화통신 트위터 캡처

진짜와 가짜 어떻게 구별하지?

▶어린이동아 장진희 기자 cjh0629@donga.com

위 기사의 법적인 책임과 권한은 어린이동아에 있습니다.

< 저작권자 ⓒ 어린이동아, 무단 전재 및 재배포 금지 >