AI 기술을 활용해 제작된 테슬라의 휴머노이드 로봇. 테슬라 공식 유튜브 캡처

AI가 제작한 그림 ‘스페이스 오페라 극장’. CNN 홈페이지 캡처

[1] 내 취향에 맞는 영화와 책을 골라준다. 학생 수준에 따라 맞춤형 개별 지도가 가능하다. 손떨림 없이 수술하고 지치지 않고 간병(아픈 사람 곁에서 돌보고 시중을 듦)해주는 로봇 상용화(일상적으로 널리 쓰임)도 머지않았다. 이 모든 것이 인공지능(AI) 덕분이다. 그런데 AI 기술에서 앞서가는 미국에서는 부작용도 속출(잇따라 나옴)하고 있다.

[2] AI는 공정하리라는 기대와 달리 편향(한쪽으로 치우침)적이다. 아마존은 AI 채용 프로그램을 개발했다가 남성 지원자를 과대평가하는 편향을 발견하고 폐기했다. AI는 직원들의 축적된 인사고과(직원의 능력ㆍ성적ㆍ태도를 종합적으로 평가하는 일) 자료를 기준으로 판단하는데 고과를 잘 받는 핵심 부서엔 남성이 많았던 것. AI 재판 지원 시스템에서는 흑인의 재범(죄를 지은 뒤 다시 죄를 범함) 가능성을 높게 예측하는 편향이, AI 의료 검사장비에서는 여성과 유색인종의 이상 징후를 못 잡아내는 편향이 포착됐다. 백인 남성 신체가 오랫동안 표준이 돼왔기 때문이다. 기존 데이터에 의존하는 AI의 판단은 보수적일 수밖에 없다.

[3] AI를 의도적으로 악용할 경우 위험성은 더욱 커진다. *딥페이크 기술을 활용한 가짜 영상이 대표적이다. 소셜미디어의 여성 사진을 벌거벗은 모습으로 편집하는 AI가 등장했고, 오바마 대통령이 “트럼프는 머저리”라고 욕하거나, 우크라이나 젤렌스키 대통령이 러시아에 항복을 선언하는 딥페이크 영상이 돌았다. 최근에는 가방이나 열쇠 같은 물건에 붙여두면 실시간 위치를 확인해 분실 걱정을 덜어주는 애플의 에어태그가 스토킹 범죄에 활용돼 논란이다. AI를 탑재한 자율살상 로봇 시장이 커지는 것도 큰 문제다.

[4] 미국 백악관은 5개조로 구성된 ‘AI 권리장전(Bill of Rights)’ ㉠청사진(미래에 대한 희망적인 계획이나 구상)을 4일 발표했다. 차별받지 않을 권리, 개인정보를 보호받을 권리, 안전하고 효과적으로 사용할 권리, AI 작동 방식에 대해 충분한 설명을 들을 권리, AI 대신 사람을 선택할 수 있는 권리다. 하지만 법적 구속력(법적으로 어떤 행위를 강제로 못 하게 하는 힘)이 없어 ㉡‘이빨 없는’ 지침이라는 비판이 나온다. 유럽연합은 2018년 개인정보보호법을 제정한 데 이어 AI로부터 피해를 입으면 손해배상(남에게 끼친 손해를 물어주는 일)을 청구(돈이나 물건 등을 달라고 요구함)할 수 있는 법안을 마련 중이다.

[5] 정부가 내년에 ‘디지털사회 기본법’을 제정하고 ‘디지털 권리장전’도 만든다고 한다. 최근 발표 내용을 보면 디지털 권리장전은 디지털 기술을 보편적 권리로 규정해 디지털 격차를 해소하는 데 초점이 맞춰져 있을 뿐 윤리적 활용에 대한 고민은 빠져 있다. 기술은 빠르게 변화하는데 기본 인권을 지켜낼 제도 정비의 속도는 너무나 더디다. AI가 사람을 해치는 기술이 되지 않도록 입법과 기업 활동에 지침이 되는 정부 가이드라인(정책을 뒷받침하기 위하여 설정한 규제의 범위)을 서둘러 마련해야 한다.

※오늘은 동아일보 오피니언 면에 실린 칼럼을 사설 대신 싣습니다.

동아일보 10월 7일 자 이진영 논설위원 칼럼 정리​

▶어린이동아 권세희 기자 ksh0710@donga.com

위 기사의 법적인 책임과 권한은 어린이동아에 있습니다.

< 저작권자 ⓒ 어린이동아, 무단 전재 및 재배포 금지 >