최근 중국 매체 글로벌타임스에 따르면 중국 상하이의 한 초등학교는 AI와 얼굴 인식, 열 감지, 빅데이터 등의 기술을 활용한 ‘스마트 교실 행동 분석 시스템’을 구축할 계획이다. 이 시스템을 통해 학교는 학생의 앉은 자세부터 인사하는 모습, 대답하기 위해 손을 들거나 자발적으로 쓰레기를 줍는 모습까지 수집해 평가에 활용할 수 있다. 심지어 학생들이 수업 중간 하품하는 모습까지 모두 잡아낼 수 있다. 학교 측은 학생들의 학습을 돕고 교사들의 교육 효율성을 높이기 위한 것이라고 설명했다.

그러나 이 소식이 전해진 뒤 소셜네트워크서비스(SNS)를 중심으로 거센 비판이 쏟아졌다. 학생들의 자유와 사생활이 침해될 수 있으며 학생들의 인격 장애까지도 불러올 수 있다는 것. 중국의 누리꾼들은 “죄수들도 이렇게 감시하지 않는다”, “아이들이 행복해야 할 유년시절을 AI를 겁내면서 보내게 될 것” 등의 의견을 보이며 학교 측을 비난했다. 일각에서는 교실의 ‘빅브러더’가 될 것이라는 우려도 나왔다.

시옹 빙치 상하이 21세기 교육연구소 부소장 또한 글로벌타임스를 통해 “교육 현장에 얼굴 인식 기술을 이용하는 것은 새롭지 않으나, 이를 행동 분석을 넘어 태도 평가에까지 활용하게 된다면 많은 문제가 발생할 것”이라며 “학생들의 사생활을 침해할 뿐 아니라 정상적인 교사와 학생의 관계, 교실 환경 등을 왜곡할 수 있다”고 경고했다.

한편 앞서 중국에서는 발전된 기술을 토대로 학생들의 출결 감시를 위한 ‘지능형 교복’이나 환경미화원의 근로 감시를 위한 ‘지능형 팔찌’가 도입돼 논란이 일기도 했다.

▶‘빅브러더’라는 말을 들어봤나요?

‘빅브러더’는 조지 오웰의 소설 ‘1984’에 등장하는 절대 권력 통치자를 부르는 말입니다. 소설 속 ‘빅브러더’는 사회 곳곳에 설치된 여러 장비를 통해 대중을 24시간 감시합니다. 이를 통해 개인의 행동은 물론 생각과 욕구까지 통제하지요.

소설이 나온 1949년 당시 ‘빅브러더’는 그야말로 공상과학 소설이나 영화에 나올 법한 비현실적 존재였습니다. 그 당시만 해도 수많은 사람을 24시간 감시할 수 있었던 기술이 없었기 때문입니다. 그러나 오늘날은 다르지요. AI는 물론 얼굴이나 지문, 음성 등을 인식하는 생체인식기술 등이 크게 발전하며 국가 안보와 국민 안전을 위한 영역은 물론 이젠 학생들이 공부하는 학교에까지 적용되기 시작했습니다. 이는 곧 언제, 어디서든 ‘빅브러더’가 현실에 등장할 수 있는 사회가 됐다는 의미이기도 합니다.

‘빅브러더’와 함께 자주 쓰이는 말은 ‘디스토피아’입니다. ‘이상향’을 뜻하는 ‘유토피아’의 반대어로, 현대사회의 부정적인 측면이 극단화된 암울한 미래상을 의미하죠. 기술의 발전은 분명 이전에는 없던 풍요와 편리를 인간에게 가져다줬습니다. 그러나 그 풍요와 편리 뒤에는 어떤 위험이 있는지도 꼼꼼히 살피고 대비해야 ‘디스토피아’를 피할 수 있을 것입니다.

▶어린이동아 최유란 기자 cyr@donga.com

위 기사의 법적인 책임과 권한은 어린이동아에 있습니다.

< 저작권자 ⓒ 어린이동아, 무단 전재 및 재배포 금지 >