교육을바꾸는사람들

‘인공지능 시대의 민주 시민성’은 가장 민감한 교육 이슈다. 이 문제에 대한 충분한 논의나 연구 없이 ‘인공지능 시대’를 내걸고 교육의 내용과 방법을 논의한다는 것은 행선지가 미처 정해지지도 않은 상태에서 어떤 운송 수단을 사용할 것인지를 놓고 격론을 벌이는 것 만큼이나 우스꽝스러운 일이다.

물론 인공지능이 시민의 자격, 민주시민성의 목록에 어떤 변화를 가져올지 지금 당장 예단하기는 어렵다. 아직까지는 인공지능이 바꾸어 놓을 이른바 4차산업 혁명의 시대도 아직까지는 미래형이다. 그럼에도 불구하고 현재 진행중인 변화를 토대로 몇 가지 예상 가능한 변화가 있다.

가장 먼저 책임의 주체 문제가 생긴다. 민주시민성은 크게 권리와 책임으로 이루어져 있다. 민주주의 국가의 시민이 된다는 것은 국가의 주인 중 한 사람이 되는 것이기 때문이다. 민주 시민이란 책임을 질 준비가 되어 있으면서 권리를 행사하는 주체다.

그런데 이미 3차산업 혁명 이후 행위의 장소는 현실세계와 네트워크 상의 가상세계를 모두 아우르게 되었다. 그리고 짐작할 수 있지만 이 가상세계에서 인공지능은 마치 사람처럼 행위할 수 있다. 실제로 심리학자가 한 실험에서 네트워크 상으로만 이루어지는 데이트 프로그램을 돌렸고, 여기에 인공지능과 사람을 비슷하게 참가시켰을 때 사람보다 인공지능이 파트너의 선택을 더 많이 받았다. 사람보다 인공지능을 더 훌륭한 데이트 상대로 선택한 것이다. 이쯤 되면 사람의 신체를 가지고 있지 않을 뿐, 인공지능이 오히려 더 ‘사람다운’ 사람으로 보였다고 볼 수 있다.

데이트 실험 정도가 아니다. 골드만삭스 같은 세계적인 금융회사는 이미 금융거래의 대부분을 인공지능 로봇을 통해 수행하고 있다. 고객 상담과 대출심사 같은 업무도 인공지능이 대부분을 맡아서 수행하고 있다. 심지어 골드만삭스에서 주식을 사고파는 업무를 담당하는 진짜 인간 직원은 단 세명에 불과하다는 이야기도 있다. (이 보다 적을 수도 있다.) 다른 회사들도 마찬가지다. 한 손에는 전화기를 다른 손에는 주문서 뭉치를 든 트레이더들이 요란하게 소리를 지르며 매수/매도 주문을 넣고, 장 종료 벨이 울리면 체결되지 않은 주문서들이 마치 눈처럼 바닥에 깔리는 증권시장의 풍경은 즐비하게 늘어선 컴퓨터 앞에서 부지런히 키보드와 마우스를 두드리는 모습으로 바뀌었다가 이제는 아예 아무도 없는 곳으로 바뀌고 있다. 아무도 없지만 여기에 연결된 네트워크를 통해 인공지능 로봇들끼리 빛의 속도로 거래를 진행하고 있다. 고객들이 맡긴 수억 달러의 돈을 사람이 아닌 인공지능이 관리하는 것이다. 그렇다면 이 거래의 책임은 누가 져야 할까? 그리고 이 거래를 수행하는 인공지능은 자신의 권리를 요구할 수 있을까? 즉 실제 거래의 대부분을 담당하는 이 인공지능 로봇은 자신을 경제 행위의 주체로 선언할 수 있을까?

아직까지는 이 로봇을 거래의 주체로 인정하지 않는다. 하지만 오늘날 로봇 트레이더들은 과거처럼 미리 정해진 프로그램에 따라 기계적으로 매수/매도를 반복하는 존재가 아니다. 사람은 여기에 어떤 사전 매수/매도 프로그램을 입력해 두지 않았다. 매수시점과 매도시점 및 거래량을 정하는 것은 수없이 증권시장에서 성공과 실패를 반복한 끝에 인공지능 로봇이 스스로 학습한 알고리듬에 따른다. 물론 이 알고리듬도 거래에서 성공과 실패를 반복하는 가운데 수정될 것이다. 더 효율적인 학습을 한 로봇이 돈을 벌고, 그렇지 못한 로봇은 손실을 보고, 해당 프로그램과 알고리듬은 삭제될 것이다. 이 정도쯤 되면 행위의 주체로 인정해야 하는 것이 아닐까?

자율주행차의 경우도 어떨까? 자율주행차를 책임과 권리의 주체로 간주할 수 있을까? 현재 자율주행차 기술이 이미 인간 운전자보다 훨씬 우수한 경지에 이르렀고, 자율주행차의 교통사고율이 사람 운전자보다 훨씬 낮음에도 불구하고 실용화 단계로 나가지 못하고 있는 까닭은 사고가 났을 때 누가 그 책임을 질 것인가 하는 문제가 해결되지 않았기 때문이다. 그래서 이미 영업을 시작한 구글 택시도 완전 자율로 운행되지만 사람 직원이 탑승한다. 구글 택시는 손님이 구글지도를 통해 목적지를 지정하고 택시를 부르면 손님이 있는 위치에서 가장 가까이에 있는 차량이 스스로 이동하여 손님을 목적지까지 태우는 방식으로 운영된다. 돈을 주고 받지도 않는다. 호출-승차-주행-하차-결재의 모든 과정이 자동으로 이루어진다. 그럼에도 불구하고 직원이 탑승한 까닭은 만에 하나 발생할 수 있는 사고 때문이다. 그래서 이 직원은 운전자가 아니라 안전원이라는 명칭으로 불린다. 이 안전원이 탑승해 있기 때문에 자율주행차는 행위의 주체로 인정받을 수 있다.

그럼 이렇게 여러 영역에서 사람의 도움 없이 스스로 학습하며, 사람보다 더 합리적인 문제해결을 할 수 있는 인공지능이 여전히 행위 주체로 인정받지 못하는 까닭은 무엇일까? 바로 ‘의식성’이다. 제 아무리 정확한 인공지능이라 할지라도 “내가~”. “나를~”이라는 의식을 하지는 못한다. 복잡한 딥러닝 결과 획득한 특징들에 따라 분석하고 판단할 뿐, 이 작업을 하고 있는 자신을 인식하거나 객관화하지 못한다. 가령 알파고 제로는 기존의 알파고와 60판을 싸워 모두 이기면서 “내가 역시 구형 알파고 보다는 한 수 위지”라는 따위의 생각도 반응도 보이지 않았다. 알파고의 바둑은 놀라운 경지에 이르렀지만 정작 그 바둑을 두고 있는 알파고는 바둑 두는 자신을 의식하지 못한다.

이제 호모 사피엔스, 즉 ‘지적’인 사람이라는 것만으로 인간성을 정의하기 어려워졌다. 인공지능에게 시민권을 주지 않고 사람만이 그것을 누릴 수 있다고 주장하려면 사람의 정의를 다시 세워야 한다. 사람은 지적일 뿐 아니라 지적인 자신을 객관화하여 바라볼 수 있는 ‘의식적’인 존재이기도 하다. 지성과 함께 의식성을 갖추어야 사람됨을 갖추었다 할 수 있으며 권리와 책임의 주체로 인정받는다. 실제로 형법에서도 ‘무의식’ 상태에서 이루어진 행위, 어린이의 행위, 정신병 환자의 행위 등에 대해서는 책임을 묻지 않는다. 자신의 행동을 의식하고 한 것이 아니라면 그 행위의 주인이 아니며 책임 질 이유도 없기 때문이다.

하지만 인공지능이 언제까지나 의식 없는 존재로 남아 있을까? 이미 현대 신경과학은 ‘의식’이 뇌의 특별한 영역의 작용이 아니라는 점을 밝혀냈다. 인간 뇌에 의식, 영혼의 자리는 없다. 의식이라는 것은 다만 복잡한 신경계의 연결망이 작동하는 과정에서 발현한 일종의 ‘현상’이다.

그렇다면 인공지능이 의식 있는 존재가 될 날이 의외로 가까이 다가왔을 수 있다. 이미 인공지능은 인간 신경계를 모방한 뉴럴 시스템으로 작동되고 있다. 또 인간 신경계의 연결망이 형성되는 과정과 흡사한 딥러닝을 구현하고 있다. 여기에 나노 기술까지 결합한다면 실제 인간 뇌보다 작은 크기에 인간 두뇌보다 많은 뉴런들을 장착 시킬 수도 있다. 그렇게 된다면 연결망들이 형성되는 과정에서 발현하는 현상이 오히려 인간 두뇌보다 더 광범위할 수 있다. 즉 의식 그리고 알파까지 나올 수 있는 것이다.

지적이며 의식적인 인공지능에게 시민권을 부여하고 권리와 책임의 주체로 인정해야 할까? 인공지능에게도 참정권을 부여해야 할까? 현재 지구상에 존재하는 인터넷 IP는 수조 개에 이르는데, 이 중 사람이 차지하고 있는 IP는 최대한 많이 늘려도 1조개를 넘어갈 수 없다. 이것도 한 사람이 20개씩의 컴퓨터와 모바일 기기를 사용한다는 비현실적인 가정을 한 수치다. 기계가 차지하고 있는 IP가 사람보다 훨씬 많다. 이들이 만약 참정권을 누리는 시민이 된다면 사람보다는 로봇에게 유리한 정책이 만들어져 집행되는 것을 어떻게 막을 수 있겠는가?

영화 ‘로보캅’이나 ‘채피’에서는 강력범들을 제압하고 체포하기 위해 중무장한 로봇들이 투입된다. 이 로봇들은 인간 경찰의 명령에 따라서만 움직이는 것이 아니라 상황에 따라 판단하여 범인을 체포하거나 사살하는 등 사법권을 행사한다. 과연 이런 인공지능 로봇에게 사법권 행사를 위임하는 것이 정당할까?

정서적으로는 이러한 인공지능 로봇을 권리와 책임의 주체로 받아들이는데 강한 거부감이 든다. 하지만 사람 행위자와 다를 바 없는, 심지어 더 합리적으로 행동할 수 있는 인공지능 행위자들이 무슨 근거로 시민이 아닌지 설득하기 쉽지 않다. 이들을 거부하려면 시민성을 다시 정의해야 하기 때문이다. 지적이고 의식적인 존재만으로 되지 않는다면 무엇을 근거로 ‘인간’을 정의할 것인가? 그보다 ‘인간’만이 시민의 자격을 갖출 수 있다는 것을 어떻게 정당화할 것인가?

이 밖에도 인공지능 시대의 민주시민성을 혼란스럽게 하는 것들은 무수히 많다. 인공지능 시대는 인터넷을 통한 사회적 연결망의 시대이기도 하다. 온 세계가 연결된 사회적 연결망은 고대 아테네에서조차 구현하기 어려웠던 직접민주정치의 가능성을 보여주면서 사람들에게 희망을 불러일으키기도 했다. 과거에는 언론사가 여론의 조성과 유포를 담당하고 정당이 여론의 수렴과 정책화를 담당했지만 오늘날에는 이 모든 과정이 사회적 연결망에서 언론사와 정당을 거치지 않고 직접 이루어질 수 있다. 오히려 언론사나 정당이 사회적 연결망을 모니터링하면서 기사를 쓰고 정책을 마련하는 실정이다.

문제는 이 사회적 연결망의 세계 속에서 시민의 권리와 책임이다. 사회적 연결망 속에는 무수히 많은 다른 유형의 주체들이 떠돌아 다니고 있다. 실제 자기 자신의 자격으로 활동하는 사람도 있겠지만 가상의 인격으로 활동하는 사람도 있고, 여러 계정을 만들어서 서로 다른 여러 사람 행세를 하는 사람도 있다. 식별이 불가능한 인공지능 로봇(봇)들을 다수 심어서 엄청나게 많은 사람들 행세를 하며 다른 사람보다 훨씬 큰 영향력을 행사하는 사람도 있다. 만약 이 로봇이 3세대 인공지능이라면 주인으로부터 독립해서 스스로 사람처럼 글을 쓰고 활동을 하며, 스스로 새로운 로봇을 만들어 증식할 것이다.

이런 상황에서 권리와 책임의 주체인 시민을 어떻게 규정할 것인가? 실제 세계의 시민권을 사이버 공간에 그대로 옮겨 올 것인가, 아니면 사이버 공간의 시민을 따로 규정하여 사람들에게 다중적 정체성을 허용하고 동시에 인공지능 로봇의 권리도 보장할 것인가?

이러한 점들을 살펴보면 인공지능 시대에 민주주의를 제대로 지켜내는 일이 결코 쉬워 보이지 않는다. 경우에 따라서는 민주주의라는 정체 자체가 의문의 대상이 되거나 다른 무엇으로 뒤바뀔 수도 있다. 그러면 교육 역시 학생들에게 기대하는 변화의 모습과 방향을 다시 설정해야 한다. 사실 “사람이란 무엇인가?”부터 의문시되는 상황이다. 사람이 무엇인지가 모호해지기 시작했는데, “어떤 사람으로 키울 것인가?”라는 물음은 오히려 사치다.

이제 인공지능은 무엇인가, 인공지능 시대에 교육은 무엇인가라는 물음은 더 근본적이고 어려운 관문을 돌파해야만 답을 찾아볼 수 있는 상황에 내몰렸다. 이른바 4차 산업혁명은 단지 일자리의 문제, 교육의 문제가 아니다. 우리는 이제 다음과 같은 어마어마한 물음에 답할 준비가 되어 있어야 한다.

“도대체 사람이란 무엇인가?”

※ 본 칼럼은 필자의 고유의견이며 ‘교육을바꾸는사람들’의 공식견해가 아닙니다.

🖨️ 인쇄(Print)하기