(1) AI에 의한 경제의 자동화와 무인화?
얼마 전 지나가는 한마디 게시판에서 벌거지님이 정치인들은 정치에는 유능하지만 경제에는 무능하니, 경제는 제발 손대지 말고 테크노크라트(기술관료)에게 일임하라고 일갈하신 걸 보고 한 가지 SF적 상상이 떠올랐습니다.
바로 경제를 AI에게 맡겨 경제자동화를 실시하고 더 나아가서는 인간이 경제에 손댈 일이 별로 없도록 어느 정도의 경제무인화를 추구하는 것이지요. 그리고 테크노크라트가 그 AI를 감독하고 운영하는 역할을 수행하고요.
경제에 대해 이데올로기적으로 손을 대지 말하야 하고 경제학적 논리에 근거한 학술적이면서도 동시에 현실지향적인 전문가적 접근을 최우선시해야 한다면, 역시 효율적인 운영을 위해서 AI의 도입에 의한 국가 경제 시스템의 자동화와 무인화를 적극적으로 추진함으로서 경제에 대해 정치인들이 이데올로기적 접근을 시도할 여지를 축소시키고 나아가선 가능한 한 없애버리는 것이 최선이라는 결론이 나올 수도 있지 않을까요?
물론 경제를 전문가에게 일임하고 정치인이 터치를 못 하게 해야 하며 경제를 모르면 관료들에게 맡겨야 한다는 발상 자체가 경제적으론 옳은 논리이지만 정치적으로는 전형적인 신자유주의적 주장이고 동시에 일본제국의 군국주의자들이나 현 일본국의 자민당 세력의 정치사상의 근간을 이루는 파시즘적 발상이기도 했었다는 점을 생각해보면, AI를 이용한 경제의 자동화와 무인화 역시 같은 문제점을 가질 수 있다는 결론도 나올 수 있겠지만 말이죠.
(2) AI에 의한 행정과 정치의 자동화와 무인화?
사실 개인적으로는 위의 글에서 언급한 경제의 자동화와 무인화는 물론이고, 더 나아가서는 행정의 자동화와 무인화, 그리고 궁극적으로는 정치의 자동화와 무인화까지도 이루어져 국가 시스템의 모든 것이 AI에 의해 자동화된 '자동국가' 그리고 국가 시스템의 모든 것이 AI에 의해 무인화된 '무인국가'가 실현되면 어떤 세상이 될 지 궁금해지기도 합니다
인간(여기에서는 정부를 움직이는 정치인과 관료에 해당되겠군요)은 그저 중요한 지시만 내리면 되고 모든 실무는 AI가 자동적으로 처리하며, 더 나아가서 궁극적으로는 인간의 개입이 딱히 없이도 국가 시스템의 운영에 관련된 의사결정과 실행이 AI에 의해 자동적으로 행해지기에 인간이 없더라도 국가 시스템이 정상적으로 돌아갈 수 있는 그런 국가 말이죠. 과연 어떤 모습일까요?
이데올로기에 좌우되지 않고 정치논리에 얽매이지 않는 효율적이고 합리적인 의사결정과 실행에 중점을 두는 효율지상주의적인 국가 시스템이 완성될 것이라는 상상 정도까지는 되는데 말이죠... 한편으로는 저기까지 자동화와 무인화가 진행된 국가라면 정치인과 관료 역시 국가의 운영에 필요하지 않겠지만 국민 역시 국가의 운영에 필요하지 않게 되는 건 아닌가 하는 생각도 듭니다. 그렇다면 4차 산업혁명에 의한 자동화와 무인화의 물결이 민주주의 정치사상의 존립에 위협을 주는 상황도 도래할 수 있겠네요.
(3) 4차 산업혁명과 민주주의의 종말?
언젠가 AI와 자동화와 무인화가 극한까지 발전해서 행정과 입법과 사법이 모두 자동화되면 국가와 정부와 사회의 운영에 인간이 필요 없어지겠고, 마찬가지로 기업 활동과 금융 활동이 모두 자동화되면 기업과 자본의 운영에도 인간이 필요 없어질 수 있겠죠. 모든 것이 자동화되어 인간의 개입을 일절 필요로 하지 않는 철저한 자동국가, 모든 것이 무인화되고 인간이 굳이 나라를 위해 무언가를 할 필요가 없는 철저한 무인국가가 실현될 수 있겠고요. 그런데 그런 국가에서 과연 국민은 필요한 존재가 될 수 있을까요?
개인적으론 AI가 나라를 다스리고 인간은 나랏일을 할 필요가 없으며 아예 인간의 개입이 없이도 나라가 돌아가는 완전 자동화 국가가 차라리 지금보다 더 낫다 보긴 합니다. 그래서 대한민국이 AI 기술을 이용해 행정 입법 사법 3권을 자동화하고 무인화해야 살아 남을 수 있다 보고 있고요. 인간 정치인, 인간 관료, 인간 법조인보다야 스카이넷이나 정화자가 더 공정하니까요. 정치에 대한 환멸이 인간불신과 결합되다보니 그냥 사람보다는 기계가 나라를 다스리는 게 나을 것 같다는 생각까지 하게 되었습니다. 어차피 현대 사회 특히 정부 조직은 관료제 시스템으로 돌아가니, 자동화와 무인화가 충분히 진전된다면 인간이 없어도 괜찮지 않을까 싶더군요. 특히나 대한민국은 대통령 없이도 행정 입법 사법 3권이 마비되는 일 없이 돌아간 적도 있었기도 하니 말입니다. 그러니 자동화와 무인화가 극적으로 발전한다면 이제 행정부(청와대와 내각)도 입법부(국회)도 사법부(법원과 헌법재판소)도 모두 인간 없이 돌아갈 수 있겠죠. 강인공지능이 아닌 현재 혹은 근미래의 약인공지능으로 저게 가능한가가 문제이긴 하겠지만요.
일단 사법과 치안유지부터 자동화와 무인화를 하고, 그 이후 행정의 자동화와 무인화를 하며, 최종적으로는 AI를 통한 정치의 자동화 및 무인화를 달성... 사람이 정치를 하는 이상 어떤 제도를 채택하더라도 현대 정치판에서는 분쟁이 없을 수가 없고 그렇다고 무리하게 분쟁을 억제하려 하면 일본이나 싱가포르처럼 고인 물이 썩는 상황이 벌어지는 게 현실이니까요. 이를 해결하기 위해서는 정치에서 인간이라는 요소를 배제시키고 기계로 대신할 수밖에 없지 않나 싶더군요.
하지만 저렇게 계속 국가 시스템의 자동화와 무인화를 추진하다 보면 한 가지 문제에 봉착하게 된다는 사실도 사고실험을 반복하다 보니 깨닫게 되었습니다. 바로 국가의 운영에 있어서 국민의 존재조차도 필요 없어지는데 이 문제는 어찌할 거냐는 거지요. 민주주의의 근간이 뿌리부터 흔들리게 되는데 이걸 과연 긍정할 수 있는가? 이것에 관련해서 고민을 안게 되었고 국가 시스템의 자동화와 무인화가 꼭 좋지는 않을 수도 있다는 걸 새삼 깨닫게 되기도 했습니다. 경제학적 관점에서 볼 때 부양해야 할 인간이 제로가 된다면 그것이야말로 국가와 사회라는 시스템에 있어서는 가장 이상적인 상태일 것이고, 따라서 AI는 적극적으로 국민을 배제하려 할 것이니까요. 인류를 몰살하려 드는 터미네이터 시리즈 속의 스카이넷처럼 말입니다.
사실 국가와 사회라는 거대한 시스템의 입장에서 본다면 자국인 타국인을 불문하고 인간 자체가 별다른 가치가 없는 소모품에 불과할 뿐이긴 합니다. 더군다나 4차 산업혁명에 의한 자동화와 무인화가 진행되면 국가와 사회는 이제 인간을 아예 필요로 하지 않을 수도 있지요. 지금까지는 국민 없는 국가는 있을 수 없고 시민 없는 사회 역시 있을 수 없었지만, 4차 산업혁명이 계속 진행된다면 마침내 국민 없는 국가가 존재할 수 있게 되고 시민 없는 사회도 도래할 수 있게 되는 것입니다. 허나 국가 없는 국민은 존재할 수 없고 사회 없는 시민은 존재할 수 없죠. 그래서 국가와 사회라는 거대한 시스템은 인간을 얼마든지 소모품으로서 쓰고 버릴 수 있지만, 인간은 국가와 사회라는 시스템을 그렇게 소모품으로서 쓰고 버리지 못 합니다. 이러한 불균형을 인류가 극복하는 것은 과연 가능할 련지 모르겠군요. 이런 상황 속에서 민주주의 정치사상이 과연 명맥을 유지할 수 있을 지도 모르겠고요. 여러모로 두려워지는 미래라 할 수 있습니다. 제가 4차 산업혁명에 대해 처음으로 두려움을 갖게 된 계기는 인공지능의 반란이라던가 이런 게 아니라, 바로 이러한 민주주의의 종말 가능성 때문이었어요(사실 광의적으로 보면 이거 자체도 인공지능의 반란 비스무리한 것으로 볼 수 있을 여지도 없진 않습니다.). 그 다음으로 두려워진 건 역시 기술적 실업이란 문제고 말이죠.
