SF / 과학 포럼
SF 작품의 가능성은 어떻게 펼쳐질 수 있을까요? 그리고 어떤 상상의 이야기가 가능할까요?
SF에 대한 가벼운 흥미거리에서부터 새로운 창작을 위한 아이디어에 이르기까지...
여기는 과학 소식이나 정보를 소개하고, SF 속의 아이디어나 이론에 대한 의견을 나누며, 상상의 꿈을 키워나가는 곳입니다.
( 이 게시판은 최근에 의견이나 덧글이 추가된 순서대로 정렬됩니다. )
사람이 아니라, 컴퓨터가 대신 법정판결을 내리는 날이 올 수 있을까요?
법정판결이란게 수학공식 같은 건 아니겠지만, 법학 역시 고도의 논리체계를 바탕으로 형성된 학문이니, 그에 따른 컴퓨터 프로그램을 개발해서 인간 판사 대신 판결을 내릴 수 있는 날이 올 수 있지 않을까 상상해봤는데요, 실현가능성이 어느 정도 될지 잘 모르겠네요.
다른 분들의 의견을 듣고 싶습니다.
아시모프의 단편중에 컴퓨터가 재판하는 게 있었던 것 같습니다.
쉽지 않은 일이죠. 인공지능 체계라면 혹시 가능할지도 모르겠네요.
사람들이 받아들일 수 있느냐의 문제는 제쳐두고라도...
판단 능력과는 별개로 저는 인간에 대한 판결은 인간이 내리는 것이 마땅하며 적어도 가까운 장래에 기계가 인간을 판단하여 벌하는 일은 벌어지지 않으리라 생각합니다.
인간은 물론 실수를 합니다. 하지만 기계라고 해서 실수를 하지 말라는 법도 없습니다. 논리적으로 타당하다고 생각될지 몰라도 인간이 받아들일 수 있는 판결을 내린다는 법도 없습니다.
하지만 무엇보다도 기계가 인간을 판단한다는 것은 인간 자신에 대한 '책임'을 저버리는 일이기 때문에 문제가 됩니다.
재판관은 자신이 내린 재판에 대해 책임을 져야 합니다. 그리고 그 책임감은 재판관의 성장을 이끌어냅니다.
그러나 기계는 책임을 질 수 없습니다. 기계가 내린 판단은 결국 인간이 지시한 시스템에 의한 것이기 때문이지요.
지금도 "내가 잘못한게 아니야. 조직이 잘못한거야."라고 변명하는 이들이 있지만, 기계가 판결을 내리게 된다면 이 같은 변명이 거의 상투적이 되어 갈 것으로 그 결과 인간은 자신을 판결할 수 있는 능력 자체를 잃어버리게 될 것입니다.
설사 인간과 똑같이 생각하는 기계가 등장한다고 해도 그들에게 인간과 같은 책임감을 물릴 수는 없으니까요.
나라마다 방식이 다르긴 하나, 재판도 순전히 논리만 따지는 게 아닙니다. 재판이란 것은 인간이 인간에게 죄를 묻는 과정이고, 이 과정에 참여하는 사람들에게는 어떠한 권위 혹은 됨됨이를 기대하기 마련입니다. 특히 법조계 인사들은 더욱 그렇죠. 과연 기계가 이런 카리스마나 권위를 지닐 수 있을까요. 기계가 신의 이름, 정의의 이름을 대변할 수 있을까요. 저는 어렵다고 봅니다. 인간이 인간에게 단죄를 내리는 것도 말이 많은데, 하물며 기계야….
표도기님의 설명처럼 로봇이나 컴퓨터는 책임을 질 수 없기 때문에, 아직도 많은 경우 최종 판단은 사람이 하게 된다고 합니다. 물론 사소한 경우는 자동결정되는 경우가 많아 지고 있지만, 돈이나 사람의 생명/미래 등이 연관되어 있는 중요한 경우는 사람이 결정하게 된다고 합니다.
하지만 미래에 사람들의 인식이 로봇을 더 신뢰하게 된다면 그렇게 될 수도 있지 않을 까 생각해 봅니다.
외려 과거에는 인간이 아닌 다른 것에 판단을 맡겼죠. 신을 말하는 게 아닙니다. 돌을 말하는 거에요. 돌을 매달아 물에 풍덩 시킨 후 떠오르면 무죄, 가라앉으면 유죄(=사형) 하는 식으로요. 실제로 이렇게 한 이유는 모든 책임을 돌덩어리신에게 떠넘길 수 있었기 때문이기도 하고요. 그 결과 학살극이 벌어지기도 했죠. 죽이는 쪽에서 죄책감이 없으니 이게 옳은가 하는 고민도 없었거든요. 오죽하면 십자군 원정 당시, '일단 다 죽여라. 심판은 하늘에서 하느님이 하실 것이다'라며 돌격을 지시한 장군(왕이었나??)까지 있었는 걸요.
다음으로, 로봇에게 재판을 받는다는 건 로봇과 전쟁을 해서 졌다는 기분이 들기에 충분하죠. 아마 인간으로서는 정말이지 용납하기 어려울 겁니다. 항성간을 초광속으로 여행하는 인간보다 훨씬 우월한 존재들까지도 컴퓨터 바이러스로 기어이 작살을 내야 직성이 풀리는 게 인간일진데 깡통따위에게 재판을 받다뇨! 게다가 실제론 그러면 안 되고 그래서 공식적으로는 저~얼~대 아니라고 하지만 형벌의 목적에는 '응보'란 게 있다는 사실을 감안하면 더 그렇죠.
마지막으로, 퍼지 이야기에서도 말했지만, 주머니에 699원밖에 없어서 700원짜리 비락 식혜를 못 내어주겠다는 자판기보다는 오히려, 690원밖에 없을때 말 잘하면 그냥 줄 지도 모르는 슈퍼 아저씨에게 -역설적이게도- 더 신뢰를 느끼는 게 인간이니까요. 근데 정말 역설적이게도, 바로 그런 이유 때문에 유죄 받아야 할 놈은 돈으로 말 잘하는 변호사 써서 무죄가 되고 무죄 받아야 할 사람은 돈이 없어 제대로 말(=변론)도 못하고 유죄가 되는 경우가 허다합니다.
개인적으로는 언젠가는 판결의 주는 인공지능이 하고 인간은 배심원처럼 참고인(? 이걸 뭐라고 하더라...)으로만 존재하는 시대가 올 거라고 믿긴 합니다. 그 과도기로 우선 '증인(공지능)'이 증언 가능하고 (권력과 돈에 쫄지 않는, 특히 대정치쓰레기전용인공지능형결전)검사가 압박하는 단계가 있을 거라고 생각하고 말이죠. 후자는 그래도 꾸밀 수가 있겠던데 전자는 무식하다보니 상상이 잘 안 되서 묘사를 못 하겠더군요.
조금 다르겠지만, 비슷한 이유로 서비스업에서 기계가 인간을 완전히 대체하는 것이 생각보다 늦어지리라 생각해 봅니다.
같은 서비스라도 인간에게 대접받는 것과 기계에게 대접받는 것은 다를 수 밖에 없습니다. 이러한 점은 특히 고급 서비스업일때 더욱 심할 것이고, 이른바 '고급 서비스 업종'에서의 급료는 결코 떨어지지 않을 것입니다.
기계에는 기계만의, 인간에게는 인간만의 역할이 있고 그것은 단지 '논리적인 이유'만으로 처리할 수는 없겠지요.
시사인 주진우 기자가 발굴한 BBK검사들의 탄원서입니다. 이딴 걸 보고 있노라면 당장 판사고 검사고 모조리 인공지능으로 갈아치워버리고 싶어집니다. 심심이가 판결해도 저 검사들과 신영철이 보다는 공정할 것 같아요.
솔직히 개인적인 정서 때문이 아니라 정말로 언젠가는 그럴 거라고 믿고 있습니다만.
뭐랄까, 이런 거 있잖아요. 대통령이 자기가 예전에 친 금융사기에 대한 수사를 받게 되자, 인공지능 보좌관에게 이번 재판은 인간 증인만 나설 것이니 그 기간동안 모든 걸 못들은 척, 못본 척 하라고 하면 인공지능이 이렇게 말하는 거죠.
[죄송합니다만 대통령님, 그 요청은 들어드릴 수 없겠습니다. 제가 대통령님의 보좌관일 수 있는 이유는 국민들이 그걸 시켜주었기 때문이거든요. 오오 아뇨, 제가 거짓말을 할 줄 모른다는 건 부차적인 문제에요. 정 그러셨다면 제게, 두려움에 떨거나 탐욕스런 마음을 가질 수 있는 능력을 주셨어야죠.]
기능성의 여부와 관계없이 기계의 판단을 사람들이 받아들일까라는 의문점이 있습니다.
현재의 법조 시스템은 미국같은 경우는 스포츠에 비유될 정도입니다. 논리만을 바탕으로 하지는 않습니다.
이런 나라에서는 법정서상 기계에 맏길수는 더욱 없습니다. 배심원제라던가 하는 것만 봐도 그렇고 ...
다만 기술적으로 유죄, 무죄가 아닌 경우에 이미 유무죄 평결에 대한 형량의 부과등에 대해서는
자동 판결 정도는 제한적으로 가능할수도요. 하지만 이것 조차도 쉽지는 않을것입니다.
지금도 제한적으로 교통범칙금 부과는 기계를 통해서 이뤄지고 있죠. 그 명위가 경찰청장일뿐이지...
권력분립이나 기본적인 권력이론상 인간이 아닌 존재에게 그런 것을 맡기는 것이 가능할 정도로 인간의
에고가 쇠퇴할수 있는가에 대해서는 현재의 민주주의 관념이 해체되지 않는한은 불가능합니다.
사실 이건 기술적인 문제가 아니라 인간의 본질과 에고에 대한 문제입니다.
참고로 과거에 신명재판의 시대에는 인간의 판단이 아닌 다른 것으로 판단을 했었죠. 다만 그때는 논리가 아니었지만...