A. 미래의 가능성

 작년 말에 PSYCHO-PASS를 보고 계속 곱씹어 보고 있던 차에, 교수님이 4차 산업혁명을 주제로한 에세이를 과제롤 내주셨습니다.

마음은 하드한 SF느낌 물씬 풍기며 폭주해 보고 싶었지만(시빌라 시스템!!!) 장학금에 매인 신세인걸 떠올리고 좀 더 현실에 일어날 법하게 가정해 작성했습니다.

 부끄러워서 감히 여기에 전문을 올리지는 못하겠고요,, 요점만 쓰겠습니다.

-----[이하 요약]-----

 딥 러닝을 기반으로 하는 현재의 인공지능은 사법 분야에 적용될 경우 2가지 근본적 문제점이 있습니다.

  1.  쓰레기를 넣으면 쓰레기가 나온다

 - 인공지능의 학습에 쓰이는 자료가 왜곡되거나 편향된 경우 인공지능은 그것을 따르는 경향이 있음을 말합니다. 대표적 사례로 MS의 체팅봇 테이가 특정 인터넷 사이트 회원들의 고의적 학습으로 인종차별적 발언을 한 적이 있습니다

  2.  인간의 판단을 모사했을 뿐이지 그 과정은 판이할 수 있다. 

 - 예전에 이 카페에 어느분이 올린 적 있는 문제점입니다만, 말이 나오는 사진을 고르라 했는데 알고보니 인공지능은 '경마장'이나 '말' 같은 단어가 나온 사진을 고를 것으로 밝혀진 적이 있었습니다.

 1번 문제는 어찌보면 인간의 문제라 할 수도 있죠. 분명히 개선되는 추새이기는 하지만 아직 우리 사회는 부자와 가난한 자가 정말 공평한 재판을 받았는가 라는 질문에 당당히 답할 수준은 아니라고 생각합니다. 또 과거에 있었던, 가치관의 변화로 지금은 무죄로 판명난 판결들과 권력에 의해 고의적으로 주작된 재판들을 생각해 보면 이 자료들을 그대로 인공지능에 학습시켜 공정한 판결이 나올것이라 기대하기는 힘들 것입니다. 

 그렇다고 합의에 의해 과거의 판례들을 선별적으로 학습시키려 하면 누가 그 권한을 가질 것이며 기준은 어떻게 되는지가 문제입니다. 애초에 이런 합의가 현재 인류에게 가능한 것인지도 의심스럽고요. 게다가 누군가 권한을 남용해 악의적으로 학습 자료를 자기 입맛에 맞게 선별한다면 정말 디스토피아 그 자체이겠죠.

 2번 문제는 사진을 고르라는 과제를 재판으로 치환하면 바로 소름이 돋는 문제점 입니다. 인공지능에 의해 혐의가 재기되어 조사하고 유죄로 밝혀져 감옥에 보냈는데 알고보니 인공지능의 판단 근거가 드라마 시청 목록이나 식습관이라면 어떨까요? 혹은 인종이나 계층, 또는 학력이 유죄 판단의 주된 근거라면? 물론 이러한 근거들이 실재로 범죄와 관계가 있을수도 있고 지금의 재판이라고 고려하지 않는 것도 아닙니다. 하지만 사람의 뇌와 달리 인공지능의 논리 구조는 추적이 가능하며 이는 우리가 지금까지 암묵적, 무의식적으로 행한 판단과 그 기준이 수면위로 들어남을 뜻합니다. 

 따라서 우리는 어느때 보다도 투명한 정보 공개와 대화가 필요하며 동시에 스스로가 생각해온 방식을 되돌아보고 반성해야 합니다.

-----[요약 끝]-----

에세이에서는 사법 인공지능 시스템에 대해 두리뭉실하게 서술했지만 여긴 SF카페임으로 제가 상상한 시스템을 간단히 설명하겠습니다.

- 판사는 인간이지만 재판에 있어서 인공지능의 의견 참조가 공식적으로 인정됩니다.(이미 미국에서는 재범 가능성을 계산하는 인공지능에 대해 합법하다는 판결을 내린바 있습니다). 변호사와 검찰 또한 증거자료 보존과 분류, 그리고 재판 결과 예상에 인공지능을 활용합니다.

- 개인 정보가 더 포괄적으로 수집되며 경찰의 인공지능은 이를 종합해 특이 행동을 검출해 보고하고 범죄 가능성을 계산합니다. 네트워크에 올라온 정보에 한하여 영장주의가 무시될 수 있으며 범죄 가능성이 어느 이상으로 높은 경우 보호감찰 등의 선행적 조치가 취해질 수 있습니다

여러분은 이런 시스템의 가능성에 대하여 어떻게 생각하시나요? 혹은 또 다른 생겨날 수 있는 문제점이 무었이 있을까요? 회원 여러분의 의견이 궁금합니다.

.

.

.

조금 긴 ps. 

 이 에세이를 제출하고 몇 주 안되서 대전 지법에서 '인공지능과 법'이라는 주제로 세미나가 열렸습니다. 제가 참조한 논문의 저자인 교수님도 참가하시고, 소위 '높으신 분'들은 어떻게 생각하고 있는지도 궁금하고, 참가 자격에도 제한이 없어서 수업 하나 째고 가보았습니다. 태어나서 처음 법원에 들어가는데 위압적인 분위가가 정말,, 여기 죄지어서 올 일은 없었으면 좋겠다는 생각이 들더라고요. 

 세미나에 대해 말하자면 주제에 비해서는 실망스러웠지만 주최 기관을 생각하면 기대 이상이었습니다. 법원의 보수성을 고려했을때 이런 논의가 진지하게 이루어지는 것 만으로도 무척 고무적인 일이 아닌가 생각합니다.  여러분이 궁금해 하실 '그럼 높으신 분들은 이것에 대해 어떻게 생각하고 있는가?'에 대해 제가 나름대로 보고 들은 바를 정리하자면 

 1. 인공지능의 법 인격은 인정되지 않는다. 아직은 도구에 더 가까우며 대리권을 행사할 수 없다

 2. 민사 분쟁 조정에서는 유용하게 쓰일 수 있다

이를 해석하면

 1. 내 밥그릇은 지켜져야 한다. 인공지능을 판결에 참고는 하겠다

 2. 귀찬고 머리아픈 민사소송은 인공지능에게 넘길 수 있다

정도가 아닐까 합니다 -_-

그리고 자리가 자리다 보니 초지능의 위험성에 대한 논의가 잠깐 나오기는 했지만 그렇게 진지하게 다루어 지지는 않았는데 한 교수님이 이렇게 말하시며 상황을 정리하시더군요.

 "인공지능에게 사람들이 너에게 시켰으면 하는 일을 하라고 명령하면 될 것 같습니다."

 태클, 오타 지적, 논리 모순 지적은 환영합니다.