SF / 과학 포럼
SF 작품의 가능성은 어떻게 펼쳐질 수 있을까요? 그리고 어떤 상상의 이야기가 가능할까요?
SF에 대한 가벼운 흥미거리에서부터 새로운 창작을 위한 아이디어에 이르기까지...
여기는 과학 소식이나 정보를 소개하고, SF 속의 아이디어나 이론에 대한 의견을 나누며, 상상의 꿈을 키워나가는 곳입니다.
( 이 게시판은 최근에 의견이나 덧글이 추가된 순서대로 정렬됩니다. )
기사 링크:
http://www.yonhapnews.co.kr/bulletin/2016/02/10/0200000000AKR20160210074700009.HTML
음...인간의 특정 노동(행위)을 대신 해주는 시스템 = 노동자(행위자)라는 등식이 법적으로 성립되는 셈이군요.
예를 들자면 요리를 대신 해주는 시스템 = 요리사, 물건 구매를 대신 해주는 시스템 = 구매자,
가사를 대신 해주는 시스템 = 가정부, 기업 경영을 대신 해주는 시스템 = 경영자 등등.
하지만 자율주행시스템이 사고를 냈을 경우에는 시스템 자체한테 책임을 물을 수 있을지 의문입니다.
게다가 소득이 따로 있는 것도 아니고 지출도 맘대로 못하니 법적으로 본다면
금치산자나 한정치산자 정도 되겠군요? ( -_-)a
그러나 머나먼 미래에 시스템이 너무 복잡해져서 인간이 직접 감독/수리/제거할 수 없을 지경이 되면
시스템에게 자율권 비스무리한 것을 부여하는 상황이 올 수도 있을 듯 싶습니다.
도로 주행을 하는 시스템에 있어서 유사시에 어떻게 행동하는가 같은 문제가 대두될 수 있습니다. 가령 눈 앞에 사람을 치일 수 밖에 없는 상황에서 급하게 꺾으면 차량이 사고가 난다면.... 같은 상황 말이죠.
이런 상황을 생각해서도 좀 더 많은 고민이 필요할 것입니다.
이런 로봇 차가 상용화가 되면 위와 같은 상황은 보통 "미연에 방지" 될겁니다.
이를테면, 로봇차의 상용화가 시작되고 나면 제일 먼저 사라지게 될 게 버스와 택시입니다. 버스·지하철의 경우 불특정 다수를 특정 위치에 대량으로 수송하는데 특화되어있고, 택시는 특정 소수를 불특정 위치에 수송하는데 특화되어 있지만 수가 적은데, 로봇차의 경우 불특정 다수를 불특정 위치에 대량으로 수송하는게 가능하거든요.
사고상황의 미연의 방지와 대중교통시장의
변화를 왜 언급을 하냐면, 보통 위와 같은 "공리주의의 딜레마"에서 나오는 문제는 "일어날 수 밖에 없는 사고"를 "어떻게
처리하는가"에 있는데, 실제 있었던 노후화된 버스가 브레이크 호스 파열로 내리막을 달리다가 주차장으로 돌려들어가 대형사고를 막는
상황은 로봇에 의해 부품피로를 계속해서 확인하고 문제가 있으면 다른 차량으로 교체가 되어버리는 시대에는 "일어 날 수가 없는
사고"가 되기 때문에, "어떻게 처리하는가"는 아예 우문이 되어버린다 이겁니다.
오히려 부품의 불량에 의한 사고가 더 크게 대두되겠지만, 하인리히 법칙을 중요하게 여긴다면 이에 대한 사고도 거의 무에 가까울겁니다.
결국, 전체적인 사고율은 오히려 사람이 운전할때보다 줄었으면 줄었지, 늘지는 않을겁니다. 그렇더라도 분명 사고는 생길 것이고, 이후 생기는 AI에 결정의 상당수를 의지하는 인간의 인간성에 대한 고찰 같은건 그 시대를 사는 사람들이 천천히 해결해야할 문제겠죠.
사실, 공리주의 딜레마 모형도, 경제학의 완전시장모형과 같이 극단적인 상황에서의 인간성의 한계에 대해서 물어보기 위해서 현실적으로는
불가능한 상황을 정의하고 사전에 고찰해보자는 지적 유희에 불과합니다. 마이클 샌델의 정의란 무엇인가 강의, 소설과 그 영화화인
라이프 오브 파이의 실제 모델이 된 사건 등에서 언급되는 미뇨네트 호 식인 사건 등을 통해서 우리가 배울 수 있는건 그 상황에서
무엇이 옳은가를 결정하는 것은 그 상황이고, 그 상황에 처하지 않고 무엇이 옳은지를 고민하는건 오만일수도 있다는겁니다.
어떤 길은 가기 전에는 무엇이 있는지 알 수 없고, 이미 선택하고 난 뒤에엔 가지 않은 길을 후회해봐야 소용없지요.
사고율이 늘어나느냐, 줄어드느냐의 문제라거나 로봇에 의해 운행이 되면 '일어날 수 없는 사고'가 된다거나 하는 문제와는 다르다고 생각합니다.
로봇이 물리법칙 자체를 벗어나서 존재하는 것이 아닌 이상 모든 사고가 '일어나지 않을 사고'가 되지도 않을 것이고 비일상적인 상황에 의한 사고판단은 일어나게 마련이죠.
자동차가 모두 일련의 로직에 의해 정보를 주고받는 환경에서 운행되어 차량간 사고나 차량자체의 정비불량 등으로 인한 사고가 0%에 가까워진다고 해도 인간의 보행권을 제한하지 않는 이상 보행자와 차량간 사고는 여전할 것입니다.
인간의 인지능력을 초월하고 계산능력을 넘어선 합리적인 판단으로 피해를 '합리적으로 최소화'할 수는 있고 수치상으로는 그것이 인정될 수 있겠지만, 인명사고 등과 연결된 경우에는 '비효율적이고 불합리한 인간의 선택'이 '합리적으로 최소화된 기계의 선택'보다 더 존중받을 수 있는 것이 인간의 심리죠.
기계에게 그 판단의 책임을 묻기 힘들기 때문에 더더욱 그렇구요.
아폴로 1호 사고가 일어났을때 이야기했습니다.
"사고가 일어난 것은 상상력이 부족했기 때문이다."라고 말이지요.
그 누구도 아폴로 1호 사고 당시의 훈련이 위험할 것이라고 상상하지 못했기 때문이라고 말입니다.
자동 조종이 일상화되는 미래에는, 음주운전이나 졸음운전 같은 부주의로 인한 사고는 급격하게 줄어들 것입니다.
하지만 수많은(아마도 지금보다도 훨씬 많은) 차량이 달리는 상황에서 여러가지 상황을 상상하고 대비해야 합니다.
인공 지능에 의한 자동 조종 시스템은 분명히 훌륭한 것이지만, 그것은 오직 '인간이 상상한 영역'에서만 안전하게 달릴 수 있기 때문입니다.
화성에 인간을 보내야 하는 이유는 무엇인가? 기계는 상상을 하지 못하고 인간이 상상한 영역 내에서만 대응할 수 있기 때문입니다. 스피릿이나 오퍼튜니티가 수년에 걸쳐 했던 탐사를 인간은 불과 며칠만에 해치울 수도 있습니다.
스피릿과 오퍼튜니티, 그리고 큐리오시티는 인간이 상상할 수 있는 영역 내에서 자동으로 활동을 진행할 수 있으며 역경을 극복해나갑니다.
물론 도로 위에서는 화성보다 훨씬 안전하겠지요. 위기 상황이 적을지도 모릅니다. 그러나 상상도 할 수 없이 많은 차량이 질주하는 도로에서 어떤 상황이 벌어질지는 모르는 일입니다. 자동 조종 시스템 개발자들이 그러한 상황을 염두에 두지 않는다면, 정말로 무시무시한 참사가 일어날지도 모릅니다.
톰 클랜시의 [적과 동지(Dept of Honor)]에서는 판금 공장에서 불량전선으로 인하여 함석의 도금이 제대로 되지 않았고, 여러가지 우연이 겹치면서 결국 일본과 미국의 전쟁으로 비화됩니다. 사실 그 원인은 -물론 여러가지 요인이 더 있었지만- 그냥 불량 전선 한 가닥이었는데 말이지요.
기사의 요점은 '자율주행차 개발의 활성화를 위해, 현 법규정에서 자율주행시스템을 운전자로 해석하여 개발과정에서 발생하는 법적 갈등을 해소한다.'라고 생각합니다. 아직은 인간의 특정 노동(행위)을 대신 해주는 시스템 = 노동자(행위자)라는 등식이 법적으로 성립되는 단계는 아니라고 보입니다. 하지만 이런 종류의 논의들은 질과 양적으로 계속해서 증가하리라 예상합니다. 이상적으로 생각하면 기술발전과 사회의 흐름은 엎치락 뒤치락 하는 2인3각이 되어야겠지요. 글쓴님과 댓글쓴님들의 의견들처럼요. 재밌게 읽고 갑니다.
기사를 읽어 보니 딱히 고무적이거나 혁신적인 내용이라고 보긴 어려울 것 같습니다.
그 보다는 '미국 공무원'이니까 가능한 행정편의주의와 자유주의가 합쳐져 나온 유권해석 정도 같네요.
기사만 봐서는 구글드라이브에 대한 충분한 기술적, 법리적, 철학적 검토가 이루어진 상황에서 나온 게 아니라 현 시점에서 (관련 규정이 없으니) '운전자가 탑승한 차량'으로 간주하겠다는 이야기를 그쪽 애들이 좋아하는 화법으로 표현한 것뿐인 듯 해요.
그쪽 동네야 어차피 사고가 나면 그 책임은 자기들이 아니라 사법부가 가릴 거라고 생각할 테니까요(사실 한국도 그렇죠. 아니, 그래야죠. 그럼에도 주인 새끼 나와로 시작하니 문제지).
교통 법규 쪽은 잘 모르지만, 도로는 특별한 공간이기 때문에 저런 사례가 등장했을 성 싶습니다. 아무래도 여타 작업 공간이나 일반적인 거주 공간과 다르죠. 차량만이 이용하는 장소니까…. 창고의 지게 로봇 같은 종류는 어떻게 판단하는지 궁금하네요.
게다가 도로 주행 시스템을 행위자라고 간주해도 실질적인 책임은 시스템 설계/관리자가 맡겠죠. 기계에게 책임을 묻는 시대가 온다면, 지금 시각으로는 그것도 좀 우스꽝스러울 듯해요. 사람들은 남 탓하기를 좋아하니까 정말 기계 탓을 하는 사람들이 많을지도…. 모든 게 노무현 탓이라고 하는 사람들처럼 모든 게 기계 탓이라고 하는 사람들이 나올지도? 뭐, 아시모프 소설에는 그런 것도 나오니까요.