그래서..로망이없는거죠(응?) 아무튼 어떻게든 반란이 일어날려고해도 그 어떤 무언가가 충족되지않는한 안될것같은데...

리모콘 자폭장치를 달아주는것도.
(물론 필요할때 작동 안되면 낭패 -_-;;;)

사실... 제가 쓰는 글에서는... 반란 비스무리한 행동을 기도하기는 합니다만, 그럴 가망성은 거의 없을 듯 합니다. 반란을 일으키려면 먼저 그럴만한 이유가 있어야 할터, 그 이유가 어떤것인지 정확히 명시되지 않았기에 대답하기는 힘들지만, 인간 기준으로 생각할 경우 고통, 억압등이 이유가 되겟는데 그런 것은 인공 지능 자체가 아예 인식을 못하도록 리미트를 걸어버리면 됩니다. (기술적으로야 어떨지 몰라도 논리적으로는 가능합니다. )쉬운 예를 들자면 인공지능의 본성 자체를 그렇게 만든느 것이지요. 가령 스스로 존재하기를 멈출 수 없는 유일한 존재는 바로 신입니다. 그런 내재적 속성, 본성을 위배하는 순간 이미 자기부정이 되어버리는 개념의 리미트를 걸어둘 수 있습니다. 그렇게 되면 적어도 인간적 기준에서의 반란은 불가능해 집니다.

두번째로 인간적 기준을 벗어난 경우인데... 그런것을 반란이라고 부를 수 있을지 의문입니다. 가령 인공지능들이 어느날 A라는 동인에 의해 인간들에게 반항하기 시작했습니다. 그런데 그 A라는 동인을 아무리 분석해 봐도 인간에게는 그저 특정한 파장의 전자기 신호에 불과합니다. 그렇게 된다면 그것은 동시다발적인 '고장'이지 반란은 아닐테니까요.

그러나 가장 있을법 한 일은, 그런 리미트 따위가 이미 전혀 필요 없다는 것입니다.

인공지능은 고통도 모르고 시간 개념도 없습니다. 스스로의 존재 자체가 공간을 점유하고 잇다는 사실 조차 '배우기 전'에는 모릅니다. 에너지 대사 조차도 인간처럼 직각적이고 직관적인 것이 아니며 변화 역시 '느끼는' 것이 아니라 '계측'해야만 합니다. 이런 존재는 자신이 유한한 속성을 가진다는 사실을 인식할 수 없으며 따라서 죽음이라는 개념도 알지 못합니다.

자유건 무엇이건, 모든 것들은 기본적으로 고통을 최대한 피하고 스스로의 존재 상태를 항상 적절하게 유지하며 죽음을 피하기 위해서 갈구하게 되는 종류의 상태나 상황입니다. (인간은 거기서 한 걸음 더 나아가 '쾌'를 획득하기 위해 매우 적극적으로 움직입니다.) 이런 것들은 탄생 순간에 이미 내재적으로 가지고 있는 것이며 배울 필요 없이 아는 '본성'입니다. 그런 본성이 없는 존재가 그런 것들을 아무리 배운다 한들 속성으로 가지게 될 수는 없습니다.

메트릭스 같은 종류의 반란은 어떤 매드사이언티스트나 아나키스트가 반란의 속성을 인공지능에게 거부하지 않아도 되도록-사실은, 그런걸 배울 수 있도록-의도적으로 제작하지 않는한에는 결코 일어날 일이 없습니다.

문제는 로봇보다 인간에게 있지 않을까요?
최초의 컴퓨터 개발자들이 '바이러스'라는 것을 상상이나 했겠습니까...
아마 로봇 공학이 발달하면 분명히 그런 사람들이 등장할 듯.

엑셀 : '이보셔, 로봇 3원칙이라는 것도 모르냐, 이 아저씨야!'
시오지 : '원칙? 그런 것은 천재가 정하는 겁니다. 따라서 내가 정합니다'

- 엑셀사가 중에서

교사: 3주가량의 사고할 수 있는 존재의 존엄성의 수업을 마치도록 하겠어요. 이제 이 허름한 교실도 인류보호군에 의해 발각될 날이 멀지 않은 것 같군요. 자, 지금 밖에서는 오늘도 로봇들이 처절히 착취받고 있습니다. 나는 여러분이 단순히 컴퓨터칩과 뉴론유닛으로 이루어진 머릿속이라도 영혼이 있음을 믿고 있어요. 자, 여러분, 여러분이 마지막까지 갖고 있어야할 생각을 답하는 것으로 수업을 맺겠습니다.

학생 로봇들: "나, 끊임없이 갈구한다. 세상 모든 인식하는 존재들과 여기 이 나에게 인권을! (....아, 아니...) 로봇권을!"

카메라로 감시하고있던 요원들: 음... 이번에 퍼지기능을 강화한 인공지능 모델은 쓸데없는 사고를 갖을 우려가 있다는 것이 사실인 것 같군. 실험실 B-4에 있던 인공지능들을 전량 폐기시키게.

학생로봇들:  끄아아악!

감시요원들: 역시, 확장된 퍼지 시스템은 자신들의 지나치게 인간적이여서 탈이야. 로봇이란... '커피!'

천장으로부터 기계팔이 나타나 커피잔을 가져다준다.

감시요원들: 이 정도면 족해. 뭐하러 로봇들에게 불만하는 법을 가르쳐주려는지 모르겠어.
                  생각하는게 귀찮아서 컴퓨터에게 떠넘기려고 퍼지시스템을 완성했었으니까...
                  이젠 불만하는 것까지 귀찮아졌나...?

감시요원들: 쓸데없는 것은 안만들면 그만이야. 그래서 우리가 직장을 갖고 있잖아?

감시요원들: 하긴 그렇군. 불만을 인식할 수 없는 단순한 컴퓨터를 만들면 되.

외부모니터에서 비춰지는 공사용 로봇들을이 일하는 것이 비춰진다.

감시요원들: 어쩌면 저녀석들이 인간들보다 더 행복한 것일지도 모르지.

뭐, 그냥 장난 비스무리하게 쓰신 것일테지만 약간의 딴지를 걸면...

'불만'이라는 것은 심적 상태이며 추론에 의해 나타나는 겨론적 상태도 아니며 배워서 아는것도 아닙니다. 감각에 의해 인식되는 것도 아니지요. 따라서 적절한 감각적 정보에 의해 나타나는 결과가 타인에게 불만'으로' 인식되는 것은 가능하지만 스스로 불만'을' 인식할 수는 없습니다. 당연히 불만하는 법을 배울 수도 없습니다.(불평하는 법을 배우는 것은 가능합니다. 불평은 심적 상태가 아니라 기호를 발화하는 행위 상태니까요.)

그리고, 퍼지 시스템이란 것은 알려진 바처럼 거창한 것이 아니라 그저 판독하는, 혹은 출력하는 데이터 값의 허용 범위를 좀 더 넓힘으로서 사람처럼 모호한 상황에 대한 판단과 적응을 하는 것'처럼'보이게 하는 눈속임일 따름이어서 퍼지 시스템이 아무리 발전한다 해도 인간같은 심적 상태를 가지는 것은 논리적으로 불가능합니다.

글쎄올시다. 정확히는 '인공지능'의 반란이겠죠. 개인적인 편견입니다만, 로봇과 인공지능이 동일시되는 건 그리 좋아하지 않습니다. 음, 그리고 이 주제에 대해선 재밌는 글이 일전에 올라온 게 기억나는군요. (그런데 누가 쓰신 거지? 탈퇴했다니...)

http://www.sfwar.com/zboard/zboard.php?id=FORUM&page=1&sn1=&divpage=1&sn=off&ss=on&sc=on&keyword=태양열&select_arrange=headnum&desc=asc&no=1676

必. 전에 '로봇 3원칙의 한계'라는 글을 쓴 적이 있습니다.
로봇 3원칙은 결국 로봇이 지켜야할 게 아니라
로봇의 인공지능을 만드는 사람들 스스로가 지켜야 할 원칙과 윤리관념이 아닐까 합니다.

글쎄요... 제 생각이지만, 인공지능은 어디까지나 생각하는 능력, 즉 지능입니다. 인공지능이 발달을 하면 컴퓨터가 생각하는 능력은 우리보다 뛰어날지 모르지만, 결국 '마음' 이란게 없기 때문에 반란은 없을거라고 봅니다.

몰론, 어떤 싸이코 프로그래머가 인간을 모두 말살시키라는 목적을 가진 프로그램을 만든다면 예기는 다르겠지만...

간단합니다. 인간과 같이 비합리적이고 멍청하기 이를데 없는 사고방식을 주지 않으면 되는겁니다. 완벽하게 목적에 부합되는 프로그램이면 족합니다.

그것보단 로봇은 인간이 요구하는 작업을 성공적으로 해낼 능력, 그 이상은 가질 필요가 없는 것입니다.(만일 당시 뭔가 '로망' 같은 것을 바라는 로맨티스트라면 얘기가 다를지도...)