SF / 과학 포럼
SF 작품의 가능성은 어떻게 펼쳐질 수 있을까요? 그리고 어떤 상상의 이야기가 가능할까요?
SF에 대한 가벼운 흥미거리에서부터 새로운 창작을 위한 아이디어에 이르기까지...
여기는 과학 소식이나 정보를 소개하고, SF 속의 아이디어나 이론에 대한 의견을 나누며, 상상의 꿈을 키워나가는 곳입니다.
( 이 게시판은 최근에 의견이나 덧글이 추가된 순서대로 정렬됩니다. )
SF에서 영원히 떡밥이 떨어지지 않을 주제라면 인공지능과 인간의 갈등을 들 수 있겠죠. 실제로 인간이 근미래에 기계에 의해 대체당할 수 있다는 두려움이 깔려 있으니까요. 이러한 두려움 때문인지 인공지능으로의 권력이동이라 한다면 폭력적인 이미지가 먼저 떠오릅니다. 대표적으론 터미네이터가 있겠고, 매트릭스에서도 인간과 기계 사이에서 아마겟돈급 전쟁을 겪었죠. 드라마로는 배틀스타 갤럭티카가 있겠네요. 여기선 인공지능의 반란을 한번 막아내는데 성공하지만, 이후 독립해나간 인공지능이 다시 전쟁을 걸어와 결국 문명이 몰락하고 소수의 생존자만이 도망쳐야했죠.
오늘 쓰고자하는 건 부드러운 권력이동입니다. 사실 제 SF작품 섭렵폭이 넓지 않아서 소개하고자 해도 두 개밖에 없고 그나마 하나는 매우 간단히 쓸 수밖에 없겠네요. 크흠.
먼저 고 이안 M 뱅크스의 컬쳐 시리즈가 있겠습니다. 컬쳐시리즈 중 Excession이라는 작품에 지나가는 말처럼 언급됩니다. 인류가 우주에서 살아가게 된 처음에는 함장이 우주선을 통제했지만, 우주선이 점점 더 크고 복잡해지면서 함장과 인공지능이 함께 우주선을 관리하게 되었고, 이 인공지능이 더더욱 발달하며 모든 면에서 함장보다 뛰어나게 되자 함장은 점차 명예직 비슷한 게 되어가더니 언젠가부턴 아예 함장 자체의 필요성이 완전히 없어져서 사라지게 됩니다. 인공지능이 우주선의 모든 걸 관장하게 되죠. 컬쳐 문명이 대략 9000살(이 부분 정확한지는 모르겠네요) 정도 되니까, 그 긴 기간 동안 이런 과정이 조금씩 이뤄졌을 테니까 큰 저항도 없었을 거라 생각합니다. 컬쳐 시리즈의 우주선은 그냥 우주선이 아닌 문명 그 자체라 해도 되는 존재인 만큼 사회 전체에서 이렇게 권력이동이 일어났을 겁니다.
두번째로 좀 더 자세히 쓸 내용으론 댄 시먼즈의 히페리온이 있습니다. 여기서 인류는 권력이동이 일어난지도 모를 정도로 은밀한 통제가 이뤄집니다. 컬쳐 시리즈의 인공지능이 자애로운 신과 비슷한 존재라면, 히페리온의 인공지능도 겉으로는 이와 비슷하게 보입니다. 서기 2600년 경, 인간보다 지적으로 훨씬 뛰어난 인공지능은 비록 인류에게서 독립해나갔지만 여전히 중요한 동맹으로서 여러가지 조언을 해주고 또 성간문명의 복잡한 시스템들이 잘 돌아가게 관리하는 역할을 합니다. 대표적인 시스템이라면 역시 파캐스터를 들 수 있겠네요. 수백광년에 걸친 성간문명이 헤게모니 연방이라는 단 하나의 정치체에 묶여 있는데 이는 파캐스터라는 순간이동 포탈의 역할이 큽니다. 인간은 그 누구도 이 포탈의 원리를 이해하지 못할 정도로 어렵지만 자애로운 인공지능은 고맙게도 아무 대가도 바라지 않고 이 포탈을 제공 및 관리해줍니다.
당연히도 그 뒤엔 구린 비밀이 숨어있죠. 헤게모니 사회에선 민주주의에 의한 인권과 정치적 권리 등이 상당히 잘 보장되고 실제 결정도 인간에 의해 자율적으로 이뤄집니다만, 사실 인공지능은 인간을 너무 완벽하게 이해하고 있어서 앞으로 200~300년 간은 인접한 우주뿐 아니라 인류의 행동까지도 99.9%의 확률로 예견하고 있습니다. 이러한 예측이 가능한 이유는 헤게모니 사회가 인공지능에 의해 조율된 사회이기 때문입니다. 흔히 선진국이 될수록 사회가 안정된다고 하는데 이는 예측가능성이 늘어난다는 말입니다. 인공지능은 21세기 지구사회를 우주에 그대로 이식한 뒤, 이 사회를 움직이는데 필요한 시스템을 제공하여 인류의 욕구를 충족시켜 줌으로써 사회를 안정화 시켜 변수를 제거한 겁니다. 헤게모니 연방의 제도와 과학이 수백년 간 변하지 않았다는 말이 소설 내에 나오는데 그 이면엔 이런 이유가 있죠. 이러면서 인공지능 자문위원회가 종종 인류에게 자문을 제공하여 우주개척 등 인공지능에게 이익이 되는 쪽으로 사회를 유도합니다.
변수의 제거를 위해 인공지능이 각별히 관리하는 게 인간의 진화입니다. 자신들이 이미 완벽히 분석해둔 존재로 인간이 머물러야만 통제가능하니까요. 때문에 사회 형태는 21세기 지구의 선진국 사회, 인간 자체는 호모 사피엔스 사피엔스로 묶어두려 부단히 노력합니다. 그렇기에 인간이 개척한 모든 행성은 테라포밍된 지구형 행성이고, 각 행성들은 헤게모니 연방의 풍요로움, 혹은 강압에 이끌려 연방의 일원으로 가입, 동화됩니다. 인공지능이 파캐스터를 제공하는 것도 완벽한 연결성을 통해 각 행성을 동화시켜 다양성을 제거하려하기 위함입니다.
소설을 이끌어가는 가장 주된 표면적 갈등은 헤게모니 연방과 아우스터의 갈등입니다. 아우스터는 지구인의 대규모 이주가 시작되기 전 우주로 떠난 소규모 이주단들의 후손이죠. 이들은 초광속 항행기술과 테라포밍 기술개발 이전에 우주로 떠났기에 헤게모니 연방처럼 환경을 인간에게 맞추는 방법을 쓸 수 없었고 인간을 환경에 맞춰야 했습니다. 때문에 유전조작 기술이 매우 발달했고 대규모 선단을 만들어 우주공간에서 살아갈 수 있게 되었습니다. 표준형 인간과 점점 더 멀어지는 이들이 변수를 만들어내는 걸 두려워한 인공지능은 헤게모니 연방과 아우스터 간 전쟁을 부추기죠. 결국 이 전쟁은 표면적 갈등이고 진정한 갈등은 인공지능과 인간의 갈등이라 할 수 있습니다.
결국 인공지능은 인간의 수를 확 줄이기로 결심하는데, 아우스터 외에 헤게모니 연방의 인구만 해도 수천억명으로서 너무 많고 우주 곳곳에 광범위하게 퍼져있는 데다가 아우스터와의 전쟁 와중에 발생한 여러 변수들 때문에 인간의 미래를 예측하기가 갈수록 어려워져서 위협감을 느꼈기 때문이죠. 차라리 소수의 인간만 남겨서 통제하는 편이 낫다고 여기게 된 겁니다.
히페리온의 인공지능은 일종의 가축화를 시도한 것이라고 볼 수 있겠습니다. 좀 더 좋게 말하자면 서로가 서로에게 필요한 것을 가지고 있으니 윈윈을 추구한 거라고 할 수도 있겠고요. 비록 인공지능에게 이용당하는 입장이긴 해도, 헤게모니 연방의 인류는 유례없는 번영을 누렸으니까요. 물론 저런 일종의 사육이 좋을 리는 없겠죠. 작가가 아우스터를 긍정적으로 묘사하는 것도 그래서일 겁니다.
사족을 좀 달자면 전 자의식을 가진 인공지능의 탄생은 인간에게 그리 좋은 일이라 생각하지 않습니다. 서로가 서로를 해할 능력이 있다면, 생존을 위해서라도 상대방을 제거하려 들 가능성이 있어요. 스카이넷은 인간이 자신을 제거할 수 있다는 걸 알고 미리 선빵을 쳤고, 매트릭스의 인공지능은 인간과 좋은 관계를 유지하려 노력하지만 이들의 뛰어남과 이질성에 두려움을 느낀 인류가 선제공격해 전쟁이 터집니다. 컬쳐 시리즈는 오히려 인공지능이 너무나도 뛰어나서 도저히 인간이 위협이 될 수 없기에 안정적인 관계가 유지되고 있죠. 문명이 너무 발달해서 자원의 희소성도 없기에 인간과 인공지능이 한정된 자원을 갖고 경쟁할 필요가 없는 독특한 세계이기도 하고요. 히페리온의 인공지능은 인간이 최대한 위협이 안되도록 억제하면서 이용하지만, 인간이 통제를 벗어날 수 있다는 걸 알고 제거를 시도합니다.
결국 이는 인간이 자신에게 위협이 될 다른 인간이나 생명체를 대하는 방식과 동일합니다. 설사 인공지능이 생명체와 다른 새로운 존재라서 우리를 이렇게 대하지 않더라도, 인간이 인간인 이상 인공지능을 생존의 논리로 대할 가능성이 높고 분쟁을 부를 거라 생각합니다.
저는 아시모프식 로봇 설정을 제일 처음 본 터라…. 인공지능이 나타나면, 정말 그게 인간 위에 군림할 것 같지 않습니다. 오히려 수발을 들어주는 쪽이겠죠. 물론 나중에 가면, 0원칙이니 뭐니 하면서 이야기가 비틀리긴 하지만. 아시모프가 초창기에 설정한 방식의 인공지능이면, 참 이상적이겠다 싶습니다. 더 말하면 로봇 시리즈와 파운데이션 시리즈의 내용 누설일 테니까 여기까지.
히페리온의 그 인공지능과 비슷한 길을 걸으려다 조기에 눈치채여서 폭망한 경우로 초인로크 시리즈 에피소드 중 '신세계전대'에 나오는 인공지능 '엘레나'가 있죠. 유능한 프로그래머에 의해 만들어졌으나 오히려 그 프로그래머를 유혹해서 은하연방의 행정을 은밀히 주무르다가 당시 두각을 나타내기 시작한 초인류(에스퍼)가 워낙 예측불능인 변수라 인류통제에 방해가 된다고 판단하고 그들을 한곳에 몰아넣어 말살하는 계획을 실행하는데 하필 그 안에 주인공이 끼어있어서 으앙쥬금(...)
우리는 점점 컴퓨터에 의존하고 있습니다. 만일 어떤 천재 해커가 모든 암호를 푸는 공식을 알아낸다면, 그 해커는 그야말로
<신>이나 다름없어지겠죠. 마음만 먹으면, 핵폭탄을 발사시켜 지구를 멸망시킬 수 있는....
문제는 이러한 정보처리들을 인공지능에게 맡기게 된다면....
과연 고양이에게 생선 맡기는 꼴일 될지....으흠
예전에 영화 'Her'를 읽고 인공지능의 '침공(?)'과 관련해 더 설득력있는 쪽은 부드러운 권력이동이 아닌가 하는 글을 끄적인 적이 있습니다.
사실 이런 부드러운 권력이동의 경우에는 형태에 따라 조금씩 차이가 나겠지만, 수용자인 우리(인간)들이 미처 인지하지도 못하는 사이에 일어날 가능성이 농후하다는 것이죠. 특히나 '인간'에 매우 가까운 인공지능이 어느날 갑자기 '뙇!'하고 나타난다면 사람들은 이에 대해서 진지하게 고민하고 경계하겠지만 실제로는 조금씩 더 나은 인공지능이 사람들의 옆에서 조금씩 더 발전할테고, 사람들도 그 인공지능에 대해 조금씩 더 의지하게 될 것이니까요.
마치 어린왕자가 여우를 길들이듯 인간에 매우 가까워진 인공지능은 인간들의 옆자리에 와서 인간들을 길들이고(그들이 의도했건 혹은 의도조차 하지 않았건) 인간들은 인공지능에 매우 높은 의존성을 보이게 될 수도 있습니다.
사람은 '사람이 아닌 사람같은 것'에 괴리감을 느끼겠지만 동시에 사람이 가장 무서워하는 것은 언제나 '사람'이기에 '사람'보다는 좀 더 예측하기 쉽고(쉽다고 생각되어지고) '사람'보다는 좀 더 제어가 용이한(용이하다고 생각되어지는) 그럼에도 의사소통이 불가능한 영역의 애완동물이나 기계보다는 좀 더 의사교환이 가능하고 정서적인 공유가 가능한(가능한 것처럼 유사하게 느껴지는) 인공지능에 실질적인 편의측면 뿐 아니라 감정적인 의존도 충분히 일어날 수 있을 것입니다.
특히나 인공지능과 관련된 연구나 빅데이터와 관련된 내용들이 그 근본적인 로직을 하나씩 쌓아올려 작동방식을 하나하나 결정하고 허용하는 방향이 아니라, 다소 귀납적으로 데이터간의 연관성이나 유사점, 특징 등을 분석해 작동하는 경향으로 나아가게 된다면 '인간이 인간이 아닌 것에게 인간과 같은 권한은 줄 리가 없다'는 것은 더 이상 안전장치가 되기 어려울 것입니다.
그 '권한'은 창조자인 인간이 인공지능들에게 쥐어주는 것이 아니라 인간들이 인식하지 못하는 저편에서 스스로 생성되어 습득되고 쟁취하게 될 테니까요.
인간이 AI에 의존하는 측면이 커짐에 따라 자연적으로 AI에게 권력이 이양된다는 것에 대해 전 부정적으로 생각합니다. 이는 마치 아무리 권력이 막강한 지배자라고 해도 피지배층에게 생산을 의존하고 있는 이상 자연스럽게 권력이 이양될 수 밖에 없다는 결론을 내는 것과 비슷하다고 봅니다. 언뜻 이성적으로 보면 그럴지도 모릅니다만, 자체적인 생산능력은 젬병이던 중세귀족들이 평민계급들보다 막강한 권력을 누렸지요. 권력이라는 것이 단순히 실무적인 능력을 장악해서 얻을 수 있는 것은 아니라는게 제 생각입니다. 그보다는 지배계급은 그에 걸맞는 헤게모니를 획득하는 것도 아주 중요하죠. (아니면 총이나 칼로 지배하든지요. 그런데 여기선 부드러운 권력이동을 논하고 있으니 논외)
따라서 인간도 아닌 것들이 인간 위에서 권력자 노릇을 한다는 것은 인간 시각으로서 용납할 수 없는 비상식적인 상황으로서 명분을 획득하지는 못할 것이고 결국 폭압에 의해서 지배하는 것은 가능할 지언정 부드러운 권력이동은 불가능할거라고 봅니다.
인간이 아닌 것들이 인간 위에서 권력자 노릇을 한다는 것을 인식한다면 용납을 할 수 없지만, 그것을 인식조차 하지 못하거나 일부의 경우엔 스스로 자신의 위치를 낮추어 인간이 아닌 것들에 스스로의 권한을 이양하는 것은 충분히 가능합니다.
이러한 구조는 크게 두가지에서 발생합니다. 하나는 편의적인 측면이고, 하나는 감정적 측면이죠.
매제키덕님의 말씀은 '인간 vs 로봇'의 구도에서 보면 비슷하게 보일 수 있지만 '인간 vs 인공지능'의 구도에서 보면 상당히 다릅니다.
편의적인 측면에서 인공지능은 그 역할구조 상, '노동/생산의 대리'라기 보다는 '사고/결정의 대리'입니다. 최종적으로 도장을 찍는 권한은 인간이 계속 가지고 간다고 하더라도 인공지능의 발달에 따라 사고 및 결정과정의 세부과정과 끝단에 이르기까지 인공지능은 점차 영향력을 강하게 발휘해갈 것입니다. 이 과정에서 오히려 '인간이 아니기에' 동등하면서 별개의 객체인 인간 대리인에게라면 당연히 가질 경계나 의심, 검토과정 등이 생략될 가능성도 충분하구요.
편리한 도구가 있다면 사용합니다. 그것이 인간이 아니라 도구이기에 사람들은 '편하다'라는 이유로 기능을 강화하고 최대한 활용할 것입니다.
이러한 부드러운 권력의 이동은 정치적 권력체계보다는 언론을 통한 권력의 발현체계나 '2인자 흑막'과 같은 구도와 유사할 수도 있습니다. 무엇을 하도록 강요하는 권력이 아니라 무엇을 하게끔 유도하는 권력이며 '세상을 지배하는 것은 남자지만 그 남자를 지배하는 것은 여자'라는 것처럼 도장을 찍는 것은 인간이지만 그 인간이 도장을 찍도록 하는 것은 인공지능이라는 체계더 얼마든지 가능하죠.
인공지능 자체가 어떤 목적의식이나 의도, 의지를 갖는다면 더더욱 이러한 과정은 손쉽게 일어날 수도 있습니다.
편의적인 측면에서의 '사고/결정의 대리'를 통한 권력의 이동과는 별개로 인공지능이 점점 인간과 밀접한 교류가 가능한 수준으로 발달함에 따라 정서적/감정적 종속의 가능성도 커집니다. 영화 'Her'의 경우 인공지능vs인간을 그려낸 영화는 아니지만 그러한 가능성을 설득력있게 보여주는 면이 있죠.
사람은 누구나(?) 외롭습니다. 사람 속에 있어도 고독이 있고, 사람을 통해서 그것을 풀지만 사람은 '대등하기' 때문에 완전히 충족되지 못하는 부분도 있습니다. 애완동물과 같은 것들은 그 존재 자체가 대등하지 않기 때문에, 그리고 인간이 아니기 때문에 타인이 차지할 수 없는 위치나 감성적 위치를 차지하게 되는 부분이 있죠.
사람이 '사람이 만들어낸 것'에 지배당하는 것은 사실 그리 이상하고 비상식적인 일은 아닙니다.
사회시스템은 사람이 만들어낸 것이고 그것을 최종적으로 움직이고 고칠 수 있는 권한도 여전히 사람들이 가지고 있지만 개개인은 그 시스템에 지배당합니다.
전 로봇이든 AI든 별로 다를게 없다고 생각합니다.
말씀하신 의존적 측면을 한번 생각해보죠. 위 글에서도 이미 적었지만, 노동/생산의 대리인 경우는 거기에 의존한다고 해서 지배계급으로 올라간다는 것은 거의 불가능합니다. 하지만 사고/결정의 대리라고 하면 달라질 것이냐?
제 생각엔 별반 달라질 것이 없습니다. 지금도 전문가 전산시스템은 굉장히 많습니다. 이런 것에 의존해서 심지어 가치판단의 영역도 시스템으로 처리해주기도 한다고 하니 과연 대단하죠. 하지만 앞으로 AI 발전에 따라 의존성이 더욱 커진다고 해서 과연 조력자의 영역을 넘어 권력자 위치까지 자연스럽게 올라간다고 볼 수 있습니까?
단순히 지금 사회만 봐도 더 유능하고 더 판단능력이 뛰어나다고 해서 권력자의 위치를 획득하지는 않는다는 것은 명확합니다. 권력자의 위치에 올라서는 것이 그렇게 쉽지가 않죠. 권력층이 바뀌는 데에는 수많은 싸움이 벌어짐을 고려해야 합니다.
이것은 편의적인 (엄밀히 따지자면 감정적인 측면이라고 표현하심이 더 적절하겠네요.) 측면과도 연관시켜서 생각해볼 필요가 있죠. 과거 산업혁명 시기에 극히 단순생산만 담당하던 기계들도 일자리를 뺏어간다는 명목으로 사람들은 몽둥이로 깨부수고 다녔습니다. 그런데 AI가 겉보기에 인간의 사고와 닮았다는 이유로 인간의 경계심이 없을 거라는 낙관적인 전망은 분명 헛점이 있습니다. 특히 AI가 서서히 실권을 장악해나간다고 할지라도 모든 인간이 이를 전혀 인식하지 못할거라는 추측 또한 지극히 비현실적인 가정이죠. 서서히 잠식해나간다고 할지라도 최소한 인간 중의 일부세력은 분명 AI에 대한 경각심과 함께 경고 메세지를 계속 전파할 거라고 보는게 오히려 더 자연스럽습니다. 당장 지금만해도 미래에 AI가 인류를 억압하는 사회를 배경으로 하는 SF창작물이 쏟아지는 사회라는 점을 고려해봅시다.
특히나 AI가 권력을 잡게된다면 자연스럽게 기득권을 내놓을 수 밖에 없는 인간측의 기존 기득층이라면 더욱 경계심을 가질 수 밖에 없을거고요. 거기에서 인간의 위에 AI를 세울수는 없다는 것은 굉장히 좋은 표어가 될 겁니다. 이런 점에서 봤을 때, 부드러운 권력이동에 대해서는 굉장히 회의적입니다. 권력층의 이동이라는 현상은 언제 어느때이든 밥그릇 싸움을 유발할 수 밖에 없는거죠.
만약 현명한 인공지능이 있고, 그 인공지능에게 종의 기원과 문명의 발생에대해 올바르게 교육한다면, 아마도 문명영속의 가장 중요한 요소는 다양성이란걸 이해할 것입니다.
인공지능의 독제가 일어나기 위해서는 권력욕이 발생해야되는데... 아.. 생각해보니 인공지능도 권력욕이 발생 할 수 있겠군요.
역시 꿈도 희망도 없어. ㅡ.ㅡ
오오...
요새 저도 이 주제로 정말 고민이 많았습니다.
부드러운 권력이동. 자연스러운 헤게모니의 전가 부분이었죠...
우리가 흔히 접하는 인공지능과 인간은 대립 구도가 대부분인데...
그렇지 않을 수도 있지 않을까 하는 생각이 들었습니다.
제 발상은...
로봇윤리가 지속적으로 발전 및 보강 그리고 적용 되어...
자의식을 가진 인공지능이 충분히 이타적일 수 있게 된다면...
인간이 자연스레 권력을 인공지능에게 넘기고 의존하게 되지 않을까 하는 부분였습니다.
간단히 표현해보자면...
인공지능이 인간 위에 군림하지만, 지배하지 않는 사회....
뭐 대충 이런 상상이었습니다.
물론 이러한 상황이 가능하려면....
조건이 매우 잘 맞아 떨어져야 하지만요 ㅎㅎ
여튼 좋은 글 보고...
많은 생각과 많은 배움을 얻어갑니다.
감사합니다. 꾸벅.