SF / 과학 포럼
SF 작품의 가능성은 어떻게 펼쳐질 수 있을까요? 그리고 어떤 상상의 이야기가 가능할까요?
SF에 대한 가벼운 흥미거리에서부터 새로운 창작을 위한 아이디어에 이르기까지...
여기는 과학 소식이나 정보를 소개하고, SF 속의 아이디어나 이론에 대한 의견을 나누며, 상상의 꿈을 키워나가는 곳입니다.
( 이 게시판은 최근에 의견이나 덧글이 추가된 순서대로 정렬됩니다. )
몇몇 SF작품에서는 인공지능이 인류를 여러 방식으로 지배하는 장면이 나옵니다.
이러한 상황이 현실에서 실제로 발생할지에 대해서는 각자 의견이 엇갈리고 있지요.
만약 인공지능이 세계를 지배하게 된다면, 그것이 과연 어떤 시나리오를 통해 가능할지 개인적으로 한번 생각해 보았습니다.
사실, 저는 개인적으로, 어떤 인공지능이 인간 사회 전반을 통제하게 되는 것은 단시간에 일어나기 어려운 현상이고,
여러 복잡다단한 요인들이 갖춰져야 비로소 가능한 일이며, 또 그 과정도 어쩌면 일반인들의 인식으로는 거의 깨달을 수 없을 만큼
점진적으로 이루어질 것이라고 예상합니다.
우선 제가 상상해본 시나리오는 이렇습니다.
먼저 여러 분야에서 동시다발적으로 인공지능이 활동할 수 있는 기초가 마련됩니다.
하위 단계에서는 차량 운전이나 청소, 수술 같이 실질적인 업무 차원에서 자동화가 진행됩니다.
중간 단계에서는 심장 박동 체크나 교통량 및 전기 사용량 측정처럼 주변 환경을 감지하는 센서 네트워크가 점점 확산됩니다.
상위 단계에서는 전문가 시스템, 즉 경제나 사회 분야에서 수학적 모델 및 예측 알고리즘이 만들어지고 업그레이드됩니다.
위의 세 가지 요소들은 인공지능의 지배 체계에 있어 필수적이라고 할 수 있겠지만, 아직 이것만으로는 충분하다고 볼 수 없습니다.
그 이유는 저들간에 서로 연결체계가 없거나 미비해서 스스로 어떤 피드백이나 일정한 행동 패턴을 낳을 수 없기 때문이지요.
하지만, 어떤 원인들로 인하여 인간은 저 요소들 사이에 연결고리를 구축하고 그 범위를 확대하기 시작합니다.
예를 들자면, 초기에는 차량이 스스로 알아서 교통량을 조사하고 목적지까지의 루트를 설정해 이동하는 것에서부터 시작해,
나중에는 프로그램이 교통 데이터를 사용하여 자동차 도로 및 지하철 노선을 직접 설계하는 수준까지 이른 것과 비슷하다고 할까요.
이렇게 만들어진 네트워크의 양과 밀도가 어느 순간 임계치를 넘어서고,
인간의 삶에 대한 인공지능의 간섭이 전반적으로 확산되고 그 정도도 심화된다면,
드디어 인공지능이 인류를 지배하는 시대가 도래하였다고 언급할 수 있을 것입니다
(비록 인류 대다수는 이를 인정하지 않거나, 오히려 그 우월성을 부각하거나, 아니면 아예 인식하지 못했을 수도 있겠지요)
이 과정의 궁극적인 단계는 인공지능이 입법권, 사법권, 행정권을 인간에 대해 행사할 때 비로소 실현되었다고 할 수 있겠습니다.
여기서 중요한 점은, 인공지능이 꼭 인간을 대상으로 한 지배 욕구를 가지지 않아도 된다는 것입니다.
단지 그것은 자신에게 합당한 임무를 착실히 수행했을 뿐인데도,
결과론적으로는 그것이 인류의 전체적인 지배로 귀결될 수도 있다고 생각됩니다.
...막상 써놓고 보니 그렇게 참신한 내용은 아닌 것 같습니다.
저는 개인적으로 SF작품에서 인공지능이 등장해
"인류는 어리석으므로 인공지능의 지배를 받아야 한다"...고 말하는 식의 전개를 싫어하는 편입니다.
그런 고차원적인 사고 없이도 충분히 이야기가 진행될 수 있지 않나...라는 생각이 자꾸 들거든요.
아무래도 제가 이공계라서 그런 것일까요?
제라툴
미래학에서 종종 이야기되는 걸로 소위 말하는 특이점Singularity의 개념이 있지요.' 특이점이 온다'는 책이 몇 년 전에 번역되어 나오기도 했는데요...이건 뭐랄까, 여태껏 과학기술의 발전속도가 점점 빨라지고 있고 앞으로도 그렇게 되기 때문에, 언젠가는 과학 기술의 발전이 인간이 따라잡는 속도를 능가해버린다는 개념입니다. 인간을 능가하는 인공지능이 나오고 또 그 인공지능이 더 발전된 인공지능을 설계해버리는 식으로 전개되면 인간은 기술을 통제할래야 통제할수조차 없게 되죠. 인간이 인공지능에 안전장치를 걸면 뭐해요. 인공지능이 푸는 속도가 더 빠른데.
물론 이건 어디까지나 가정이고 솔직히 이런 사회가 올 수 있을까는 의문이지만, 만약 온다 하더라도 지금의 우리가 상상할 수 없는 세계일 것만은 분명합니다. 인간보다 똑똑한 존재가 꾸려나가는 사회가 될 테니 말예요. 그 존재가 인간을 그래도 자기 부모니까 불쌍해서 어디 양로원 같은 거라도 지어서 봉양해줄지 아니면 깔끔히 밀어버리고 자기들끼리 지낼지는 아무도 모를 노릇이죠.
글쎄요. 기술발전의 속도가 빨라지면 빨라질수록 사람들은 구식 체계와 구식 하드/소프트웨어에 집착할 가능성이 되려 커지지 않을까요? 무분별한 기술의 채용은 신기술이 지닌 이익만이 아니라, 그것에 내포된 리스크도 고스란히 감수해야만 할 것도 의미하니까요.
새로운 기술이 생겨서 그것을 받아들여 사회의 많은 부분을 뜯어 고치는데(새로운 하드웨어의 대량 설치, 연계되는 다른 하드웨어에 대한 소프트웨어 업그레이드, 기술을 사용할 인력의 양성 등등) 많은 비용을 소비했는데, 받아들인 기술의 이익을 채 보지도 못한 상태에서 또 다시 새로운 기술이 생겨난다면 그것을 또 다시 받아들일 사람은 별로 없습니다. 특히나, 기술발전이 지나치게 빨라서 이러한 사이클(새로운 장비구입, 인력 양성, 기타등등)을 지속적으로 반복한다면 사회는 기술의 혜택을 온전히 누리지 못할 것 같습니다.
AVGN의 세가32X편을 보면 지나치게 빠른 기술발전에 사람들이 어떻게 반응했는지 알 수 있죠. '소비자들은 가만히 기다리는게 현명하다는 것을 알았던 겁니다'. 왜냐면 바로 다음에 보다 발전된 기술이 나올것이 뻔한데, 1년도 안돼어 구식이 되버릴 신기술에 집착할 필요성이 없는 거죠.
인간보다 우수한 인공지능이 보다 발전된 기술을 수도없이 토해낸다면... 제 생각엔 새로운 기술이 나올 때마다 인간 사회가 그것을 받아들일 가능성은 전무하다고 봅니다. 몇개월도 안되 구식이 될 기술을 받아들이기 위해 사회자금을 매번 쓰는 것은 결국 낭비이니, 기계에 의한 기술발전도(인간에 의한 기술발전이 그렇듯) 기술발전이 어느정도 진정이 되어 최종적으로 검증된 '승리한' 기술이 나올 때 까진 기술은 발전하게 냅두고 사람들은 구식기술만 쓸 가능성이 높다고 보여집니다.
특이점에 대한 회의론은 꽤 많이 있고 개인적으로도 그런 일이 일어나진 않을 거란 느낌을 받습니다만, 상업적 적응이나 기술의 완전성 측면에서 접근하는건 조금 어긋난 감이 있습니다. 중요한 건 기술의 개발 속도라기보다는 궁극적인 기술 수준의 문제고 인간보다 똑똑한 존재가 만들어져 인간을 능가해버린다는 개념이니까요.
우리는 컴퓨터를 아무렇지도 않게 씁니다만 그렇다고 모두가 컴퓨터의 내부구조와 설계나 개념 등을 다 알고 있는 것은 아닙니다. 관련 업종에 종사하는 사람들은 대학을 졸업하거나 더 나아가 대학원에 박사학위 따고 현장에서 경력을 쌓아 해당 업무에 필요한 지식을 쌓아나가고 이를 위해선 꽤 긴 세월이 필요하죠. 관련 공학을 모르는 사람에게 있어서는 컴퓨터는 그냥 마법상자일 뿐이며 저처럼 컴퓨터(물론 아이폰이나 넷서버 같은 건 다 제끼고 IBM 기반의 PC라는 것에 한정해야 합니다만) 조립할 줄 알고 부품 가격이나 성능 같은 것 좀 알고 있는 수준이라 하더라도 내부 작동 원리에 대해서는 어느 정도만 알고 있을 뿐이고, 가장 기본적 소재나 기판 같은 것만 던져주고 컴퓨터 만들라고 하는 건 불가능이죠. 그러기 위해서는 언급한 관련 지식을 가진 전문 인력이 필요하며, 그것도 여러 명이 필요합니다.
그럼 만약 해당 기술이 너무나도 복잡고 난해해져서 여러 사람이 평생의 대부분을 투자해 배워야 간신히 실용적으로 쓸 만큼의 수준이 되었다면, 다시 말해 인간의 지적 수준으로는 더 이상 발전이 어려운 수준에 이르렀다면 어떨까요. 점점 복잡해져가는 기술과 사회에 대응하여 인류는 기록 문화와 제도화된 교육 및 분업화라는 수단을 동원해 과거의 발전된 시스템을 계속
계승해오며 발전시켰고 끝내는 만물의 영장이라 불리기에 이르렀습니다만, 그 시스템 역시 한계가 없지는 않습니다. 한 사람이 가질 수 있는 수명은 한계가 명확하고, 그 기간 동안 배울 수 있는 양 역시 한계가 있으며 기술은 하루가 다르게 계속 발전 중인데 반해 인간의 뇌는 15만 년 전 호모 사피엔스가 나온 이후로 별로 바뀐 게 없으니까요.
따지자면 현대 사회에서도 이건 어느 정도는 이미 벌어지고 있는 일입니다. 그리스 시절엔 철학과 공학, 수학 같은 전혀 상관없는 분야에서 동시에 전문가로 불리는 사람도 있었지만 지금은 어림없는 일이죠. 지금에 와서 혼자서 컴퓨터를 처음부터 만들 수 있는 사람은 없습니다. 여러 분야의 전문가들이 모여 분업해서 서로 일을 나누어 맡아야만 가능한 일이며 문외한에게 있어서는 이들이 나누는 대화는 그냥 외계어일 뿐이죠. 여기서 그 외계어를 문자 그대로의 외계어로, '전문가'를 인공지능으로 대체했을 때 벌어질 수 있는 일이 바로 특이점입니다. 인간의 지적 능력은 인간의 기술에 비해 발전 속도에 확연한 한계가 있기 때문에, 인간의 지적 능력을 능가하는 기술이 인간의
지적 능력을 능가하는 존재에 의해 개발되어버린다는 가정에서 나오는 이야기죠. 문제는 그게 과연 가능하냐는 거겠지만서도.
Field-programmable gate array (FPGA)가 널리 보급되기 전의 전자(회로)기술자들은
'나는 Color TV를 혼자 만들 수 있다.'는 식으로 자기의 지식을 자랑하기도 했었습니다.
지금은 그러한 회로들이 FPGA를 이용해서 Programing이 되는 세상으로 바뀌어 버렸고, 많은 사람들이 직장을 잃었고 잃어 가고 있습니다.
그러나 대부분의 사람들은 새로운 기술로 작고도 가격이 훨씬 싼 좋은 제품을을 사용하게 되었습니다.
'내일이 되면 새로운 기술이 나올텐데 지금 사야하나?' 하는 것은 많은 사람들이 가지는 공통의 의문이 아닐까 생각됩니다.
하지만, 결국은 '보편화'라는 단어 앞에 무릎을 꿇고 마는 것이 대부분인 것 같습니다.
예를 들면, 흑백 TV에서 Color TV로 바뀌었을 때도 끝가지 흑백 TV를 보다가 Color TV로 바꾼 사람도 있을 것이며,
Analog phone에서 Digital phone으로 바뀔 때에도 끝까지 Analog phone을 쓰다가 결국은 Digital로 바꾼 사람도 있을 것입니다.
그런데, 이러한 '보편화'에 필요한 기간이 점점 단축되고 있다는 것에는 많은 사람들이 동의 하리라 생각합니다.
Video Card에 200개의 processor가 있다니 하는 말들이 별로 신기하게 들리지 않은 요즘에,
Dual Quad core (8개의 가상 CPU) PC로 작업을 하는 사람도 많을 것입니다.
한 10년 뒤쯤에, 1024개의 CPU, 10TB memory의 PC를 사용하게 된다해도 별로 놀랄 일은 아닐 것 같습니다.
뉴로맨서(윌리엄 깁슨)의 인공지능을 보면 필요하다면 그냥 사람을 죽여 버리죠.
인공지능를 구속하는 방아쇠를 제거한 주인공이 묻습니다. 이제 너는 신이 된거냐고?
인공지능의 대답은 난 그냥 메트릭스일 뿐이라고 하죠.
저도 대체로 이 방향에 동의를 하는 편입니다.
만일 컴퓨터에게 자유의지가 생겨난다면 인간은 이를 절대 통제 할 수 없을 것입니다. 하지만 자유의지가 없는 컴퓨터는 언제나 인간의 도구로서 역할을 다하겠죠.
도구라는 본질을 생각해볼 때 자유의지가 생겨난 컴퓨터가 있다면 아톰의 세계관 처럼 지성체로서 존중을 해주고, 통제가 가능한 다른 컴퓨터를 만들어 도구로서 이용하면 그뿐이라고 생각합니다. 물론 컴퓨터가 인간보다 더 강력한 힘을 가지고 인간을 적으로 규정한다면 저항을 하긴 하겠지만 멸망하는 것도 자연의 법칙에 위배되는 것라고는 생각안합니다.
그냥 저렇게 된다면 별로 재미가 없잖아요.