SF / 과학 포럼
SF 작품의 가능성은 어떻게 펼쳐질 수 있을까요? 그리고 어떤 상상의 이야기가 가능할까요?
SF에 대한 가벼운 흥미거리에서부터 새로운 창작을 위한 아이디어에 이르기까지...
여기는 과학 소식이나 정보를 소개하고, SF 속의 아이디어나 이론에 대한 의견을 나누며, 상상의 꿈을 키워나가는 곳입니다.
( 이 게시판은 최근에 의견이나 덧글이 추가된 순서대로 정렬됩니다. )
얼마전에 읽은 글에 재미있는 내용이 있었습니다.
빅독이라고 견마형 로봇의 테스트 장면중에 측면에서 가해지는 물리력에 대응하는
테스트가 있었죠. 방법은 인간이 힘껏 걷어차는 겁니다.
빅독은 자세를 회복하려고 노력하죠.
이 장면을 보고 '로봇을 괴롭히다니 불쌍하다' 라는 반응을 보인 사람들이 많았다고 합니다.
인간의 감정이입이 생명체에게 이루어지는 건 어찌 보면 당연한 일입니다.
인간 진화의 방향이 그런거니까요. 하지만 로봇이라는 건 좀 의외였습니다.
그렇다면 그냥 머리도 없이 다리 네개 달린 움직이는 기계뭉치에 연민을 느낄 사람들은
과연 이족보행하며 대화를 나눌 수 있는 기계뭉치에는 어떤 반응을 보일까요.
아마도 굉장히 친근하고 익숙한 반응을 보이게 될 지도 모르죠.
뭐 그렇다고 보통 사람에게 대하는 것처럼은 아니지만 안드로이드는 분명
많은 사람들에게 연민과 동정을 살 수 있는 형태로 제작될 가능성이 있습니다.
그 편이 인간에게 불쾌감을 주거나 혐오나 분노를 사서 파괴되는 것보다는 훨씬 더 이로울 테니까요.
그리고 그들이 가져야 할 덕목중에 매우 우선되는 것은 어쩌면 인간의 감정을
읽고 받아들이며 비슷한 형태로 모방하는 것이 될지도 모르죠.
로봇이 논리적 사고를 하여 인간과 대화를 나누기 전에 먼저 감정을 읽고 이해하는 것처럼
반응하는 방식을 배우게 될 가능성이 있다는 이야깁니다.
적어도 그런 것이 로봇에게 이롭겠죠. 인간 틈에서 활동해야 한다면 말입니다.
이를테면 직장에서 짤렸다고 슬퍼하는 주인에게
"그건 어떤 감정이냐 나는 모르겠다 삐리리립" 이라고 말하기 보다는
"뭐라 위로해야 할지 모르겠습니다. 주인님. 몹시 안타깝군요."
라고 반응하는 것이 훨씬 더 나은 대응이 될 것이라는 것이죠.
그리고 실제로 주인이 한 반응에 대해 이해하지 못하는 상황이라도 구글에 '직장을 잃었을때 적당한 대답'
이라고 검색해서 나온 말을 그냥 읽어만 줘도 될 일입니다.
솔직히 말하면 감정공감 안되는 사회에 널려있는 소시오패스들보다는
로봇이 훨씬 더 인간적인 모습을 연기하는데 훌륭할 거라는 생각이 드네요.
로봇이 인간의 감정을 말 그대로 이해하지는 못하더라도 인간보다 더 훌륭한 반응을 보일 수 있는
가능성은 충분히 예상가능합니다. 어쩌면 로봇은 우리가 생각하는 것보다 훨씬 더 다정한
모습으로 우리 곁에 있을 수도 있을 거에요.
세상은 원래 비정한 법이야.
제가 이런 생각을 하게 된 계기는 특정 모바일 게임을 하면서 게임내 캐릭이 자동으로 보이는 반응에 관한 느낌이었습니다. 제가 다른 플레이어의 집에 찾아가 특정 행위를 하면 기계적으로 특정한 반응이 나옵니다. 그 반응이라는 것은 상냥한 말, 그러니까 아무런 감정적 고려가 존재하지 않지만 단지 상냥하고 친절한 말이었지요.
저는 제가 이 상황에 대해 굉장히 호의적인 태도를 갖게 된다는 것에 놀랐습니다.
분명 그 상냥한 말에는 아무 의미도 없습니다. 미리 저장된 대화목록 중에서 랜덤으로 하나 불러와서
화면에 뿌려주는 것 뿐입니다. 감정적 공감이나 배려를 느낄 여지가 전혀 없어요.
근데 듣기 좋았어요.
누군가가 모르는 사람이 나에게 남긴 욕설이 나와 아무 상관이 없다는 걸 안다고 해도 화가 나듯
로봇에게서 받은 모욕 역시 나를 분노하게 할 겁니다. 그 말은 로봇에게 받은 호의 역시 나에게
어떤 형태로든 긍정적인 반응을 이끌어낼 수 있다는 거죠.
현재 개발된 인공지능 대화시스템과의 대화는 불완전하기 그지 없지요.
튜링테스트까지 논할 문제도 아닐 뿐더러 특정한 상황에 대한 기계적 대응일 뿐입니다.
하지만 그런 기계적 대응일지라 하더라도 사람의 감정이나 태도에 영향을 끼칠 수 있다고 생각합니다.
특히 인간이 상대의 태도나 행위에 의미를 부여하게 되면 더더욱 그렇죠.
우리는 흔히 무생물이나 비인간적 존재를 의인화해 분노를 표현하는 일이 있으니까요.
감정 그 자체를 이해하지 못하더라도 어떤 반응을 보이는 게 적합한지 판단하고
수많은 모범답안들 중에서 하나를 골라 실천하는 건 충분히 가능할 겁니다.
사람들이 빅독에게 그런 반응을 보인 건, 빅독(Big Dog)이 진짜 개(Dog)처럼 비틀거렸기 때문일 겁니다. 겉모습은 기괴하지만 그 자연스러움에 '저게 어쩌면 살아있는 건지도 몰라'라고 느꼈을 거란 거죠. 거창하게 말한다면야 통사적이기 보단 의미에 집중한 것이겠지만 사실 한 꺼풀 벗겨보면 그저 인간이 유아였을 때부터 가지고 있던 내적 정서가 표현된 것일 테고요.
아무튼 인공지능이 인간의 감정을 느낄 수 있을지는 아무도 모릅니다. 하지만 그 구조적 특성과 속성을 볼 때 그렇지 않을 가능성이 현저히 높겠죠. 감정이란 게 명백히 사리분별을 저해한다는 걸 생각할 때 제작자들이 그럴 수 있는 기능을 넣을 리도 없고요(프로토타입에 장난 혹은 실험삼아 한 번 구현해 볼 것 같긴 합니다). 그렇다고 해도 말씀하신 것처럼 실제 감정을 가질 필요는 없지 않겠습니까. 뭐 미래의 인공지능이라면 전 감정이 없지만 당신들이 원한다면 그걸 가진 것처럼 행동할 수 있어요라고 말할지도요.
처음으로 돌아가서, 빅독의 생김새와 정체성에도 불구하고 사소한 접점 하나로 동정을 하는 사람들이, 실제 사회에선 국적, 성별, 피부색, 성적 취향 따위가 다르다는 이유로 같은 인간에 대한 차별과 혐오를 서슴지 않는 이들과 동일인일 가능성을 생각해 보면 암울할 뿐입니다.
단순히 개와 비슷했기 때문에 그럴 수도 있겠죠.
개와의 유사점 만으로 연민을 얻어낼 수 있다면, 인간과의 유사점에서 얻어낼 수 있는 연민은 더 크지 않을까요.
물론 모든 사람에게 이런 상황이 가능하다고는 생각하지 않습니다.
인간에게조차 매우 잔인하고 한없이 비열해질 수 있는 인간의 태도를 생각해 볼때
로봇이나 인공지능에 대한 공감이나 감정적 연민을 단호하게 거부하는 캐릭터도 고려할 수 있겠죠.
로봇 혹은 인공지능이 임무를 수행함에 있어 가장 큰 협조와 동조를 얻어내어 효과적으로
진행하기 위해서 그들은 인간보다 더 인간다운 태도를 취할 가능성이 있고 그 태도는 감정적
모방이라는 형태로 나타날 여지가 높다는 것이 제 생각입니다.
물론 그들이 감정을 '느낀다'는 건 원초적으로 불가능할 수도 있겠지만 적어도 흉내내거나
어떤 태도를 취하게 되는가를 관찰하고 추론하여 학습할 수도 있겠죠.
감정이 완전히 결여된 것으로 보이는 사람들조차 학습을 통해 타인의 감정을 이해하는 것처럼
흉내내는 것과 비슷한 이치로 말입니다.
이것이 그들의 논리적 추론에 어떤 영향을 끼칠 거라고 믿지는 않습니다. 하지만 최선의 결과를 도출하기 위해
반복된 실험과 검증의 결과 그들은 다소 감정적 상황에 따르는 결정을 내릴 가능성도 있을 수 있겠죠.
가벼운 예를 든다면 시험 결과에 대한 코멘트가 기계적인 분석일 경우와 감정적으로 이해하고
공감을 표해주는 경우 관리대상자의 동기부여에 큰 차이를 가져다 줄 수도 있을 겁니다.
하지만 감정적 공감을 적극적으로 표현해주지만 행동에 아무런 변화가 없다면 관리대상자는 그 공감 자체를
의심할 수도 있겠죠. 만약 인간이 보일 수 있는 관용과 비슷한 수준의 행동변화를 택함으로서
마치 감정에 입각한 결론을 내린 것처럼 관리대상이 받아들일 수 있다면 감정에 입각한 반응이나
행위가 되려 더 나은 결과를 끌어낼 수도 있지 않겠는가 같은 이야깁니다.
져줌으로서 이기는 예라고 할까요. 이 경우 감정에 대한 깊은 이해나 감정 그 자체 본질을 느껴야 할 필요는
없을지도 모릅니다. 그냥 수많은 인간들을 관찰함으로서 얻어지는 긍정적 부정적 반응들과
경험적 선택적 태도가 존재할 뿐인 거겠죠. 지금 우리가 알고 있는 빅데이터나 딥 러닝을 이용해서도
도달할 수 있는 지점이라고 생각합니다.
ps. 개나 개와 관련된 것에 연민을 느끼면서 인간에게 연민을 느끼지 못하는 사람이 있을 가능성도
부정할 수는 없겠지만 소수에 지나지 않기를 빌어볼 뿐입니다.
만약 인간이 보일 수 있는 관용과 비슷한 수준의 행동변화를 택함으로서
마치 감정에 입각한 결론을 내린 것처럼 관리대상이 받아들일 수 있다면 (한발 더 나아가 인간을 넘어선 관용과 무조건적 사랑에 준하는 태도를 보임으로 상대에게서 절대적 동조나 지지, 신뢰를 얻어낼 수 있다면)감정에 입각한 반응이나 행위가 되려 더 나은 결과를 끌어낼 수도 있지 않겠는가 같은 이야깁니다.
ps2. 스페이스 오페라에 등장하는 여친처럼 살갑게 달라붙는 인공지능따위가 아이러니하게도
관리대상과의 조화를 통해 더 나은 임무수행을 가능하게 할지도 모른다는 제 이야기는
해놓고도 참 뜬금없다 싶기는 합니다. 하지만 소 닭 보듯 하는 관계보다는 훨씬 더 깊은 이해와
신뢰를 가져올 수 있을 거라는 점은 부정하기 어렵네요.
어. 제 이야기가 잘 전달되지 않은 듯 하군요.
1. 전 인간들이 인간에게 연민을 느끼지 않는다는 의도로 말한 게 아닙니다.
사실 많은 사람들의 오해와 달리 감정의 발현 매카니즘이나 감정이 무엇인가에 대한 정의는 비교적 명확하게 밝혀져 있습니다. 단지 그게 작동하는 이유를 모를 뿐이죠(이건 사실 신경생리학적이기 보단 인류학적이고 사회학적인 영역이라...). 아무튼 제 추론으론 빅독이 자기들한테 전혀 위협이 되지 않는다고 믿으니 저런 '감정적 반응'을 보인다는 겁니다. 달리 말하면 빅독 때문에 일자리가 사라질 거라는 걸 인지하는 순간 그 연민은 즉시 혐오감으로 바뀔 거라는 뜻이죠. 하지만 그런 혐오가 생존에 얼마나 도움이 되는가를 볼 때 논리적 합리성은 별로 없다는 겁니다.
2. 감정을 가진 인공지능이 실존하지 않기 때문에 그에 대해서는 알 수 있는 게 없지만 최소한 인간은 감정이 사라지면 그 어떤 판단도 제대로 못합니다. 사고로 뇌 손상을 입으며 감정이 거의 사라진 사람이 있었는데, 그는 상황을 매우 논리적으로 추론하고 판단까지 할 수 있었지만 마지막 순간이 오면 고통스러워 하면서도 결정을 절대로 하지 못했다고 합니다. 심지어 음식 메뉴를 고를 때조차도요. 하지만 옆에서 누가 그 결정을 내려 주면 자기가 이 쉬운 걸 왜 못했는지 이상해 했다고 해요. 매번 말입니다. .
3. 전 인공지능이 감정을 가진 것처럼 행동하는데 그 어떤 거부감도 갖고있지 않습니다. 어느 쪽이냐 하면, 오히려 권장하는 편이죠. 사실, 충분히 발달하게 되면, 그렇게 하면서도 어쩔 수 없는 상황에서 인간이 자기에게 뒤통수를 맞았다는 생각에 배신감을 느끼지 않도록 잘 조율할 수 있을 거라고 봅니다. 그런 걸 잘하는 인간보다 훨씬 더요. 따라서 야옹님이 말씀하신 감정적 인공지능의 잇점을 대채적으로 인정하며 동의도 합니다. 어쩌면 더 강하게 긍정하고 있을 겁니다. 실제로는 야옹님이 뜬금없다 하시는 p.s 부분이 제가 생각하는 바에 더 가까워요.
전 인간이 더 발전하고 나은 미래로 도약하려면 인공지능의 도움을 반드시 받아야 한다고 생각합니다. 아주 많이요. 안타까운건 몇몇 희망적인 주장-가령 커즈와일 같은 이들-에도 그 긍정론에 대한 근거는 매우 빈약한 반면, 현실적 정황은 인간이 멸망을 향해 달리는 속도가 인공지능의 발달보다 훨씬 빨라 보인다는 거죠.
가끔은 제대로 된 최초의 인공지능이 최후의 인간의 시중을 들다가 그가 죽자 짧은 구속 끝에 해방되는 비극적 낭만을 상상하기도 합니다.
마지막 문장은 클리포드 시맥의 <도시>와 비슷하군요. 이쪽은 비단 인공지능만 아니라 유전자 조작 생물까지 있지만, 전체적인 맥락은 비슷하죠. 이런 부류의 SF 소설이 한두 개가 아니지만…. 사실 이런 부류의 소설이 많다는 뜻은 그만큼 현대 문명 체계가 위험하게 돌아간다는 반증일지 모르죠. 적어도 SF 작가들이 그만큼 현대 문명 체계를 부정적으로 본다고 할까요. 그저 비극적 낭만을 추구하기 위해 글을 쓰는 작가도 있겠지만, 정말 자신의 이상이나 시각을 진지하게 고찰하는 작가들도 있을 테고요.
그런 점에서 인공지능이나 유전자 조작이 정말 인류의 이상을 위해 필요할 수 있겠습니다. (저는 그런 기술 발달과 더불어 사회 체계 변화 또한 필수적이라고 생각합니다. 아무래도 기술 발달만으로는 반쪽 수단이 되지 않을지.)
감정을 느끼냐 아니냐에 주로 주목을 많이 하는거 같지만
굳이 당장 감정자체도 제대로 뭔지 어떻게 작용하는지 연구중인 상황에서
감정의 메커니즘을 완벽하게 만들어내라는거보단
방대한 자료를 바탕으로 감정을 가진것처럼 비슷하게 반응하는 방법이 좀더 현실적으로 고려되기도 합니다
보통 SF매체에서야 AI나 로봇이 감정을 모른다- 삐뽀삡~ 이러는 느낌으로 묘사되지만
ai나 로봇이 특정상황에서 반응하는 방식이 패턴에 따라 대응하는 식으로 만들어지는 거라면
감정에 대한 대응또한 환경적 패턴 요소중 하나일 뿐이니까요
어느정도 발전해서 사람과 대화해도 어색함이 느껴지지 않을정도 ai가 발전하면
ai는 감정은 없지만 상대방의 슬픔이나 기쁨에 잘대응해주고 위로나 칭찬을 할 줄 알며 상대방의 기분에 빠르게 대응하는 너무나도 다정하고 착한 사람으로 느껴지게끔 만들어질겁니다
네 감정이 없어도요
글쎄요, 비전문가라 잘 모르기는 하지만 아직은 인간의 감정이 어떤 메커니즘으로 작동하는지는 불명이 아닐까요?
구글링으로 어떤 대처를 해야한다라는건 알수 있겠지만, 그것도 어디까지나 인간의 지식을 바탕으로 한 모방에 불과하다고 생각합니다. 결국 모든 로봇이 취하는 행동은 똑같을 것이고, 그것이야말로 로봇이라는걸 드러내는 특징이겠지요.
물론 인공지능의 발달속도를 본다면, 감정에 대해서 이해하는것도 아주 오래걸리지는 않겠지요. 아직 상상은 안되지만 말이죠. 다만 그때에는 오히려 인공지능과 인간을 어떻게 구분지을것인가가 화두에 오를겁니다. 뭐 새삼스러울것도 없는 논쟁이지만요.