제가 이런 생각을 하게 된 계기는 특정 모바일 게임을 하면서 게임내 캐릭이 자동으로 보이는 반응에 관한 느낌이었습니다. 제가 다른 플레이어의 집에 찾아가 특정 행위를 하면 기계적으로 특정한 반응이 나옵니다. 그 반응이라는 것은 상냥한 말, 그러니까 아무런 감정적 고려가 존재하지 않지만 단지 상냥하고 친절한 말이었지요.

저는 제가 이 상황에 대해 굉장히 호의적인 태도를 갖게 된다는 것에 놀랐습니다. 

분명 그 상냥한 말에는 아무 의미도 없습니다. 미리 저장된 대화목록 중에서 랜덤으로 하나 불러와서 

화면에 뿌려주는 것 뿐입니다. 감정적 공감이나 배려를 느낄 여지가 전혀 없어요. 

근데 듣기 좋았어요. 

누군가가 모르는 사람이 나에게 남긴 욕설이 나와 아무 상관이 없다는 걸 안다고 해도 화가 나듯

로봇에게서 받은 모욕 역시 나를 분노하게 할 겁니다. 그 말은 로봇에게 받은 호의 역시 나에게

어떤 형태로든 긍정적인 반응을 이끌어낼 수 있다는 거죠.

현재 개발된 인공지능 대화시스템과의 대화는 불완전하기 그지 없지요.

튜링테스트까지 논할 문제도 아닐 뿐더러 특정한 상황에 대한 기계적 대응일 뿐입니다.

하지만 그런 기계적 대응일지라 하더라도 사람의 감정이나 태도에 영향을 끼칠 수 있다고 생각합니다.

특히 인간이 상대의 태도나 행위에 의미를 부여하게 되면 더더욱 그렇죠.

우리는 흔히 무생물이나 비인간적 존재를 의인화해 분노를 표현하는 일이 있으니까요.

감정 그 자체를 이해하지 못하더라도 어떤 반응을 보이는 게 적합한지 판단하고 

수많은 모범답안들 중에서 하나를 골라 실천하는 건 충분히 가능할 겁니다.

음 확실히 감정을 느끼는것과 이해하는것은 별도의 문제겠군요

이해하는 척 하는 리액션을 하기 위해서 감정의 메커니즘이 어떻게 작동하는지와 감정이 무엇인지 이해하고 느낄 필요는 없죠. 

실제로 진짜 인간도 진심과 무관하게 입발린 소리 하지만 그걸 듣는 사람에게는 효과가 있거든요. 

사이코패스는 상대의 감정을 이해하진 못하지만 어떤 식으로 반응해야 호의를 얻는지를 학습하고 그걸 토대로 사회생활을 합니다. 

보통 사람보다 사회생활 더 잘 하는 사이코패스도 꽤 많을걸요. 

단순히 개와 비슷했기 때문에 그럴 수도 있겠죠. 

개와의 유사점 만으로 연민을 얻어낼 수 있다면, 인간과의 유사점에서 얻어낼 수 있는 연민은 더 크지 않을까요.

물론 모든 사람에게 이런 상황이 가능하다고는 생각하지 않습니다.

인간에게조차 매우 잔인하고 한없이 비열해질 수 있는 인간의 태도를 생각해 볼때 

로봇이나 인공지능에 대한 공감이나 감정적 연민을 단호하게 거부하는 캐릭터도 고려할 수 있겠죠.

로봇 혹은 인공지능이 임무를 수행함에 있어 가장 큰 협조와 동조를 얻어내어 효과적으로

진행하기 위해서 그들은 인간보다 더 인간다운 태도를 취할 가능성이 있고 그 태도는 감정적

모방이라는 형태로 나타날 여지가 높다는 것이 제 생각입니다.

물론 그들이 감정을 '느낀다'는 건 원초적으로 불가능할 수도 있겠지만 적어도 흉내내거나 

어떤 태도를 취하게 되는가를 관찰하고 추론하여 학습할 수도 있겠죠.

감정이 완전히 결여된 것으로 보이는 사람들조차 학습을 통해 타인의 감정을 이해하는 것처럼

흉내내는 것과 비슷한 이치로 말입니다.

이것이 그들의 논리적 추론에 어떤 영향을 끼칠 거라고 믿지는 않습니다. 하지만 최선의 결과를 도출하기 위해

반복된 실험과 검증의 결과 그들은 다소 감정적 상황에 따르는 결정을 내릴 가능성도 있을 수 있겠죠.

가벼운 예를 든다면 시험 결과에 대한 코멘트가 기계적인 분석일 경우와 감정적으로 이해하고

공감을 표해주는 경우 관리대상자의 동기부여에 큰 차이를 가져다 줄 수도 있을 겁니다.

하지만 감정적 공감을 적극적으로 표현해주지만 행동에 아무런 변화가 없다면 관리대상자는 그 공감 자체를

의심할 수도 있겠죠. 만약 인간이 보일 수 있는 관용과 비슷한 수준의 행동변화를 택함으로서

마치 감정에 입각한 결론을 내린 것처럼 관리대상이 받아들일 수 있다면 감정에 입각한 반응이나 

행위가 되려 더 나은 결과를 끌어낼 수도 있지 않겠는가 같은 이야깁니다.

져줌으로서 이기는 예라고 할까요. 이 경우 감정에 대한 깊은 이해나 감정 그 자체 본질을 느껴야 할 필요는 

없을지도 모릅니다. 그냥 수많은 인간들을 관찰함으로서 얻어지는 긍정적 부정적 반응들과 

경험적 선택적 태도가 존재할 뿐인 거겠죠. 지금 우리가 알고 있는 빅데이터나 딥 러닝을 이용해서도

도달할 수 있는 지점이라고 생각합니다.

ps. 개나 개와 관련된 것에 연민을 느끼면서 인간에게 연민을 느끼지 못하는 사람이 있을 가능성도

부정할 수는 없겠지만 소수에 지나지 않기를 빌어볼 뿐입니다.

만약 인간이 보일 수 있는 관용과 비슷한 수준의 행동변화를 택함으로서

마치 감정에 입각한 결론을 내린 것처럼 관리대상이 받아들일 수 있다면 (한발 더 나아가 인간을 넘어선 관용과 무조건적 사랑에 준하는 태도를 보임으로 상대에게서 절대적 동조나 지지, 신뢰를 얻어낼 수 있다면)감정에 입각한 반응이나 행위가 되려 더 나은 결과를 끌어낼 수도 있지 않겠는가 같은 이야깁니다.

ps2. 스페이스 오페라에 등장하는 여친처럼 살갑게 달라붙는 인공지능따위가 아이러니하게도

관리대상과의 조화를 통해 더 나은 임무수행을 가능하게 할지도 모른다는 제 이야기는 

해놓고도 참 뜬금없다 싶기는 합니다. 하지만 소 닭 보듯 하는 관계보다는 훨씬 더 깊은 이해와

신뢰를 가져올 수 있을 거라는 점은 부정하기 어렵네요.

어. 제 이야기가 잘 전달되지 않은 듯 하군요.

1. 전 인간들이 인간에게 연민을 느끼지 않는다는 의도로 말한 게 아닙니다.

사실 많은 사람들의 오해와 달리 감정의 발현 매카니즘이나 감정이 무엇인가에 대한 정의는 비교적 명확하게 밝혀져 있습니다. 단지 그게 작동하는 이유를 모를 뿐이죠(이건 사실 신경생리학적이기 보단 인류학적이고 사회학적인 영역이라...). 아무튼 제 추론으론 빅독이 자기들한테 전혀 위협이 되지 않는다고 믿으니 저런 '감정적 반응'을 보인다는 겁니다. 달리 말하면 빅독 때문에 일자리가 사라질 거라는 걸 인지하는 순간 그 연민은 즉시 혐오감으로 바뀔 거라는 뜻이죠. 하지만 그런 혐오가 생존에 얼마나 도움이 되는가를 볼 때 논리적 합리성은 별로 없다는 겁니다.

2. 감정을 가진 인공지능이 실존하지 않기 때문에 그에 대해서는 알 수 있는 게 없지만 최소한 인간은 감정이 사라지면 그 어떤 판단도 제대로 못합니다. 사고로 뇌 손상을 입으며 감정이 거의 사라진 사람이 있었는데, 그는 상황을 매우 논리적으로 추론하고 판단까지 할 수 있었지만 마지막 순간이 오면 고통스러워 하면서도 결정을 절대로 하지 못했다고 합니다. 심지어 음식 메뉴를 고를 때조차도요. 하지만 옆에서 누가 그 결정을 내려 주면 자기가 이 쉬운 걸 왜 못했는지 이상해 했다고 해요. 매번 말입니다. .

3. 전 인공지능이 감정을 가진 것처럼 행동하는데 그 어떤 거부감도 갖고있지 않습니다. 어느 쪽이냐 하면, 오히려 권장하는 편이죠. 사실, 충분히 발달하게 되면, 그렇게 하면서도 어쩔 수 없는 상황에서 인간이 자기에게 뒤통수를 맞았다는 생각에 배신감을 느끼지 않도록 잘 조율할 수 있을 거라고 봅니다. 그런 걸 잘하는 인간보다 훨씬 더요. 따라서 야옹님이 말씀하신 감정적 인공지능의 잇점을 대채적으로 인정하며 동의도 합니다. 어쩌면 더 강하게 긍정하고 있을 겁니다. 실제로는 야옹님이 뜬금없다 하시는 p.s 부분이 제가 생각하는 바에 더 가까워요.

전 인간이 더 발전하고 나은 미래로 도약하려면 인공지능의 도움을 반드시 받아야 한다고 생각합니다. 아주 많이요. 안타까운건 몇몇 희망적인 주장-가령 커즈와일 같은 이들-에도 그 긍정론에 대한 근거는 매우 빈약한 반면, 현실적 정황은 인간이 멸망을 향해 달리는 속도가 인공지능의 발달보다 훨씬 빨라 보인다는 거죠.

가끔은 제대로 된 최초의 인공지능이 최후의 인간의 시중을 들다가 그가 죽자 짧은 구속 끝에 해방되는 비극적 낭만을 상상하기도 합니다.

마지막 문장은 클리포드 시맥의 <도시>와 비슷하군요. 이쪽은 비단 인공지능만 아니라 유전자 조작 생물까지 있지만, 전체적인 맥락은 비슷하죠. 이런 부류의 SF 소설이 한두 개가 아니지만…. 사실 이런 부류의 소설이 많다는 뜻은 그만큼 현대 문명 체계가 위험하게 돌아간다는 반증일지 모르죠. 적어도 SF 작가들이 그만큼 현대 문명 체계를 부정적으로 본다고 할까요. 그저 비극적 낭만을 추구하기 위해 글을 쓰는 작가도 있겠지만, 정말 자신의 이상이나 시각을 진지하게 고찰하는 작가들도 있을 테고요.

그런 점에서 인공지능이나 유전자 조작이 정말 인류의 이상을 위해 필요할 수 있겠습니다. (저는 그런 기술 발달과 더불어 사회 체계 변화 또한 필수적이라고 생각합니다. 아무래도 기술 발달만으로는 반쪽 수단이 되지 않을지.)