SF / 과학 포럼
SF 작품의 가능성은 어떻게 펼쳐질 수 있을까요? 그리고 어떤 상상의 이야기가 가능할까요?
SF에 대한 가벼운 흥미거리에서부터 새로운 창작을 위한 아이디어에 이르기까지...
여기는 과학 소식이나 정보를 소개하고, SF 속의 아이디어나 이론에 대한 의견을 나누며, 상상의 꿈을 키워나가는 곳입니다.
( 이 게시판은 최근에 의견이나 덧글이 추가된 순서대로 정렬됩니다. )
댓글로 적다가 따로 올립니다.
"인공지능을 어떻게 하면 인간처럼 만들 수 있을까"하는 부분은
AI라는 용어가 만들어지던 바로 그 순간부터 계속 제기되어온 과제입니다.
그에 관해 진행된 연구들도 많고 접근방법들도 다양합니다.
하지만 무엇보다 중요한 두개의 키워드는 바로 자율성autonomy과 공감empathy입니다.
현재 인공지능 연구에서 이 두 개의 단어를 빼면 아무것도 논할 수 없습니다.
자율성이 기능, 효율과 관련된 부분이라면 공감은 바로 인간성에 관한 부분입니다.
도덕의 근간에는 다른 개체의 입장을 마치 내 입장인 것처럼 느끼도록 하는 장치가 있습니다.
바로 이 장치를 우리는 공감이라고 부릅니다.
"공감"이 어떤 식으로 작동하는지 이해하면 인공지능에게 인간성을 부여하는 문제가 의외로 쉽게 풀릴 수도 있습니다.
윗 링크는 제가 예전에 상당히 충격을 받았던 영상 중 하나인데요..
윗 영상에도 볼 수 있는 것처럼, 공감을 형성하는 능력은 사람에게만 있는 것은 아니고 동물들에게서도 흔히 발견됩니다.
(따라서 도덕 역시 인간의 전유물은 아니라고 볼 수 있습니다만 그건 다른 주제죠.)
이 특성은 진화의 과정에서 자연스럽게 형성된 것이고 매우 간단한 원리에 의해 작동되지만 결과는 강력합니다.
아무 죄책감없이 대량살인을 저지르는 사이코패스는 바로 이 공감능력이 결여되어있다고 말하죠.
거꾸로 이 공감능력이 주입된 인공지능이라면 사람처럼 행동하도록 만들 수도 있습니다.
사실 인공지능의 인간성에 관한 문제는 학술적으로는 아직 추상적인 개념에 불과합니다.
AI연구의 최첨단에 해당하는 AIXI모델조차도 기본 뼈대에 해당하는 유니버설 알고리즘이 전부입니다.
거기에서 더 나아가질 못하고 있죠. 현재 가장 큰 장벽은 하드웨어의 한계입니다.
하지만 그것과 별개로 "무엇이 인간성을 규정하느냐"에 대한 분석과 이론들은 계속 쏟아지고 있고
그걸 AI에 적용하려는 노력도 계속되고 있습니다.
http://singularity.org/files/IE-EI.pdf
<- 최근의 AI연구 트랜드에 관해 보기 좋게 정리해놓은 아티클입니다. 관심있는 분이라면 한번쯤 읽어볼만 합니다.
* 요즘 짤막한 단편을 하나 쓰고 있는데 그게 인공지능에 관한 내용입니다. (완성못할지도 모른다는 게 함정.)
^^
저나 카프카스님은 인간의 기저에 공포가 없다고 말한 적 없는데요. 여기서 중요한 건 벨라님이 '인간적 인공지능'에 대한 소감으로 '공포'를 주장했다는 거죠. 그러면서
[인간의 뇌는 기본적으로 공포에 기반한 체계를 가지고 있습니다.
그것이 생존에 가장 유리하니까요.
인간이 다른 동물보다 우월하다고 느끼지 않으면 공포를 느끼기 때문입니다.]
라고 주장했고요.
여기서 지적하는 건 우선, 녹색 줄이 (정말로 기반한 체게인 지 아닌지를 떠나서)인간만 갖고 있는 게 아니고 따라서 저걸론 '인간적 인공지능'에 대한 어떤 시사도 없다는 겁니다. 두 번째로, 파란 줄은 그야말로 벨라님 주장인데 그에 대한 설명이 전혀 없어요. (색 안 칠한 거야 논란의 가치도 없으니 패스할게요...)
위 덧글에서 한 일반론적 주장이 무슨 말인 지는 충분히 알겠는데, 그게 인간적 인공지능에 대해 어떻다는 것인 지는 여전히 알 수가 없고요.
그리고 솔직히 말하면 위에서 든 예시 전부 반례가 너무나도 많아요. 모든 예에서 안 그런 사람들 진짜 많거든요. 아니 애초 스스로가 예시를 들고선 '일부의 사람들'이 느끼는 거라면서요.
인간의 심적 상태와 행동에 공포가 영향을 미친다는 근거는 될 수 있어도 그 근간이라는 근거는 되지 않습니다. 사실 인간 행동은 공포와 같은 직관보다는 -이성이라기 보단-합리에 의한 게 거의 대부분이에요. (동물행동학자 리처드 모리스, 인류학자 마빈 해리스, 고양시 행신도서관 소재 생물학(제목이 생물학;;;), 동 도서관 소재 청년 심리학, 인간심리학, R.J.에이어 행동철학, 김재권 심리철학, 그 외에 지금 당장 기억나지 않는 십여권 정도의 책과 몇 권의 (한글)논문들) 근거)
따라서 여전히 벨라님 주장은 개인의 경험과 거기서 밀어붙인 추측이라는 지적을 피할 수 없어 보여요.
p.s 2013.02.22.0608 수정 업데
인간의 전유물이라고 착각하는 것들이 얼마나 많은지...
왜 그렇다고 생각하는지 이해할 수 없을 때가 많았죠.
이제는 이해합니다.
인간의 뇌는 기본적으로 공포에 기반한 체계를 가지고 있습니다.
그것이 생존에 가장 유리하니까요.
인간이 다른 동물보다 우월하다고 느끼지 않으면 공포를 느끼기 때문입니다.
인간은 의외로 참 많은 곳에서 공포를 느낍니다.