참고 링크(영문 동영상):

http://www.youtube.com/watch?v=MwriJqBZyoM

여러분도 알다시피, 인간은 게으릅니다(물론, 모두는 아니겠지만 최소한 저는 확실히 그렇습니다 -_-)

하지만 먹고 살기 위해서는 누구나 일을 해야만 하죠.

시간이 지나고 과학이 발전하면서 인간은 자신의 노동을 편하게 만들어줄 도구들을 발명하여 왔습니다.

이미 공업의 많은 분야들이 로봇 및 프로그램으로 자동화되었지요.

그런데, 우리가 로봇에게 어떤 작업을 시키는 경우 인공지능은 거의 필수적입니다.

왜냐하면 우리 스스로도 작업 수행에 필요한 모든 조건들과 예기치 못한 상황들의 수를 모르기 때문입니다.

최소한 그 수가 엄청나게 많다는 것만은 확실하게 알고 있죠.

따라서 노동을 자동화하기 위해서는,

몇몇 규칙들과 목적을 주고 거기서부터 작업에 필요한 결론들을 논리적으로 도출하는 작업용 인공지능이 필요합니다.

그러나 이러한 인공지능을 프로그래밍하는 것은 아주 어려운 일입니다.

왜냐하면, 대부분의 경우 자연어로 이루어져 있는 작업의 규칙들과 명령을을 

논리적 컴퓨터 언어로 변환하기 위해서는 정말로 많은 고민과 노력이 필요하기 때문입니다.

따라서 우리에게는 작업용 인공지능을 만들어낼 수 있는 상위 인공지능이 필요합니다.

즉 프로그래밍용 인공지능이지요.

그런데 여기서 우리는 하나의 문제에 직면합니다.

바로 인공지능이란 무엇인가...라는 물음이지요.

프로그래밍용 인공지능이 제대로 기능하기 위해서는,

먼저 인공지능이란 무엇인지에 대한 판단 기준을 직접 입력해주어야 합니다.

또한 "효율적"인 인공지능을 만들려면 어떤 프로그래밍 기법을 사용해야 하는지도 알려주어야겠지요.

하지만 인간은 아직도 이에 대해 잘 알지 못하고 있습니다.

따라서 우리에게는 인공지능에 대한 과학적 이론을 수립하거나, 

또는 인공지능이 필수적으로 가져야 되는 속성이 무엇인지를 규명할 수 있는 좀 더 상위의 인공지능이 필요한 것입니다.

즉, 인공지능 이론 수립용 인공지능 말입니다.

그런데 여기서 재밌는 일이 발생합니다.

만약에 어떤 인공지능이, 인공지능은 반드시 어떠해야 한다는 일종의 기준을 알고 있다면,

그 인공지능은 해당 기준을 이용하여 자신이 얼마나 '비정상'인지, 또는 얼마나 효율적인지를 판단할 수 있게 될 것입니다.

이렇게 하여 자기반성적 인공지능이 탄생하게 되는 것입니다.

자, 이제 여기서 우리는 마지막 관문에 다다랐습니다.

바로 인공지능에게 무엇이 정상인지, 또는 효율성을 판단하는 기준이 무엇인지를 가르치는 것입니다.

물론 인간에게 있어서 정상적인 인공지능이란 인간의 선을 위하여 봉사하는 인공지능일 것이고,

인간의 선을 해치지 않으면서 인간이 원하는 것을 빠르게 충족시켜주는 인공지능이야말로 효율적인 인공지능일 것입니다.

하지만 과연 우리는 인간에게 있어서 무엇이 선인지 알고 있을까요?

또한 인간 욕구의 충족이 반드시 인간에게 선이 되는지 판단할 수 있을까요?

만약 고대 그리스인들 혹은 로마인들이 자기반성적 인공지능을 만들었었더라면,

그들은 인공지능에게 노예제가 정상상태라고 가르쳤을 것입니다.

하지만 역사를 통해서 알 수 있듯이 인간의 도덕 관념은 시간이 지남에 따라 변해 왔습니다.

만약 이런 인공지능이 현재에 존재했더라면 아마도 우리는 그 인공지능과 전쟁을 해야 할지도 모릅니다.

또한, 만일 인공지능의 존재 목적을 인간의 신체적 건강 유지 및 생존에 둔다면,

아마도 그 인공지능은 모든 인류를 탁아소나 요양원( -_-)에 감금할 수도 있을 것입니다.

사실 인간이 선이라고 부르는 현상에는 단순히 신체적인 건강 뿐만 아니라 

사랑, 정의, 용기 등등 엄청나게 다양한 요소들이 포함되어 있기 때문에

역사적인 배경과 지적 한계에 매여 있는 인간이 직접 인공지능에게 무엇이 정상이고 

무엇이 효율적인지 가르치는 것은 위험할 뿐더러 거의 불가능한 일이기도 한 것입니다.

따라서 우리는 단순히 인공지능에게 우리 자신이 현재 가지고 있는 문화적 사고방식을 주입하는 것이 아니라,

우리 인류가 미래에 어떠한 사고방식을 가지게 될 것인가에 대한 일종의 방향성을 가르쳐 주어야 합니다.

그러나 우리는 인간이 미래에 어떻게 변하게 될지, 또는 어떻게 변해야 하는지를 모릅니다.

따라서 우리에게는, 단순히 자기반성적 인공지능이 아니라,

인공지능이 인간에게 도움이 되려면 어떻게 해야 하는지를 끊임없이 연구하는...인간친화적 인공지능이 필요한 것입니다.

즉, 친인간적 인공지능에 관한 이론을 수립할 수 있는 친인간적 인공지능이 탄생하는 것이지요.

과연 이러한 인공지능이 가능할까요?

최소한 인간들이 이러한 고찰을 할 수 있다면, 아마 인공지능도 동일한 고찰을 할 수 있을 것입니다.

만약 우리가 "친인간성"에 대해 지속적으로 토론하는 대신 이에 관한 어떤 정해진 해답을 인공지능에 주입한다면,

이는 인공지능의 사고 능력을 제한하는 결과를 가져올 것입니다.

인간에게 좋은 인공지능이란 무엇이며 어떻게 하면 그렇게 될 수 있는지 고민하고 토론하는 친인간적 인공지능이야말로,

인간의 게으름이 이룩할 수 있는 최고의 업적일 것입니다.

...

잠깐, 그런데 이런 인공지능을 전쟁이나 테러에 써먹을 수 있으려나? ( -_-)