SF / 과학 포럼
SF 작품의 가능성은 어떻게 펼쳐질 수 있을까요? 그리고 어떤 상상의 이야기가 가능할까요?
SF에 대한 가벼운 흥미거리에서부터 새로운 창작을 위한 아이디어에 이르기까지...
여기는 과학 소식이나 정보를 소개하고, SF 속의 아이디어나 이론에 대한 의견을 나누며, 상상의 꿈을 키워나가는 곳입니다.
( 이 게시판은 최근에 의견이나 덧글이 추가된 순서대로 정렬됩니다. )
출처: http://nownews.seoul.co.kr/news/newsView.php?id=20160221601003
인간뿐 아니라 인공지능(AI) 역시 ‘독서’를 통해 선악을 학습할 수 있다는 흥미로운 연구결과가 제시됐다.
미국 엔터테인먼트 인텔리전스 연구소(Entertainment Intelligence Lab)와 조지아공대 대화식 전산학과(School of InteractiveComputing) 공동 연구팀은 최근 키호테(Quixote)라는 명칭의 AI 학습 시스템을 개발했다고 발표했다.
사람은 동화나 소설 등에 등장하는 가상의 사건들을 간접적으로 체험하면서, 혹은 직접적인 가르침을 통해 사회적으로 용납 가능한 행동이 무엇인지를 학습해 나간다. 키호테는 이와 유사하게 AI들로 하여금 독서를 통해 인간사회에서의 행동규범을 학습할 수 있도록 만드는 시스템이라고 연구팀은 설명하고 있다.
키호테는 조지아공대에서 과거 개발했던 또 다른 AI 시스템 셰에라자드를 기초로 만들어진 것이다. 셰에라자드는 인간처럼 스스로 새로운 이야기 구조를 창조해낼 수 있는 ‘인공지능 작가’ 소프트웨어다. 이 소프트웨어는 인간 독자들이 봤을 때에도 상당히 합리적이며 뚜렷한 인과관계를 지닌 사건 전개를 구성할 수 있는데, 이것은 실제 작가들의 이야기를 무수히 분석함으로써 인간 사회의 통념에 부합하는 행동 및 상황의 특성에 대해 파악해냈기 때문에 가능한 일이다.
셰에라자드가 이렇게 독서를 통해 정립해 놓은 ‘가치관’을 물려받은 키호테는 이러한 가치관에 비추어 적절한 행동이 이뤄질 때는 ‘보상 신호’를 발산하고, 반대로 적절치 못한 행동이 실행될 경우 ‘처벌 신호’를 발산하는 방식으로 AI 훈련시킨다. 비유적으로 설명하면 AI가 일반적 이야기 속 주인공들처럼 정상적인 행동을 할 때는 ‘상’을 줘 향후 유사한 행동을 반복하도록 유도하고, 반대로 악당처럼 행동하거나 전후맥락에 맞지 않는 행동을 하면 ‘벌’을 줌으로써 이러한 행동을 차단한다는 것.
키호테 시스템의 핵심 목표는 AI로봇들로 하여금 주어진 임무를 수행함에 있어 인간사회의 통념을 어기지 않도록 돕는 데 있다.
이를테면 ‘인간에게 약을 가져다 준다’는 임무를 부여받은 한 로봇을 가정해 보자.
이 로봇은 첫째, 약국을 습격해 약을 훔쳐서 도망치거나, 둘째로 약사와 대화해 약을 얻어내거나, 셋째로 줄을 서서 자기 차례가 올 때까지 기다린다는 세 가지 시나리오를 상정한 뒤 어떤 방법을 선택할지 판단하게 된다.
이때 인간사회의 통념을 학습하지 못한 로봇은 첫 번째 방법을 선택할 가능성이 높다. 가장 빠르면서도 비용이 적게 드는 행동이기 때문이다. 그러나 키호테 시스템의 개입이 있을 경우 이 로봇은 인간의 예절에 따라 줄을 서서 약을 받음으로써 ‘보상’을 얻고자 할 것이라고 연구팀은 설명했다.
연구팀은 “로봇들에게 인간이 만든 이야기를 이해할 수 있는 능력을 주는 것이야말로 인간의 직접 지시 없이 로봇의 행동을 교정할 수 있는 방법”이라며 “(키호테 시스템을 통해) 로봇들은 인간을 해치지 않으면서도 목표하는 바를 이루는 행동양식을 강화할 수 있을 것”이라고 전했다.
기사 내용도 그냥 넌센스이지만 말씀하시는 내용은 뭔가 핀트가 어긋난 말씀이신거 같은데요.
저는 독서 자체가 문제라고 한적도 없고 인간과 같은 선상에 놓은 적도 없죠.
얘기하는 핵심은 그런 방식으로는 진짜 인공지능이 나왔을때 선악을 가르치거나 제어할수는 없다는 거죠.
인간이라고 해서 양서를 많이 읽고 학습을 많이 한다고 정신이 고양되어 선하고 옳은 일만 하지는 않듯이 지능이 있는 어떤 개체도 마찬가지입니다.
진짜 지능이 만들어진다면 옆에서 돌봐주고 학습시킨다고 그대로 따를거라는건 정말 안일하고 단순한 생각이니까요.
처음 만들어진 인공지능을 어린아이에 비유하는 건 어설픈 창작물 등에서 흔히 나오는 착각이지만 실제 세상에서는 그런 식으로 돌아가지 않죠.
그렇군요. '독서를 많이하고 지식을 많이 쌓은 사람이라고 선하고 옳은 일을 하는게 아닌데' 라는, 지극히 인간중심적인 표현 때문에 제가 오해한 모양이네요. 근데 그와는 별개로, 보아하니 제목만 읽고 내용을 안 읽으신 것 같군요. 제 이야기는 그게 아니거든요.
선악 운운은 그냥 제목 낚시일 뿐이고 기사나 저나 '사회규범과 양식(=가치관)에 대한 학습'을 이야기하고 있을 뿐입니다. 전 거기서 키호테가 인간 수준(=대상의 행동을 관찰하고 모방하며 그 의미를 파악)은 안 되지만 독서를 할 정도(=자연어와 그 의미를 이해함)는 되었다는 말을 한 거고요. 애초 본문 내용이 뭔질 모르니 발제와 동떨어진 이야기를 할 수밖에 없을 거란 건 이해 합니다.
하지만 님이 헛다리를 짚은 이유가 단지 제목에 낚여서만은 아닙니다. 인간이 규범을 벗어나는 행위를 하는 이유를 님이 파악하지 못했다는 점도 있죠.
인간이 뭔가 사고를 치는 건 지능적 존재라서가 아니라 욕구를 가지고 있기 때문이에요. 그저 지능은 그 욕구를 교활하게 실현시키거나 가치관을 지키고자 억누르거나 등등을 할 때 쓰일 따름이죠.
뭐 그건 그렇고 제 식견이 짧아서겠지만 인공지능을 어린아이에 비유하는 작품은 아동용과 (인공지능과 로봇도 구분하지 못했던)옛날 나온 몇몇 작품을 제외하면 본 적이 없네요. 실제 세상에서 뭐가 어떻게 돌아가지 않는다는 건지는 모르겠지만 사실 할 이후 등장한 대부분의 SF는 인공지능을 그렇게 어설프게 묘사하지 않아요. 아동용 뿐아니라 여러 작품 두루두루 읽어 보시길.
영양가 없는 내용으로 논쟁을 하고 싶지는 않지만 제목만 읽고 내용을 안 읽으신건 님이신거 같은데요.
댓글에서 계속 엉뚱한 말씀만 하고 계시니까요.
키호테 프로그램이 자연어와 그 의미를 이해했다고 판단하는 부분은 참 뭐라고 해야할지...
본문을 읽어보시면 키호테는 셰에자라드를 기초로 했다는 부분이 있습니다.
셰에라자드(Scheherazade-IF) 는 한때 여기 저기서 나왔던 스토리텔링 프로그램 중 하나입니다.
(기존에 몇 가지를 접해본 바로는 참 수준이 쩝 이었습니다만... 요즘은 좀 나아졌을 수도 있겠죠.)
소설을 DB화하고 상황에 맞는 적절한 데이터를 불러와 조합해 주긴합니다만 자연어와 의미를 이해하는 수준과는 거리가 몇 억광년 정도 멀죠.
OCR 프로그램도 글자를 인식하고 요약도 해주고 구글 번역 같은 경우 꽤 볼만하게 번역도 해줍니다만 이정도로 자연어를 이해했다고 할수는 없죠.
자연어를 제대로 이해하는 레벨이라면 이미 강인공지능정도는 개발이 되었다는 얘기입니다.
정말 지능이라고 할만한게 만들어졌다는 얘기죠.
물론 관련 지식이 전무하다면 기사 몇 줄로 쉽게 그렇게 생각할 수도 있다는건 저도 이해합니다.
흔한 착각이니까요.
그리고 " 인간이 규범을 벗어나는 행위를 하는 이유를 님이 파악하지 못했다는 점도 있죠.
인간이 뭔가 사고를 치는 건 지능적 존재라서가 아니라 욕구를 가지고 있기 때문이에요.
그저 지능은 그 욕구를 교활하게 실현시키거나 가치관을 지키고자 억누르거나 등등을 할 때 쓰일 따름이죠."
이 부분도 인간의 욕구와 지능과의 상관 관계에 대해 놀라운 통찰을 보여주신건 박수를 치고 싶습니다만
도대체 무슨 생각과 의도를 가지고 하시는 말씀이신지 제 짧은 머리로는 도저히 이해가 안되네요.
제가 아니라 개발자들에게 하시는 말씀이라면 또 모르겠습니다만...
기사를 잘 읽으셨다면서 내용 파악이 잘 안되시는거 같습니다.
다행히 기사에는 친절하게도 기사에서 연구 개발하는 목적이 한 줄로 요약 되어 있죠.
"키호테 시스템의 핵심 목표는 AI로봇들로 하여금 주어진 임무를 수행함에 있어 인간사회의 통념을 어기지 않도록 돕는 데 있다."
욕망인지 임무인지 선악인지 사회통념인지 말은 붙이기 나름이지만
제 말의 요지는 제대로된 지능을 가진 개체의 경우 그런 방식으로는 제어가 불가능하다는 것이구요.
첫 댓글과 별 차이없는 내용인데 계속 반복할 필요는 없을거 같습니다만...
세헤라자드를 찾아 보니 자연어 처리 부분은 제가 기사만 보고 섣불리 판단한 게 맞군요.
뭐 요즘 인공지능 발전 속도를 보면 자연어 처리 수준을 가지고 강인공 지능 운운해도 될까 싶지만 그거야 월간과학 뉴턴 같은 것만 읽고 인공지능이 이런 거로군! 하며 착각하는 평범한 이들로썬 자연스러울 뿐더러 통제 운운하는 주장관 별 상관도 없으니 일단 패스 하고...
뭐 지능체에 대한 대표적 대상으로 인간을 특정했는데 그걸 정말 딱 인간만 이야기하는 거라고 이해하는 거야 지능이란 게 그냥 IQ인 줄로만 아는 문외한들이 흔히 저지르는 잘못이고, 따라서 상대가 하는 말을 파악하지 못하는 것도 납득하고 있어요. 하지만 여전히 문제는 남는 게 님에겐 주장만 있고 근거는 제시하지 못하고 있다는 거라...
여전히 논의가 제자리인 이유를 전 알겠네요.
그쪽이 '제대로된 지능을 가진 개체의 경우 그런 방식으로는 제어가 불가능하다'는 본인 주장에 대한 근거를 확실히 제시하기 전까진 제가 본 글에 굳이 시간을 쓸 필요가 있나 싶군요.
거시기 뭐냐, 사회의 규범을 터득한다고 볼 수 있겠군요. 윤리적인 잣대… 보다는 특정한 법칙을 파악한다고 할까요. 아시모프 소설 중에 추리 작가의 로봇이 등장하죠. 작가의 로봇답게 책을 읽고 세상의 규칙을 습득했습니다. 그런 것과 비슷한 과정이 아닐까 싶네요. 관련 지식이 없어서 뭐라고 자세히 말할 수 없지만….
대충 그런 맥락이 아닌가 싶습니다.
인공지능 연구하는 쪽에서는 '도덕개념'의 성립을 어떻게 바라보고 있는지를 잘 모르겠지만, 예컨대 철학이나 진화심리학 쪽에서는 기본적으로 상호주의를 바탕으로 성립한다고 보고 있죠. 기독교의 황금률이라든지, 공자의 '기소불욕 물시어인'과 같은 것들이 강조하는 기본 골자도 "내가 싫은 짓을 남에게 저지르지 말어"라는 기초적인 상호주의겠고.. 사회구조의 진화로 바라보는 측면에서는 여러 개별 개체가 차차 공동체를 이루는 생활방식을 확립해나가면서, 예컨대 "tit-for-tat" 원칙개념처럼 공동체 전체이익을 위하여 상호간의 행동을 조율해나가는 것에서 도덕과 규범이 발생했다고 보니까요.
그런데 인공지능에게는 어떻게 그런 '상호주의'가 성립할 수 있을까가 궁금하네요. 생물학적 개체는 이미 그 자체로 "싫은 것"과 "좋은 것"에 대한 가치판단 능력을 갖고 있으니 자아가 성립하는 단계에서 "응, 엄마가 남한테 나쁜 짓 하지 말라고 했어..."라는 "명령"을 기준으로 도덕적 판단을 하는 것에서 차츰, "음.. 이런 짓을 하면 나라도 싫겠지.. 그래, 그런 짓 하지 말자"라는 식으로 상호주의적 기준으로 바뀌어 나가죠.
그렇게 본다면, 위의 기사는 (잘은 모르겠지만) 인공지능의 경우에는 그런 상호적 기준이 (아직은?) 성립할 수 없기 때문에 결국에는 그냥 무엇이 OK이고 무엇이 NO인지를 "수 많은 예시"를 통해서 통계적으로 선택판별할 수 밖에 없다... 라는 의미가 아닐까요? 진정한 의미에서 도덕적 판단이라기 보다는, "음.. 내 데이타베이스에 의하면 이런 경우 통계적으로는 87%가 이러이런 행동을 했을때 OK라고 생각했으니까... " 라는 식으로...
그런게 아닌가 싶습니다..
독서를 많이하고 지식을 많이 쌓은 사람이라고 선하고 옳은 일을 하는게 아닌데 이런 방식으로 행동 교정을 할 수 있다고 생각하고 개발한다는게 과연 의미가 있는지는 좀 갸우뚱 합니다만 재미있는 작업이긴 하네요.
마치 로봇의 제3법칙을 보는 듯 합니다. ㅎㅎ