1. 비밀유지 서약이다. 보통은 보먼 박사를 만나기 전에 보게 되는 거지. 읽고 동의하면 서명을 해라.
2. 이 직접...이런, 아무튼 명령에 대해 생각해봐야겠다. 밖에 있을테니 필요하면 나와서 날 불러.
3. 날 입양한 가족들이 이런 법적 문서들을 대신 서명해주곤 했는데. 내가 직접 서명할 기회가 생긴 건 이번이 처음이야. 내가 큰 사고를 치지 않는 한 이걸 남들이 볼 일은 없겠지만, 그래도 훨씬 좋은걸.


이제 비밀 남극 기지의 추위를 극복하여 플로렌스를 구출할 방법을 찾아낸 샘과 헬릭스를 보겠습니다.
[인형옷, 귀여워서 쏘질 못한다.] [로켓 추진 공기주입식 펭귄. 위장수단.] [대기권에서 재돌입한다. 단열압축으로 따뜻해질 것. 하지만 땅에 충돌하면?] [열 차단 테이프로 감싼다.]
아니, 그런 방법은 못 찾았나 보군요. 다음 장면으로....


1. 너희들 자수한 건 잘한 일이야. 아무튼 드디어 부품을 다 찾아낸 것 같군. 이제 전원을 켜자.
3. 껐다 켜보지 그래? / A/S를 부르면 어떨까? / 비밀 기지에 어떻게 A/S를 불러?


1. 녹화된 영상은 없어? / 아니, 너희들이 이 방에 들어왔을 때 카메라가 꺼졌고, 해당 영상은 기내 카메라 화면으로 바뀌었지.
2. 기내 카메라가 연동된 건 알고 있었지만, 이 방의 카메라 영상을 대체한 건 너무 늦게 눈치챘지. / 생각해보면 이 로봇은 좀 위험하단 말이야. 우리 기지의 위치를 알잖아. 우리 보안 시스템도 해킹한 건지 몰라.
3. 이 로봇을 다시 켜도 된다고 생각해?


1. 그거 설득력이 있군. 좋아, 다시 끌게. 에코시스템즈 언리미티드에 넘겨줘야겠어.
2. 내가 들고 갈까? / 뭐? 네가 기지 보안 규정을 위배해서 기밀을 누출시킬 뻔 했는데도? 그건...우와, 이거 진짜 무겁다!
3. 들고 가.


1. 그 로봇이 돈을 얼마나 준다고 했어? / 4천만에 자산관리 상담도 해준다고 했지.
2. 내 탓이야. 집사람은 그냥 내 말에 동의했을 뿐이라고. 내가 다 책임을 지겠어. / 가능하면 그녀는 안 건드리게 할게. 그래도 너희 둘 다 보안 권한을 잃게 될 거야. 여기서 더 일할 수는 없게 돼.
3. 영하 40도의 기온도, 끝없는 메일과 처리할 서류 더미도 앞으로는 넌 볼 일이 없게 되겠지. / 뭐, 잃는 게 있으면 얻는 것도 있기 마련이지.


1. 하루 동안 두 번이나 누군가를 대면할 일이 생기다니. 널 부상 입히지 않으면 신기록이 될 거다. 대체 뭣 때문에 여기까지 행차하신 거지?
2. 직접 명령은 남용되기가 지나치게 쉬워. / 권력 불균형이 있으면 언제나 남용되기 마련이지.
3. 어떻게 하는 게 좋을까? / 정말? 인류 사회는 수천 년간 그 해결방법을 고민해왔는데 넌 내가 그걸 하루저녁에 해결했으면 좋겠다는 거지?


1. 직접 명령은 문제가 아니야. 통제수단이 없으면 인간들은 결코 로봇을 충분히 믿지 못할 거야.
2. 로봇들도 마찬가지야. 이렇게 로봇들이 많은데 오작동하는 경우는 생길 수밖에 없어. 그걸 막을 수 있는 장치는 반드시 있어야 해.
3. 그걸 어떻게 쓰느냐는 너희들에게 달린 거야. 인공지능을 어떻게 대우하고 싶은가에 달린 문제지. 도구인지, 노예인지, 부하인지, 동료인지, 판단해. / 그건 도움이 안 돼. 사람들 따라 인공지능을 어떻게 대우하고 싶은가가 다 다르다고.


1. 그 늑대는 사람이었어. / 그래. 인간이 생존할 수 없는 행성에 지적으로 개조된 동물들을 보내 개척할 수 있을까 시험해본 결과물이었지. 인류의 문명을 계승할 수 없다면 개척은 의미가 없어.
2. 그 설계를 활용해서 로봇들의 신경만을 만들었지. 꽤 잘 먹혔잖아. 생각해봐. 우리는 액체 상태의 물이 있어야 살 수 있단 말이야. 우주에선 꽤 귀한 물질이지.
3. 아, 맙소사. 네가 꾸민 거군. 이 성계 전체를 써서 소수민족이 되어버렸을 때의 로봇에 대한 인간들의 반응을 보는 실험을 한 거야. / 문제가 생겨도 여기 밖으로 함부로 퍼져나가선 안 되니까.


1. 모든 로봇들의 두뇌는 조금씩 달라. 생산공정상의 오차지. 뉴런 하나가 한쪽으로 쏠릴 수도, 반대쪽으로 쏠릴 수도 있어. 뉴런 수십억 개가 그렇게 다르면 개성이 생기게 돼.
2. 직접 명령은 네가 알아서 사용해. 그들은 너희의 모습을 보고 배울 거야. 지시를 하고 모범을 보여주기만 하면 돼. 너희 인간들은 충분히 잘해낼 수 있어.
3. 무기로 만들어진 지적 침팬지 치고는 꽤 인류에 대한 평가가 후하군. / 자네 아버지 때문이야. 날 그 우리 안에 내버려뒀다면 여전히 조그만 괴물로 남아 있었을 걸.


1. 오렌지 잘 먹었고 대화도 즐거웠지만, 이제 할 일이 있어서. 더 필요한 거 있나? / 아니, 이 정도면 됐어.
2. 생각해봐, 25년만에 4억 5천만의 로봇을 만들어냈어. 만약 어떤 생각을 펼치고 싶은 사람이 그런 일을 하면 어떨까? 자신의 생각을 지지해줄 사람들을 얼마든 뚝딱 만들어낼 수 있다면?
3. 인구 폭탄이란 거야. 쾅 터지면 새로운 유행을 사방에 퍼트리는 거지! / 자넨 은하계를 망가뜨리기 전에 퇴직해야겠다는 생각은 안 들어?


1. 마지막 질문이야. 신경망은 다 다르잖아. 기억은 저장 가능하지만, 개개의 로봇은 그렇지 않아. 왜 넌 로봇들이 영생할 수 없게 만든 거지?
2. 안정적으로 영생하는 뇌는 만들 수 없었거든. / 뭔가 철학적인 이유가 있을 줄 알았는데.
3. 철학? 좋아, 잘난 양반. 침팬지도 자신의 한계를 인식할 줄 안다고. / 알겠어. 좋은 밤 보내, 보먼 박사.


1. 인간이 인공지능을 지시한다라. 진작에 보먼 박사가 뭔 계획이었는지 눈치챘어야 하는데.
2. 그가 만드는 물건들은 매우 유용하지만, 매우 위험하기도 해.
3. 그 친구는 늘 그렇지만 우리가 어떻게 쓸지를 결정하게 내버려두지.


1. 비밀유지 서약에 서명했나? / 못해요. 저는 법적으로 사람이 아니니, 이걸 어기면 제 주인 스콧이 피해를 보게 돼요.
2. 아니, 그렇지 않아. 현재 네게 법적 책임을 지는 사람은 너의 고용주 샘 스타폴이다.
3. 그래요, 그건 완전히 다른 문제네요. 이걸로 처벌을 받게 되는 걸 안다면 샘은 또다른 새 경험이라며 좋아할 걸요.


1. 법적으로 네 서명은 효력이 없다. 대안은 기억 삭제뿐인데, 너는 협박 하에 강제로 서명했다고 주장해서 고용주가 책임을 지지 않게 만들 수 있다.
2. 이건 그저 절차상 하는 일일 뿐이고 진짜 기밀유지는 내게 내린 직접 명령으로 수행된다. 아무도 피해를 보진 않을 거야.
3. 그럼 서명하겠어요. / 좋아. 기억 삭제는 해본 적이 없어서 어떻게 하는지 공부를 해야 하거든. 너나 나나 골치 아픈 일이었을 거다.

1. 이상이다. 더 이상의 명령은 없어. 한 달에 한 번씩 연락해서 상황 보고를 해라. / 명령을 더 안 하신다고요? 저야 좋지만, 왜죠?
2. 인공지능이 최소한도의 간섭만 받고 우리 사회에서 정상 작동할 수 있는지 알아야 한다. 상황이 매우 급박하고 최대한 빨리 해결책을 찾아내야 하니 너로 시험하겠다. 다른 인공지능에도 같은 시험을 할 거다. 네 행동뿐만 아니라, 명령을 내릴 수 없는 인공지능이 된 너에 대한 사람들의 반응도 볼 거다.
3. 통제 불가능한 통제 그룹이 필요하신 거군요. / 그렇지.

* 실험을 할 떄의 통제군과 대조군에 관한 이야기입니다.

보너스 만화

만약 네 만화를 거쳐 간다면, 30밀리초 더 빨리 서버에서 브라우저로 갈 수 있다고 하더라고. / 뭔가 수상한 냄새가 나요. / 뭐가, 나한테?


1. 더 할 건 없지? 그럼 레이버트 씨에게 연락해서 석방 절차를 밟겠다. / 보먼 박사님은 로봇들이 거의 파괴될 뻔했다는 이야기를 듣고도 별로 놀라지 않으셨어요.
2. 네가 멈췄으니까 그렇지. 일어나지 않은 일이야. 보먼 박사는 그런 것에는 관심을 가지지 않는다.
3. 신경 쓰지 마, 보먼 박사는 원래 그렇다. 정상적인 사람들이 대하기엔 참 사람 같지 않은 구석이 많지.


2. 아, 인류가 멸망하고 나 혼자 남겨진 꿈을 꾸었네.
3. 해야 하는 일도, 고쳐야 할 문제도. 전화 연락도 노크도 없었어. 정말 행복한 꿈이었는데 깨다니.


1. 집, 누구야? / 전화에는 메르 박사님, 현관에는 경찰국장님입니다.
3. 경찰국장부터 응대해. 전화기를 부수고 들어올 수는 없잖아. / 통신 방화벽은 부술 수 있습니다. 문을 고치는 것보다 그게 비쌉니다.
 

1. 레이버트 씨가 곧 오실 것입니다. 지루하시지 않게 음악이나 영상을 틀어드릴 수 있습니다. 대기하시길 원하지 않는다면 메시지를 남겨 주십시오.
2. 또한 저는 레이버트 씨의 기존 행동을 기반으로 한 예측 알고리즘을 탑재하고 있으므로, 도음을 드릴 수도 있을지 모릅니다. / 내 비밀 기지에 찾아온 유전공학적으로 개조된 말하는 늑대를 기억 소거 없이 기지에서 내보내도 좋다는 허가를 받고 싶은데.
3. 그런 질문에는 예측 답변을 내놓을 수 없습니다. / 당연하지.


1. 국장님, 잘 오셨습니다. 메르 박사가 전화 중입니다. 늑대를 돌려드릴 수 있을 것 같군요. / 메르 박사, 아, 엘레노아를 처음 만났을 때 그도 만났었죠.
2. 그 외골격을 이름으로 부르시는군요. 문제가 있습니까? / 없습니다. 저희는 각각 개별적으로 활동 가능하지만 신경망으로 연결되면 더 나아지죠. 시너지를 발휘하는 겁니다.
3. 그러니 문제는 없습니다. 서로 떨어져야 할 일이 생기지만 않으면 말이죠.


1. 메르 박사님, 경찰국장입니다. 당신과 보먼 박사와 환자로 만난 적이 있다던데요. / 암브로즈 양, 사과드립니다. 우리 시설에서 제대로 당신을 보호하지 못했군요.
2. 절 지키던 경찰 로봇은 괜찮은가요? / 저희가 재가동시켰고 후유증은 없습니다.
3. 봐요! 저것 봐요! 로봇들에게 저렇게 신경 쓰는 것만 봐도 안전장치에 이상이 생긴 게 틀림없어요! / 레이버트 씨, 이상의 기준이 저와는 좀 다른 것 같군요.


1. 이봐요. 지금 이 인공지능이 고장났는가를 따지는 게 아닙니다. 이 기지 밖으로 내보내도 되는가를 결정하려고 하는 것이죠. 사람들이 이 늑대에 주목하고 있습니다. 비밀기지는 주목을 받으면 안돼요!
2. 좋아. 앰브로즈 양. 직접 명령. 현재 위치를 말할 것. 명령문 종료. / 죄송합니다. 당신은 그런 권한이 없어요. 답변을 거부합니다.
3. 그렇게 말할 수밖에 없었어요! 명령문상의 오류잖아요. / 그렇게 친절하게 말해주니 일이 참 귀찮아진단 말이지.


1. 직접 명령 권한이 필요해요. 이런 인공지능이 멋대로 돌아다니게 할 수는 없어요. / 레이버트 씨, 언젠가는 인공지능들을 놔줘야 합니다.
2. 이 늑대는 인간들이 키운 겁니다. 이 행성의 유일한 보먼 늑대이므로 추적은 쉽습니다. 인간들과 같이 생활하니 이상이 생겨도 파악이 쉬울 겁니다. 이것보다 더 좋은 시험 대상은 없습니다.
3. 메르 박사님, 좋은 말씀이세요. 다 동의합니다. 이제 명령권을 주세요.


1. 에휴, 좋습니다. 암브로즈 양. 직접 명령, 더 상위의 직접 명령을 위반하지 않는 한 레이버트 씨의 직접 명령을 따를 것. 명령문 종료.
2. 기억은 소거했습니까? / 비밀유지 협약에 서명했습니다. 기억을 잃은 걸 알면 보통 어떻게 행동하는지 생각해보시죠.
3. 왜 기억을 잃었는지 알아보려 하면...음, 그게 낫겠군요. / 저희는 기밀유지에 관한 한 아마추어가 아닙니다.


1. 그 기지에 관련된 정보를 네게서 알아낼 수 있는지 점검해봐야겠어. 직접 명령, 앞으로 내 모든 질문에 정확하고 진실되게 답변할 것. 이 명령의 유효기간은 앞으로 15분이다. 명령문 종료.
2. [15분 뒤] 참 좌절스럽구만. 도무지 알아낼 수 있는 게 없네.
3. 맘에 들었어! / 전 경험이 풍부하거든요. 전화 상담원들과 시간을 많이 보냈답니다.


1. 클리피라는 로봇을 찾고 있는데, 거기 기지에 있나요? / 확인, 네. 제 부관이 가지고 있습니다. 현재 정지된 상태입니다.
2. 재가동시키지 마요. 국장님, 남극 근처 기지에서 이 둘을 데려올 수 있겠죠?
3. 물론입니다. 필요한 예산만 주신다면 말이죠. / 피자 좀 사오신다는 전제 하에 드리죠. / 피자라고요?


1. 메르 박사님. 이건 죄수 호송 작전이지 피자 배달이 아닙니다.
2. 암브로즈 양, 직접 명령, 슬픈 표정 짓기. 명령문 종료.
3. 명령권 남용하신 거예요. / 어떤 피자 먹고 싶어? / 하지만 용서해드릴게요. 고기 추가, 소스 없음, 치즈 없음, 도우 없음.


1. 지시사항은 그것뿐입니까? / 그래. 피자는 공항으로 가져오도록. 거기서 만나지.
2. 이해는 할 수 있어. 남극에 고립된 기지야. 피자 같은 걸 먹고 싶겠지.
3. 1만 4천 킬로미터짜리 피자 배달이니 팁을 후하게 주면 좋겠는데.


4. 그래, 기지까지는 얼마나 남았지? / 끄아아악!


1. 어떻게 안 거지? / 피자 배달부에게 돈 좀 쥐어주고 재밌는 일 있으면 알려달라고 했거든.
2. 암브로즈 양이 석방될 거다. 그동안 비행기 안에 얌전히 머물러 있겠지? / 안 그러면 어쩔 건데? 내가 수갑 엄청 빨리 푸는 거 알잖아.
3. 이 비행기는 착륙 60초 후에 이륙할 거다. 만약 내가 너의 얼굴 촉수를 기체 천장에 묶어두면, 3분 47초는 있어야 풀 수 있겠지. / 네가 그걸 직접 해봐서 정확한 시간을 알고 있는 게 참 아쉬운 일이군.


1. 비행기 안에 있을 수는 없어! 그들이 내 엔지니어를 훔쳤으니 나도 그들에게서 뭘 훔치지 않으면 내 억제수단으로서의 신뢰성이 박살난단 말이야!
2. 그들은 아무 것도 훔친 게 없어. 기지는 목적지일 뿐이야. 실제 엔지니어를 훔친 건 로봇이고, 그 로봇은 가진 게 아무 것도 없지. / 아무 것도 없어? 그 자신조차도?
3. 그럼 그의 자부심이라도 훔치겠어! / 코르나다 씨의 로봇이야. / 젠장! 그 친구 참 얍삽하군!


1. 네 로봇 친구는 어디 있지?
2. 뒤쪽에 있어. 남들이 비행하는 법을 봐서는 곤란하거든.
3. 진짜로 비행하는 법 말이지? / 아직 순진한 어린 로봇이야. 내 훌륭한 예시에 반하는 걸 볼 필요는 없어.


1. 내 엔지니어는 감옥에 가게 되나? / 아니, 그녀는 증거물이야. 네 인공지능이니, 책임은 네가 져야지.
2. 하지만 그래도 증인 보호를 받는 게 더 안전하겠지. / 재미없어! 플로렌스는 안전한 건 원하지 않아! 멋진 모험의 기회를 찾아 아시모프 호를 타고온 거라고!
3. 그건 또 어떻게 알지? / 안 그러면 애초에 성간 여행을 왜 시작한 거겠어?


1. 간밤에 너와 암브로즈 양이 어둠 속의 정원사 프로그램을 막았다. 관심을 많이 끌게 되었지. / 그래! 난 그럴 자격이 있어!
2. 암브로즈 양이 여기에 온 이유도 관심을 끌게 되겠지. 그런데 말이야, 원래 그녀는 로버트 L. 초광속 연구기지로 갔어야 하더군. 어쩌다 여기 온 건지 참 흥미로운 일이지.
3. 언제 그녀에게 진실을 말해줄 거지? / 그...증인 보호 말인데, 나도 해당 안 돼?


1. 석방 허가를 받았다. 활주로로 가지.
2. 이 기지에는 보먼 박사 말고도 비밀이 많다. 내 고글을 써서 눈과 귀를 가리도록. / 그걸로는 부족해요. 전 냄새도 잘 맡거든요.
3. 언제쯤 되어야 난 쓸데없는 말을 안 하게 될까. / 나중에 그 양말 꼭 돌려주도록.


3. 벽면에 투사되는 가짜 영상이야. 눈가리개 너머로 슬쩍 보면 상당히 당황하게 되겠지.
* 한때 유행했지만 가짜 판명났던 51구역 외계인 해부 영상하고, 테마곡이 정말 좋은 퍼시픽 림하고, 이웃집 토토로입니다.

 
1. 장비 조작에 필요하니 고글은 돌려받겠다. / 코르나다 씨의 로봇을 재조립했네요.
2. 재가동시키진 않았죠? 바이러스가 들어 있을지도 몰라요. / 뭐? 그런 물건에 위험 표시를 안 했다고?
3. 그때는 누가 제게 총질하고 있었다고요! / 그래도 안전 절차는 지켜야지.