로봇 3원칙을 지키면서 피아 식별을 한다는 건 모순이고, 결국 살상용 로봇은 단순히 명령을 이행하는 존재일 뿐이겠죠. 가치판단은 그 로봇을 조종하는 인간이 한다고 하지만, 인간의 조종이 닿지 않는 곳에 로봇을 투입할 땐 문제가 커집니다.

그러니 세심하게 작전을 진행해야 한다면 인간을 로봇과 같이 투입하겠지요. 3원칙이 있는 이상, 그리고 인간의 조종력이 한계가 있는 이상 로봇만으로 모든 전투를 이끌지는 못할 겁니다.

 로봇3원칙을 다 지켜 가면서 싸울수 있는 방법이 있기는 합니다. 국가간에 "배틀필드"를 적용하고 그 지역내에 인간의 거주및 출입을 금지 시키고, 무인병기만을 이용한 전투를 하면 가능하겠지요. 또한 피한방울 흘리지 않고 전쟁을 수행할 것이라면 온라인상에 워게임을 개발하여 국가간의 대전을 통해서 자원 인구수 식량등을 승전국이 차지하는 방식도 하나의 방법이 되지 않을까 생각합니다.

전자의 경우는 실제 배틀필드에서 로봇을 가지고 전쟁을 치루는 방식이고 후자는 사이버공간에서 전쟁을 치루는 방식이겠지요.
다만 이 2가지 방식의 가장큰 단점은 더이상 인구수가 전쟁등에 의해서 줄어들지 않기 때문에 인류가 멸망을 가속화 시키는 하나의 방법으로 작용할수 있다고 봅니다.

AI의 반란 없이도 충분히 인류가 자멸하는 가상 시나리오 겠지요.

결론적으로 댓글을 다신 분들은 '로봇이 자신만의 판단으로 인간을 살해할 수 있는 일은 절대 있어선 안되고 어떤 상황이 돼도 로봇을 위배하는 선택을 할 수 있도록 인간이 허용하지 않을것.' 이라는 뜻인지?

이런 선택의 문제를 핵폭탄 사용과 비교하자면.

핵폭탄 사용시 이득 / 매우 훌륭하고 효과적으로 적을 (민간 포함인지 아닌지는 일단  차치하고) 제압할 수 있는 살상무기.
핵폭탄 사용시 손실 / 핵공격 공격 시작뒤 똑같이 핵무기로 보복 공격을 당하게 되면 피해가 크다. 최종적으로 공멸의 가능성이 있음.

여기에서 현재의 인식으로는 이득 < 손실로 판단되기 때문에 핵무기 사용은 자체적으로 억제되고 있습니다.
그럼 로봇에게 저런 인간 살상 권한을 부여하는 것을 따져볼때.

권한 부여시 이득 / 매우 다양한 이득이 있을 수 있음. 전쟁수행 인력 절감이 가능하고 여건이 된다면 대량 생산이 가능. 경우에  따라서는 인간보다 더 효과적인 작전 수행도 가능.(예를들어 인간보다 환경의 영향을 덜 받으므로) 생명유지장치등의 부가적인 장치가 필요하지 않다...등등.
권한 부여시 손실 / 가치판단을 거쳐 인간을 해할 수 있는 로봇이 생기게 된다면 '제 3의 적'이 될 가능성이 있음.

여기에서 '손실' 로 따지자면 핵무기 사용시의 리스크는 매우 직접적이고 예측이 쉽습니다만 저 로보의 3원칙 파기의 문제로는 일단 예측이 쉽지 않고 애매하며 직접적인 피해를 예상하기가 힘들다는거죠. 즉 전자의 문제는 위험도가 크게 느껴지므로 자체적인 불문율적인 통제가 이루어지지만 후자의 경우 인간이 스스로를 통제(즉 로봇에게 자체적인 판단으로 인간을 살상할 수 있는 권리를 주지 않는것.)하는데 있어 저 핵무기 문제보다 더 쉽게 생각할 수 있지 않을까 하는것이랄까요.

3원칙 하에 어떤식으로 전쟁수행에 쓰일까라는 것과는 조금 다른 얘기일 수도 있지요.

실제 닥칠 문제는 우리가 로봇 3원칙을 이해할 수 있는 '로봇'을 만들 수 있는가? 만들었다면 그건 어떻게 대우해 주어야 하는가? 라는 거죠.
일반적으로는 그냥 자동 기계를 로봇이라고 하지만 엄밀한 의미에서의 로봇은 스스로 판단하고 선택하여 결정하는 능력을 가진, 자의식에 가까운 뭔가를 가진 존재입니다. 이런 로봇이라면 발제의 문제가 논란이 되겠지만 본문에 나온 종류의 로봇들은 애초 슈팅 게임에 나오는 아군 기체를 실물화 한 것에 불과하기 때문에 원칙을 적용하고 자시고 할 것도 없죠.

아시모프의 로봇과 달리 본문의 로봇에 대해 걱정해야 할 것은 통제를 유지할 수 있는가(=고장없고 신뢰도 높은 상태를 유지할 수 있는가)라는 것이죠. 저런 류의 로봇은 3원칙에 상관없이 문제가 발생했다면 고장이 났거나 운용이 잘못되었거나 테러범들에게 강탈 당했거나 셋 중 하납니다.
혹은 셋 다거나.

그보다 전쟁에 투입되는 병사로봇이 로봇 3원칙을 넘어서도록 프로그래밍 할 필요가 있는가 하는점부터 지적하고 싶습니다.

우선 이 게시판에서 로봇 3원칙으로 검색해보면 알 수 있는 일이지만 로봇 3원칙이라는 자체가 논리만으로는 규정이 불가능한 명제라는 것을 지적하고 싶습니다. 최우선적으로는 인간이라는 것은 무엇인가 하는 명제에 대한 논리적인 결론이 필요하거든요. 게다가 아무리 방대한 규정을 지정하고, 또한 그것을 인지 할 수 있는 로봇이 있다고 가정하더라도 문제는 발생 할 수 있을 것입니다.
또한 전쟁용 로봇이라는 것에서 로봇 3 원칙의 첫번째 명제에 대한 도전이 과연 불능인가에 대해서 고찰해볼 수도 있을 것입니다. 단순 상해에 대해 복잡한 명령을 내림으로써 전투로봇의 존재가능성을 늘릴수도 있으니까요. 즉 생명에는 피해가 없이 인간이 어떤 사상을 가지든 그 행동을 저지하는 것까지 두번째 명제인 "인간을 보호하라"는 것에 포함을 시킬것인지 아닌지에 따라서  전쟁터에서 로봇은 자율적인 행동을 할 수 있을 것인가 아닌가를 지정 할 수도 있는 것이거든요.
극단적으로 이야기하자면 인간을 계급화시켜서 어느 국가 소속 인간일 경우를 기본으로 두고 그 사람이 어떤 사상을 가졌고, 그 사상을 어느정도 레벨로 현실화 할 것인가 하는 것을 판단하고, 거기에 대해 어떤 행동을 할 것인가를 규정하는것 만으로도 로봇에게 암살하도록 결정하거나 상해후 응급조치, 그 후 본부에 응급상황 전달로 상황종결을 할 지, 혹은 단순히 기절에서 구속등의 행동만으로 끝낼지를 결정 할 수 있다는 것을 생각하면 그 복잡성은 더욱 증대하지만, 결국은 패턴화가 가능하긴 하거든요. 그런점을 생각하면 원칙을 뛰어넘도록 프로그래밍 할 필요는 사라지는거죠. 그냥 원칙의 하부구조를 추가하기만 하면 해결되는 문제이니까요. 오히려 중국의 홍위병사태때보다 더 간단할수도 있다는거죠.

참 어려운 질문같은데요.
만약 원칙1대로한다면 설령 자기를 겨누는 총을 든 적국병사라도 사람인 이상
저항을 하지 않을 것입니다. 그렇다면 전쟁터에 로봇을 내모는것은 진짜 삽질이 될테지요.
그런데 만약 원칙2를 위해 전쟁에서 보조역할을 하게 되는경우 로봇은 극히 한정된 업무.
즉,수송,보급,정찰,의무등을 맡게 될것입니다. 물론 윤리적 프로세스가 완벽하게 작동한다면
아군일지언정 사람을 죽이는데 힘을보태는 일이므로 로봇은 명령을 거부하게 될테죠.
그런데 만약 원칙3을 중시하게 된다면 인간인 병사들은 탈영로봇을 잡기위해 난리부르스르 추게
될것입니다. 이로서의 결론은 로봇3원칙의 준수를 원한다면 로봇은 전투용이 되어서는 안된다와
만약 로봇3원칙을 무시하게 로봇을 만든다면 인간은 참혹한 댓가를 치루게 된다는거죠.
그 증명을 이미 전장을 날아다니는 무수한 미슬에서 찾아봅니다.

 3원칙은 이미 아시모프 스스로 한계를 표현했습니다.

高麗Dragon / 애초에 사람이 쓰는 언어로 표현된 원칙이라는 게 범위를 어떻게 잡느냐에 따라 엿가락처럼 의미가 바뀔 수 있으니 이걸 기계에 적용시키자면 하부 구조가 필요할겁니다. 어쩌면 저 원칙이라는 것도 기계에 집어 넣은 프로그램 성향이 대충 어떻다는 걸 사람이 알아들을 수 있게 표현한 것에 가까울 지도요. (물론 저건 소설용 설정이긴 합니다만.......실제로 적용시킨다면 그렇게 될 거 같습니다.)
예를들어, C언어는 프로그램 언어지만 그 표현양식은 어쨌거나 사람이 대충 알아볼 수 있는 형태로 표현되는 것 처럼요. 왜냐하면 그걸 다루는 게 사람이라 사람이 그걸 보고 대충은 이해할 수 있어야 하니까.
말씀하신 건 개념은 단순하지만 적용하는건 어려울 수 있는 그런 문제일 수도 있을듯 합니다. 하지만 어쨌든 필요한 부분일듯 하군요. 아마 구조가 복잡해지면 오류가 발생할 가능성도 높기는 하겠습니다만 어쨌든 제가 생각지 못했던 부분이네요.


돌.균. / 어떠한 수준의 기술력이 어느 용도로 쓰이는 것이 낭비인지 적합한 수준인 것인지는 그 시대가 처한 상황과 기술력의 수준에 따라 달라진다고 봅니다. 예를들어 무인기의 AI가 현재의 상황과 기술력 수준에 있어 신뢰성이 상대적으로 무선조종보다 떨어져서 쓰이는 것이지 그런 상황이 절대적으로 언제나 그럴 것이라고 단정할 수는 없겠죠.