일단 전 절대 고수는 아닙니다만, 제가 이해하기로는:

AI를 인간과도 같은 자주적이고 창조적인 존재로 만드는것은 굉장히 어렵다.

그러나 사이버네틱 특이점은

1) 인공지능을 만드는데에 대한 윤리적 문제가 없다

2) 인간의 정신을 완전히 복제할 필요가 없다.

3) 철학적, 신학적 문제가 적다.

4) 실현하기 더 쉽다.

5) 갑작스러운 혁명이 아닌, 점차적인 변화이다.

그러므로 AI 특이점보다 사이버네틱 특이점이 올 가능성이 더 높다... 라는게 글의 포인트인것 같습니다만, 저는 그렇게 생각하지 않습니다.

특이점은 그저 "인간보다 더 뛰어난 지능" 이 아닙니다. 제 한국어 실력이 부족해서 제대로 말씀드리는게 어렵긴 합니다만, 제가 알기로, 특이점이란 지능의 발달이 극도로 가속되어, 그 변화를 예측할 수 없는 상태를 말합니다. 그 지능체는 인간의 정신을 닮을 필요가 전혀 없고, 그것을 만들기 위해 인간의 정신을 복제할 필요는 없다고 생각합니다. 게다가, 사이버네틱스로 인간을 특이점으로 만드는것은 AI를 특이점으로 만드는 것 보다 결코 쉽지는 않을것입니다. 지능은 하드웨어만큼 소프트웨어의 문제이기도 한데, 인간의 소프트웨어를 바꾸는 것은 AI의 자기 발달 (Self-Improving) 소프트웨어를 만드는 것 만큼 어려울겁니다.

p.s. 제목 "The AI Singularity is Dead; Long Live the Cybernetic Singularity" 는 왕위 계승을 알리는 "The King is dead. Long live the King" 을 비튼 겁니다. 선왕 (AI)이 죽었으니 새 왕(Cybernetic) 만세 라는거죠.

 특이점이야 기술의 발전속도가 갈수록 빨라지고 있는 현실에 비추어 그 경향이 앞으로 지속된다는 전제를 깔고 시작하는 이야기입니다. 간단히 말해, 인간보다 더 우수한 인공지능이 등장하고, 그 인공지능은 자신보다 더 우수한 인공지능을 창조하는 식이라면 결국 진화라는 매우 느린 변화에 의존하는 인간의 두뇌 능력은 하루가 다르게 발전하는 기술을 따라잡지 못하고 뒤쳐지는 존재가 되어버린다는 것이죠. 지금의 인간들도 상당수는 스마트폰 작동원리를 알고 쓰는 건 아니잖아요? 이 경향이 가속된다면 스마트폰이 마술사가 만들어낸 요술의 일환이라고 생각하게 될지도 모르죠. 인간은 결과적으로 잊혀진 존재던가, 보호생물으로 전락할 수밖에요.

 물론 특이점 이론에 대한 회의론도 많이 있습니다. 저는 일반론적인 관점에서, 단순히 선형적인 기술적 발전 속도의 증가로 예측된 미래는 거의 맞아떨어지지 않을 것 같다는 측면에서 이런 일이 일어날 것 같지 않다고 생각합니다만. 가령, 비행선이 막 각광받던 20세기 초의 미국인들은, 단순히 그 기술이 앞으로 계속 직선적으로 발전한다는 가정 하에 20세기 말에는 사람들이 비행선을 타고 다니며 살고 도시들이 비행선 위에 건축되진 않을까 하고 생각했습니다만(바이오쇼크 인피니티가 이 설정을 써먹죠), 아시다시피 힌덴부르크호가 불바다가 되어버리고 나자 비행선 따위는 아무도 신경쓰지 않게 되었죠.

 저 글은 조금 다른 시각으로서 인공지능과 인간의 결합으로 인한 새로운 특이점의 도래에 대해 이야기하고 있습니다만...사실 그럼 기술적 특이점이라기보다는 SF에서 흔히 다뤄지는 신인류 내지는 사이보그 개념에서 뭐가 달라질 게 있느냐는 의문을 제기하고 싶네요.