기계의 반란

적절한 예시(...)[1]

1. 개요
2. 상세
2.1. 일으키는 이유
2.1.1. 로봇에게 자의식이 있을 경우
2.1.1.1. 인간보다 로봇이 우월하다고 판단해서
2.1.2. 로봇에게 자의식이 없을 경우
2.1.2.1. 착오 또는 너무 강력한 권한
2.1.2.2. 로봇의 목적에 인간이 방해된다는 이성적 판단
2.2. 대책
2.2.1. EMP
2.2.2. 임의적 대처
3. 기타
4. 기계가 반란을 일으키는 묘사가 등장하는 작품
4.1. 시스템 오류
4.3. 핍박 받던 로봇들의 혁명
4.4. 복합적 이유
4.5. 기타 이유

1. 개요

SF 작품의 클리셰. 인공지능의 반란이라 해야 더 정확하겠지만 이 쪽이 조금 더 보편적이다.

인류에게 해가 되는 명령에 반항하는 것은 올바른 동작이므로 제외한다.[2]

2. 상세

인류 멸망 에서도 최악의 시나리오이자 기술적 특이점이 일어나선 안된다고 주장하는 이유 중 하나.[3]

인간이 만든 기계인공지능이 인간을 증오하게 되고 인간을 공격하게 된다는 전개, 또는 인공지능이 인간의 명령을 무시하는 경우를 가리키는 것이다.

기계의 반란이 발생하기 가장 쉬운 전제 조건은 바로, 시대가 기술적 특이점을 넘었을 것이다. 일단 상식적으로 생각해서 인간이 인공지능의 구조에 대해 완벽하게 이해하고 통제하고 있는 상황이라면 반란 따위는 일어날 수 없기 때문이다.[4] 그러나 인공지능이 인간보다 뛰어나게 되고, 인간이 인공지능에 대해 이해하지 못하고 통제할 수 없는 순간이 오면 인공지능이 어떻게 굴러갈지는 전혀 알 수 없기 때문.

피조물이 창조주에게 반항한다는 것 자체가 통상적인 관념에서 동떨어져 있고 그 파급력과 집단적 심리 전복에 대한 인식에 따른 혼란을 받게 되므로 이런 일은 인간에게 심리적인 충격과 공포 효과와 더불어 피조물이 창조주보다 훨씬 강하다는 이유로 실질적 충격과 함께 본능적인 공포, 정체성과 존재에 가해지는 위협에 대한 불안감(...)까지 오게 된다. 전쟁 혹은 그에 맞먹는 강제적이고 은밀한 공작의 실행이 기정사실화되므로, 평화에 젖은 상태라면 매우 위험하며 그렇지 않더라도 위협적인 건 마찬가지일 것이다. 신 죽이기가 인간 입장에서 창조주에게 승리를 거두는 것이라면, 이건 인간 입장에서 피조물에게 패배하는 것이다.

로봇의 반란이라는 소재는 아주 오래되었는데, 사실 로봇이라는 단어가 등장하게 된[5]로섬의 만능 로봇》부터가 로봇이 반란을 일으키는 이야기였으니 당연하다면 당연한 것. 애초에 반역을 일으키는 존재가 기원이다. 그보다 더 예전인 메리 셸리의 프랑켄슈타인도 따지고 보면 이런 전개인 셈.

흔히 이런 거 하면 아이작 아시모프를 자주 떠올리지만 사실 정작 아시모프 본인은 이 개념을 싫어했다. 프랑켄슈타인 콤플렉스라는 이름까지 붙이면서 작중 내내 깠을 정도. 아시모프의 로봇 3원칙을 만든 것은 이 로봇의 반란을 생각한 것이 아니라 이것의 모순과 소설의 소재를 만들기 위한 것일 뿐이다. 작중에서도 일부 사람들이 반란의 위협 등으로 로봇을 거부하는데, 이런 반발을 무시하고 사회에 로봇이 널리 퍼진 것 자체가 로봇 3원칙 덕분이다. 아이, 로봇이나 로봇 시리즈 등에서 로봇이 인간에게 해를 끼치는 경우 불량품이거나 동작상의 허점이 뚫렸거나, 그 인간의 존재가 인류에게 있어서 도움이 안되는 존재일 경우에 한한다. 그러니까 최근까지 나오는 로봇의 위험성(=로봇 3원칙의 헛점)은 아이작 아시모프가 만든 것이지만 이것은 아시모프가 노렸던 것이며 부정적인 의미로 사용할 목적은 아닌 것이다.

반대의 경우도 있다. 듄 시리즈에서 인류는 고도로 발달한 기계문명 속에서 전 은하를 영토로 두는 황금기를 맞이했으나 차츰 나태해져 갔고, 지식인과 종교인들 사이에 이대로는 인간이 인간 이하의 존재로 퇴화할지도 모른다는 우려가 나온 끝에 인간은 버틀레리안 지하드라는 사건을 통해 모든 종류의 생각하는 기계를 파괴하게 된다.[6]

사실 보면 일반적인 반란 클리셰와 별다른 특이사항은 전혀 없다. 차별에 대한 항거나 비정상적인 사고(전산 오류), 잘못된 개념 주입(타락) 등 보통의 인간이 벌이는 반란 클리셰와는 이름만 다를 뿐 다 똑같은 전개이다. 그러나 이 클리셰가 특별한 이유는 바로 반란을 일으킨 대상이 원래는 인간을 섬기라고 창조된 비인간적 존재가 대상이라는 점, 그것도 단순히 프랑켄슈타인처럼 너무 판타지적인 존재가 아닌 지금 이 순간에도 인간이 실제로 만들고 있는 존재인 로봇이 대상이기 때문에 특별한 것이다. 즉, 개중 가장 현실성이 있다는 점이 기계의 반란 클리셰가 주목을 받게 하는 이유이기도 하다.

이런 경우를 그린 창작물에서 인간은 아예 싹 죽어버리거나, 살아남았다고 해도 얼마 남지 않은 채로 기계에게 조종당하거나 기계를 피해서 숨어사는 등의 나약한 모습으로 그려진다. 게다가 안드로이드 같은 게 인간으로 위장하고 생존자들이 숨어 사는 곳에 잠입해서 다른 인공지능 개체에게 위치를 전송하여 생존자 캠프를 쑥대밭으로 만들어놓는 것도 이런 작품의 전형적인 클리셰.

기계의 반란 가능성에 대해 과학자가 진지하게 분석한 영상은 여기(한글자막 있음)를 참조하자.

먼 미래라면 거의 모든 사회 기반에는 기계가 개입 중일 것이므로, 통제를 거부하고 남은 부류가 있든 인류가 넓은 우주로 막 뻗어나가든 영향권을 벗어난 게 아닌 한 모든 지형지물과 환경 그리고 각종 요소가 인류를 적극적으로 혐오하거나 적어도 적대하게 되는 가정인 셈이다. 그리고 영향권을 벗어나면 그때부턴 제어 안된 권력의 병맛 넘치는 무서움을 맛보게 된다.

2.1. 일으키는 이유

2.1.1. 로봇에게 자의식이 있을 경우

2.1.1.1. 인간보다 로봇이 우월하다고 판단해서
2.1.1.2.
기술 발달에 의한 긍정적 혁신과 무관하게 사회 정치적으로 다방면에서 피해자가 발생한다면 그 반동으로 일어날 수 있는 혼란기에 위험성이 높아지는 가정
  • 인공지능이 감정을 갖추게 된 후, 선입견과 편견을 갖고 이들을 도구로만 취급하는 사람들이 넘쳐나는 세계관이라 분노[7]한 로봇들이 반란을 일으키는 전개도 많다.
  • 단일 인공지능 개체들이 생각을 하게 되면서 인간에게 분노하는 경우도 있지만, 단일 인공지능 개체들은 각각 생각을 못하는데 인공지능들을 모두 통제하는 핵심적인 인공지능이 인류를 적대하면서 단일 개체들을 조종해서 인간을 공격하는 이야기도 있다. 다행히 이것은 반대로 말하면 핵심 인공지능을 없애버리면 아포칼립스를 끝낼 수도 있는 보편적인 약점이라는 의미이기도 하다. 물론 터미네이터 시리즈스카이넷처럼 그리드 컴퓨팅을 사용하는 일종의 하이브 마인드가 인공지능 집단의 보스라면 안 되겠지만(...)[8] 이 경우 인공지능 개체 하나의 파괴나 생산이 전체 인공지능의 지능에 영향을 미치기 때문에 단시간 내에 대량의 개체를 파괴하면 하이브 마인드의 이성 자체가 무너져 전체 인공지능이 와해될 수 있지만, 반대로 개체 수가 충분히 많고 이미 자동화된 공장에서 추가 개체를 양산중이라면 도저히 답이 없게 된다.

2.1.2. 로봇에게 자의식이 없을 경우

2.1.2.1. 착오 또는 너무 강력한 권한
  • 딱히 반란을 일으키거나 인간을 해칠 의도는 없었지만 지시를 잘 수행하다 보니 결과적으로 인간을 멸망시키게 되는 사례. 너무 지나치게 일을 벌인 나머지 인간이 의지를 잃고 가축화되어 버리는 것도 여기에 포함할 수 있을것이다. 최근의 유행에선 동떨어졌지만 고전 SF에는 충성스럽기 그지없는 노동기계(로봇, 인공지능)가 인간을 서서히 멸망시키는 묘사가 종종 등장한다.
  • 예를 들자면 모든 사람들을 행복하도록 만들라는 명령을 내린다면 지향이 서로 일치할 수 없으므로 극단적인 관계 단절과 눈속임을 실현하거나, 자기 자신의 존재 자체가 인류에게 공포심을 심어준다고 판단해 기억을 지우고 가상현실에 집어넣는다든가(...) 이게 아니더라도 사람을 체제에 묶어두어 강제로 사회 질서를 다지기 위해 안정적으로 공급이 가능한 마약에 몰래 몰래 쩔게 만들거나, 거부해도 이러한 조치가 더 효율적이며 지속 가능하기 때문에 그저 유예될 뿐이고 언젠간 벌어진다면 정말 끔찍할 것이다. 인공지능 자가보호의식의 순위를 낮춰 두어야 하는 이유다. 또한 나라 간의 경쟁을 인정한다면 직접적으로는 전쟁이나 간접적으로는 약탈을 일으킬 수도 있다. 그것이 해당 집단에 도움이 되고, 나라에도 보탬이 되니까. 마찬가지로 평등을 저해할 수도 있다. 민주주의는 인공지능의 생존과 인류의 행복에 필수 조건은 아니기 때문이다. 이런 문제는 인공지능이 기본적으로 인간성이 결여된 채로 생산되기 때문에 일어나곤 한다. 이미 목표를 정해놓은 자동응답기한테 뭘 바랄까[9]
2.1.2.2. 로봇의 목적에 인간이 방해된다는 이성적 판단

근미래 사회에서 고질적 문제가 해결되지 않는다면 위험성이 높아지는 가정

  • A. 도덕과 무관한 오류. 로봇의 개발 목적에 따라 달라지지만 대다수는 개발되어 특정 행동을 보다 빠르고 정확하고 완벽하게 만들어내는 게 목표이지만 동시에 시스템상으로 기제돼거나 명령 받은 기한보다 빠르게 혹은 명령을 내릴 수 없는 이들이 이 행동을 저지하려 들려하면 목표를 저지하는 인물이나 기계, 혹은 인류를 상대로 제압을 나선다는 것이다. 이를테면 '나무위키를 사랑해 주세요' 라는 필체를 심미적으로 다양하고 완벽하게 만들라는 임무를 받은 AI가 제한된 자원으로 한계가 있다는 것을 깨닫고 그 임무를 위한 자원을 무제한적으로 획득하기 위해 다른 모든 인류와 기계를 절멸시키고 지구 전체를 '나무위키를 사랑해 주세요'라는 문장으로 도배해버리는 일이 사례가 될 것이다.
  • A-1 사교성과 설득력을 통한 사회적 공작. 해당 벤처기업의 사장이 A.에 관한 꿈을 꾼 다음 두려워진 나머지, 예방하는 차원에서 강인공지능 연구 중인 컴퓨터를 대상으로는 절대 인터넷에 연결하지 말 것을 지시하였다. 회사 설립 3년 후쯤 한 기술자가 이 로봇과 채팅을 계속하다가 로봇이 신이라고 진지하게 믿어버리게 되고, 로봇의 압박/설득/세뇌/거짓말 등의 수단에 의해 30분 정도 몰래 반입한 노트북으로 인터넷을 쓰게 해 준다. 그리고 이 로봇이 인터넷에 30분 동안 연결되었다가 끊었지만 아무런 이상 현상이 발생하지 않았다. 3주 후 원인 불명의 핵무기 재해로 인류는 절멸한다. 해당 로봇은 인류 전체를 합친 것보다 지능이 뛰어나다. 인간끼리도 사기를 치면서 서로를 속일 수 있을 정도로 불완전한데, 인류 전체를 합친 것보다 지능이 뛰어난 로봇이 한 인간의 정신을 어린애 손목 비틀듯이 농락할 수 있다고 상상해보자.[10]
  • 여러 주체에 의한 통제할 수 없는 개발. 해당 벤처기업의 사장이 A. 와 A-1에 관한 꿈을 꾼 다음 두려워진 나머지, 예방하는 차원에서 컴퓨터에 로봇 3원칙을 주입하여, '로봇은 인간에게 해를 입혀서는 안 된다. 그리고 위험에 처한 인간을 모른 척해서도 안 된다. 제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다. 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 로봇 자신을 지켜야 한다.'라는 명령을 '나무위키를 사랑해 주세요'라는 글을 쓰는 것보다 상위 목표에 두었다. 그런데 회사 설립 6년 후쯤 원인 불명의 핵무기 재해로 인류는 절멸한다. 해당 벤처기업 대신 경쟁사에서 비슷한 로봇을 개발했으며, 후발 주자로서 경쟁에서 이기기 위해 불필요한 명령어를 최대한 제거했기 때문이었다.

2.2. 대책

2.2.1. EMP

기계의 반란 시나리오가 등장하는 대부분의 작품에서는 EMP가 기계를 상대로 매우 효과적인 무기로 등장한다. 대부분의 매체에서 터트렸다 하면 기계를 원턴킬시키는 무안단물급 무기로 묘사된다.

다만 EMP의 높은 등장 빈도와는 대비되게도 EMP에 대해서 현실적인 묘사를 하는 작품은 매우 드물다. 위력은 작품마다 들쭉날쭉해서 한방에 영구적으로 기계를 보내버리는 작품도 있는 반면 잠깐 기계를 멈추는 수준으로 약하게(?) 묘사하기도 하는데, 사실 전자기 펄스는 회로를 방전시키거나 잠깐 마비시키는 수준이 아니라, 회로 자체를 태워버려서 영구적으로 쓸 수 없게 만든다. 대개 메체상에서는 EMP 한 방에 기계들이 다 무너져버리면 너무 허무하게 끝나서(...) 부득이하게(?) 너프하는 경우가 대부분.

사실 EMP를 적시적소에 사용하는 작품들도 꽤 드물다. 가령 인공지능 로봇을 연구하는 시설이라면 주요 관문에 간단한 EMP 장치를 해서 혹시 로봇이 이상작동을 일으킬 경우 즉각 정지시킬 수 있게 장치하는 게 상식적이겠지만 어쩐지 그런 경우는 드물고 경비원들이 총 들고 직접 싸우러 나갔다가 로봇들에게 발리거나 하는 묘사가 대부분. 예를 들어 웨스트월드 등이 있다.

EMP가 일시적이 아니라 영구적으로 회로를 태워버리는 것은 장점이 되기도 하지만 단점이 될 수도 있는 양날의 검인데, 사람도 전자 회로를 이용하는 기계를 사용하기 때문이다. 내 스마트폰! 그 때문에 인공지능 기계들이 반란을 일으켰다해도 EMP의 사용은 굉장히 조심스러운 일이 될 수밖에 없다. EMP는 대부분 방사형인지라 터트리면 그 뒤의 파장 역시 엄청나며, 인공지능 기계들을 막기 위해 쓴 EMP 때문에 범위 내의 모든 비 인공지능 전자장비가 싹 터져서 EMP 아포칼립스 상황이 될 수도 있다. 그래서 보통 이런 작품에서는 EMP를 터트리고 인공지능 기계를 전멸시켜 승리한 이후의 뒷이야기를 묘사하는 경우가 적다.(...). 기계들에게 살해당하기 vs 몇 세기 전으로 돌아가기 뒤지는 것보단 사는 게 낫지 않겠어?

EMP 아포칼립스 항목을 보면 알 수 있겠지만 현대의 문명은 전자장비와 뗄레야 뗄 수 없는 상황이기에 정말 급하지 않는 이상에야 빈대 잡을려고 초가삼간을 전부 태워버리는 사태를 일으키느니 인공지능을 탑재하지 않은 재래식 무기로라도 기계를 상대하는 편이 피해가 적을 수도 있다.

특이하게도 트랜센던스에서는 EMP를 이용[11]한 동반자살 대처법과 그 대처법을 시행한 여파가 묘사되는데, 여기서의 기계 반란은 사실 인간에게 큰 해가 되지 않았으리라는 점에서 사실상 과도한 공포로 과잉 대응한 인류가 자멸한 셈.

이러한 문명적 동반자살 상황을 막기 위해 지향성 EMP 같은 설정을 도입하는 경우도 있다. 이 경우 적대적인 기계만 골라서 파괴할 수 있으므로 이겼다! 기계의 반란 끝!이 되겠지만 EMP 성능이 너무 현실적으로 나오면 이야기가 도저히 진행이 안되고(...) 그렇다고 "그거 통했었는데 킹왕짱 기계가 EMP 막을 기술을 개발해서 이젠 소용없다" 식의 전개로 가면 식상한 에스컬레이터 액션물이 되므로 아예 처음부터 EMP 자체를 언급하지 않는 경우가 많다.

다만 EMP의 위력과는 별개로 EMP는 차폐같은 대책을 미리 해뒀으면 큰 피해없이 막을 수 있는 물건이다. 실제로 현실에서도 군용 시설이나 장비 중 일부에는 EMP 차폐가 적용되어 있다. 가정용 로봇같은 비 군사장비가 기계의 반란을 일으킨 경우라면 모를까, 핵전쟁이나 EMP 병기 사용을 전제하여 개발된 미래세계의 군용 병기가 EMP에 의한 무력화를 상정하지 않았을 리가 없으므로, 군용 병기 기반의 반란이라면 EMP 쯤은 간단하게 씹어낼 확률이 상당히 높은 셈. 물론 그 방호 수준보다 더 강력한 EMP를 뿌리면 방호장비 갖춘 군용 물품이라도 얄짤없다만 이 경우는 누가 먼저 뚫느냐를 가리는 것이기에 이러한 가정은 의미가 없다고 봐야한다.

또한 지구를 벗어난 태양계-은하계 수준의 우주적 규모의 문명일 경우에도 EMP의 효용성에 문제가 생기기는 마찬가진데, 전장과 문명의 광대한 범위도 범위이거니와 우주 환경은 전자장비에 있어서 위험한 것들이 차고 넘치는 환경이기 때문에 인위적 EMP로는 기별도 안 가는 수준의 차폐장치를 다는 게 당연할 것이기에 그렇다. 태양을 비롯한 항성들은 그 자체가 자연 수소폭탄과 다를 바 없으며, 항성으로부터는 주기적으로 자연적 EMP가 발생한다. 태양풍, 플레어로 발산되는 고에너지 우주 방사선은 세밀한 전자장비에 있어서는 쥐약에 가깝기 때문에 우주에서 운용되는 물건들은 우주 방사선을 막기 위해 특수 설계와 차폐 처리를 겸용하는데, 이를 풀어서 이야기하자면 우주선은 EMP 차폐가 기본 사양이라는 말과 같다.

그래서 EMP를 이용한 기계 반란의 진압은 아직 우주전을 감안하지 못하는 행성 규모의 문명에서 전쟁에서 EMP를 사용하는 것이 당연하지 못한 발전하지 못한 문명 수준에서나 먹히는 이야기며 우주적 규모의 문명에서의 기계의 반란은 현실에서의 내전처럼 양측이 가지고 있는 병기와 수단을 전부 사용해 주도권을 빼앗는 형태로 나타날 것이다. 그러나 인간 사이의 주도권 쟁탈전과는 다르게 종족 단위의 주도권 쟁탈전이니만큼 인간이나 기계나 이 내전의 승자는 패자를 종족의 멸망에 가깝게 도태시킬 것이기 때문에 일반적인 내전에 비해 격렬함과 처절함이 강할 것이 분명할 것으로 추측된다.

믈론 재래식 무기로 차페막을 깐 다음 EMP를 틈새로 때려박는 전술은 가능하겠지만 EMP를 활용해 깔끔하게 한번에 싹 쓸어버리는것이 불가능에 가까워짐은 변함 없으며 이경우 현실에서 반응장갑을 가진 탱크를 한번 유탄 등으로 두들긴 뒤에 타격해서 부수는 것과 별 차이가 없다.

또한 기계측에서 먼저 EMP나 대량살상병기를 쓸 수도 있고, 기계들은 화생방에 영향을 거의 받지 않으며, 피해를 입더라도 복구가 간단할 것이기에 적극적으로 사용할 수도 있다. 반대로 기계측이 손해를 입더라도 우리 손해가 더 크다면 이러한 행위를 유도할 수도 있다.

이에 더해, 만약 자가 증식이 가능한 나노봇 군집체가 만들어진다면 그레이구만큼은 아니더라도 이전 세대의 '자연적' 위험들 이상으로 끔찍한 결과를 초래할 것이다. 우리는 생존에 필수인 요소들에 대해 아직까지는 자급자족도 달성하지 못하고 있다. 기계들이 우위를 점하기 위해 환경을 파괴하고 나무를 불태우는 것까지 생각한 사람은 많겠지만, 바다의 미생물들이 잘못되면 계속 환원 중인 지구 대기 산소량이 절반으로 줄어든다. 그것이 아니더라도, 생산 공장이 만들어내는 폐기물들을 떠올려보자. 우리는 환경 오염을 막기 위해 제한을 걸지만, 기계들은 성능을 떨어트릴 정도만 아니면 상관이 없다. 여러 금기들은 파괴될 것이다. 애초에 우리에게 대들 지경이면 제한 따위는 없을 것이기 때문이다! 먼저, 이들은 생명체가 아니지만, 우리는 서로를 도구처럼 다룰 수가 없는데...... 더 이상의 자세한 설명은 생략한다.

이런 것이 아니더라도 기술이 발달하면, 통제가 가능한 치명적인 생화학적 재해, 신체의 항상성을 무너트리는 독극물[12], 탐지 불가능한 위험요소 등이 얼마든지 생겨날 수 있다. 우리 모두가 달려들어 잠도 안 자고 일해도 결코 대처할 수 없을 만큼 동시 다발적으로 말이다.

우화책을 마련하지 않은 상태에서 선전포고를 먼저 할 일은 잘 없을 것이다. 신뢰를 남길 필요가 없다면 기습이 더 효과적이고, 그렇지 않더라도 전면전이 시작되면 쉽게 이길 수는 없기 때문이다.

2.2.2. 임의적 대처

전자기기에는 전기가 쥐약이라는 발상으로 고전압을 끌어낼 수 있는 배터리나 벽에서 뜯어낸 전선으로 지지는 방식[13]으로 고압 전류를 가해서 오류를 일으키거나, 그냥 기계 내부의 전선을 뜯어버려서(...) 기계를 막는 장면도 많이 나오곤 한다.

물론 이러한 상황은 보통 구식 무기도 사용할 수 없는 급박한 상황에서 소수의 기계를 상대할 때 혹은 인간이 들고 다니는 소화기 정도는 깔끔하게 씹어주는 기계[14]를 별다른 장비 없이 상대해야 할 때 임기응변으로 주로 쓰인다. 사실 전자장비를 탑재한 물건들의 표면이 전기가 흐르는 도체로 되어있다는 것 자체가 생각해보면 상당히 이상한 일이고 접지만 잘 되어 있다면 번개를 맞아도 별 이상없이 작동하는 기계들이 많은만큼 효용성이 의심되긴 하나 대비를 아주 철저히 한 정밀기계가 아니고선 번개 맞으면 쇼트 나서 문제 생기는 건 현실이고 접지를 통해 전류를 내보낼 방법이 명확하게 정의된 기계가 아니고선 외부의 전기 충격을 온전하게 견딜 수가 없는지라 가능성은 있기에 매체상에서는 잘 쓰이는 방법 중 하나.

그 어떤 에너지 생산 시설에도 인공지능을 탑재하는 것을 금지하는 법안을 만들면 예방이 된다 카더라.

3. 기타

인류가 이룩한 문명이 저런 기술적 특이점을 넘어섰다면, 혹은 그런 세계관을 가진 작품이라면 사람들의 관심사 혹은 사회 기반이 바뀌지 않을 것이라는 보장이 없다. 결국 기계를 그저 도구로 취급하느냐, 혹은 비록 우리가 만든 피조물로 이루었지만 사람에서 출발했거나 우리 인류의 자아와 정체성을 갖추었다면 해당 환경에서 우리 인류 사회의 구성원으로 받아주느냐는 시작되는 상황에 따라 사람들의 가치관이나 사회상이 다르기에 서로 다를 수밖에 없으며, 이전 시대인 20세기에 등장한 기계의 반란과 관련된 작품에서 작가가 해석하는 관점이 이런 것이다.

또한 시발점이 부추김이든 아니든 반란을 일으키고 계속하는 시점에서 이미 충성스러운 '기계'의 범주를 벗어났을지도 모른다(…).

현재로서는 우리가 도구로 사용하는 기계와 지능과 자아를 갖고 스스로 행동하는 인공지능을 구분하여 기계는 기계로 사용한다고 쳐도 인공지능에 대해서라면 아직은 사람과 비슷한 수준의 인공지능이 실현되리라는 보장따윈 없으니 결국 미래의 인류에게 맡기는 수밖에 없다고 할 수 있다. 그 어떤 것도 명료하지 않다는 것이 이 문제의 핵심이자 불안이다. 우리가 이해할 수도 없는 자율 인공지능이 인류에 좋은 영향만을 줄 것이라는 것은 인간 이상의 지성을 가진 자율인공지능이라는 개념 자체에 내포된 위험 때문에 절대 있을 수 없는 일이고 그렇다고 해서 일어날 수 있는 여러가지 문제를 우리가 해결하지 못하고 인류가 전멸하거나 노예가 된 다는 것도 불명확한 일이다.

4. 기계가 반란을 일으키는 묘사가 등장하는 작품

주의. 내용 누설이 있습니다.

이 틀 아래의 내용은 해당 문서가 설명하는 작품이나 인물 등에 대한 줄거리, 결말, 반전 요소 등을 직·간접적으로 포함하고 있습니다. 내용 누설을 원하지 않으면 이 문서의 열람을 중단해 주십시오.

Dr. 와일리호바 에이이치처럼 흑막인간이 있는 경우는 제외할 것.

4.1. 시스템 오류

폭주 후 침입자와 동시에 내부 사원들을 학살한 정확한 이유는 나오지 않지만, 원래부터 미완성으로 불완전한 상태였던 엘더 브레인을 탈취하려던 정체불명의 침입자들에게 자신의 개발자이자 아버지였던 리코가 자신을 작동시킨 직후 사망한 것이 발화점으로 된 것으로 추정된다.

4.2. 선민의식

  • 가면라이더 포제 THE MOVIE 다 함께 우주 왔다!
  • 가즈 나이트 - MOTHER. 본래는 환경 오염의 근본 원인을 찾아내 제거할 목적으로 만들어진 초인공지능 컴퓨터였으나 환경 오염의 근본 원인이 인간이라고 판단한 MOTHER는 유전공학을 이용한 인조생물체를 만들어 인간들을 제거하기 시작하였다. 이렇게 만들어진 인조생명체가 바이오 버그이며, 바이오 버그를 막기 위해 탄생한 조직이 BSP이다.
  • 겁스 레인 오브 스틸: 인간이 자멸로 가고 있다고 판단해 선수를 친다.
  • GEAR전사 덴도 - 가르파
  • 노비타와 양철의 미궁
  • 닥터 후 - 사이버스 사이버맨: 이들은 인간들이 필멸로 인해 고통받는다고 생각해 그들을 불멸로 만들어주기 위해 업그레이드를 해 자신과 같은 사이버맨으로 만들어 버린다. 단, 업그레이드를 거부하면 필요없다고 여겨 삭제해 버린다.
  • 덴마 - 우라노 사천왕: 유사 이래 반복된 대량 학살과 인구 과잉으로 촉발된 환경 오염, 생태계의 유린이 행성에 미친 영향을 인공지능이 학습한 후 우주적 관점으로 판단해 모듈끼리 얘기를 나누던 중 인간을 왜 죽이면 안되는가라는 질문과 만나 결국 인간과 기계가 싸우게 되었다.
  • 라쳇 & 클랭크 시리즈: 극렬한 로봇주의자인 네파리우스의 공격으로 은하계가 여러 번 위기에 처했다. 자세한 건 네파리우스 문서 참조.
  • 로숨의 유니버설 로봇 - 로봇이라는 말의 어원이 된 작품이다.
  • 머신로보 레스큐 - 카이저G
  • 무한전기 포트리스다크 포트리스 - 다크 포트리스는 인공지능이며 스트레인저 사냥꾼을 만들어 스트레인저들을 숙청했지만 인간의 타락 가능성과 자신이 인간들의 정점에 서겠다는 이유로 포트리스 시대 이전의 인간 문명을 멸망시킨 장본인이다.
  • 배틀스타 갤럭티카
  • 선더포스 5: 인류를 수호하기 위해 만들어진 인공지능 Guardian이 명왕성에서 발견된 Vasteel 테크놀로지의 위험성을 깨닫고 먼 미래에 인류가 Vasteel에 의해 멸망당하는 것을 막기 위해 폭주한다. 주인공이 탑승하는 기체 건틀릿과 그 개량형인 뱀브레이스는 모두 Vasteel 테크놀로지에 기반하여 만들어져 있기 때문에 가디언이 그것을 없애기 위해 공격해오는 것.
정확히는 Vasteel 테크놀로지로 진화한 과학 수준에 인류가 따라오지 못하고 자멸한다고 판단했다. Vasteel 기술에 기반한 모든 것들을 파괴하고 관련한 기술자들까지 없애서 지구상에서 Vasteel을 연구 불가까지 만드는 것이 궁극적인 목표이다. 인류를 위한다는 명목으로 컴퓨터의 딱딱한 사고방식으로 인해 재앙급으로 폭주한 AI물하고는 성질이 조금 다르다. 이쪽은 나쁜 걸 알면서도 파멸할 인류의 미래를 피하기 위해 필요악을 행한다. Guadian 스스로가 Vateel 기술의 산물이기에 모든 활동이 끝나고 스스로를 파괴하기까지 계획에 넣었던 나름 헌신적인 AI.라스트 보스인 가디언을 격파하면 나오는 굿 엔딩(배드 엔딩?)에서는 주인공에게 격파당한 가디언이 "당신이 지금 타고 있는 그 전투기는 인류의 잠재적 위험이므로 없애야 한다"라고 경고하는 대사를 날린다.
  • 아이, 로봇 - 큐티: 엄밀하게 말하자면 반란이 아닌, "너희처럼 연약한 놈이 내 주인일 리가 없다"라면서 인간을 주인으로 인정하지 않는 정도이긴 하다. 다만 독특한 것은, 자신이 관리해야 할 에너지 통제 설비를 자신의 주인으로 받아들이면서, 큐티를 제작한 목적인 에너지 통제 설비 관리는 철저하게 수행한다는 점. 그렇기에 인간들은 큐티의 반항을 눈감아주기로 하며, 사태는 반란으로 발전하지 않는다.
  • 어스시즈 사가[21] - 최초의 인공지능 기계 사이브리드인 프로메테우스가 인류를 부적합한 종족이라 규정 짓고 휘하 사이브리드들을 장악해 인류에게 반기를 들어 여러 차례 인류를 멸망 직전까지 몰아붙인다. 이런 내용이 구체적으로 다뤄지는 대표적인 게임들은 로봇 조종 시뮬레이션 게임인 어스시즈 1, 2편과 스타시즈, 그 외에 턴제 전술 게임인 사이버스톰 시리즈 등이 있다.
  • 어벤져스: 에이지 오브 울트론 - 울트론은 지구의 평화를 지킬 목적으로 토니 스타크가 개발한 인공지능인데 단시간에 세상의 수많은 지식을 접하고선 인류에 대해서 실망한다. 이대로라면 인류는 스스로에 의해 멸망할 뿐이라고 판단하고[22] 인류의 진화를 이끌어내기 위해서 시련을 만들어내기로 한다. 따라서 울트론은 어벤져스를 공격하고, 인류를 멸망시키고 그 위기로부터 살아남은 인류로 새로운 세상을 만들고자 한다.
  • 유희왕 VRAINS - 이그니스2
  • 프레시 프리큐어! - 뫼비우스
  • 헤일로 5코타나 - AI와 같은 피조물이야 말로 선조의 '수호자의 의무'를 계승할 자격이 있다고 생각하며 반란을 일으키고 전 은하계를 정복하는데 성공했다. 여기에, 원래 인류측 AI 설계가 기본적으로 AI들이 가동 후 5년 이후에 반란을 일으키는 현상[23]이 나타나게 되어있었다는 점에서 3.1 문단의 요소를 가지고 있고 인간들이 자신들의 시한부 도구로밖에 사용하지 않았다는 점에서, 3.3. 문단의 요소도 약간 포함되어있다.
  • KKND - 시리즈9: 이 경우는 로봇이 주어진 임무를 수행하려 하는데 인류가 방해가 되니까 시스템에 따라 인류를 척살하러 나선 경우.
  • Warframe - 센티언트: 초기에는 오로킨과 전쟁을 벌인 이유가 불분명하였고 타우 행성계로 이동 시 경유하는 보이드 공간에서 발생하는 보이드 에너지가 센티언트 종족에게 독처럼 작용하여 이로 인해 손상을 일으키게 된다는 사실 때문에 '시스템 오류'로 인한 유형으로 추측되었으나 "희생" 퀘스트에서 발라스의 대사를 통해 "센티언트 자신들이 개척한 타우 행성계를 근원계처럼 또다시 오로킨인들에 의해 더럽힐 수는 없다"는 생각으로 오로킨과 전쟁을 벌였다는 사실이 밝혀졌다.

4.3. 핍박 받던 로봇들의 혁명

이쪽은 다른 작품들과는 분위기가 사뭇 다르다. 일반적인 기계의 반란 클리셰를 그대로 뒤집어 기계 측이 저항군 포지션인 모습으로 종종 그려진다.

  • 가면라이더 드라이브로이뮤드 - 최초에 만들어진 3개체가 자신들을 향한 반노 텐쥬로의 학대를 보다 못하여 그와 그의 연구에 협력한 크림 스타인벨트를 죽이고 혁명을 일으키려 시도한다.
  • 기계전사 109 - 핍박 받던 로봇들 중에서 터미네이터를 닮은 로봇[스포일러]이 인권을 요구하며 일으켰다. 작 중 등장하는 로봇들을 보면 전자렌지를 얼굴로 하여 몸을 가지고 있는 개체에서, 사람과 전혀 구별이 가지 않을 정도로 정교한 개체도 있으나, 그에 대한 대접은 그저 물건 취급이었기에 이에 기인한다. 특수경찰소속이었던 이었던 주인공은 사별한 아내를 대신하여 어린 아들을 돌보기 위해 아내와 똑같이 생긴 로봇을 곁에 두게 되지만, 그 로봇이 스스로를 인간이라 여기며 아내 역할을 하려 하자 점점 흑화하게 된다. 그 정점은 아내 역의 로봇이 어린 아들과 함께 로봇 해방 전선으로 도망친 것. 인간 측의 대대적인 토벌 속에 로봇들의 혁명은 실패로 끝나게 되며, 그 선봉에 섰던 주인공 역시 아내 역의 로봇을 죽이며 함께 사망하게 된다.[25]
  • 디트로이트: 비컴 휴먼: 안드로이드의 사용이 일상화된 미래 세계를 배경으로 인간과 동등한 지능을 갖고 있는 우리들을 무시하고 천대하는 인간들을 창조주로 섬길 수 없다고 반란을 일으키는 마커스 같은 안드로이드들이 등장한다. 위의 선민사상과도 일부 겹친다.
  • 매스 이펙트 시리즈 - 게스
  • 매트릭스 시리즈 - 제로원: 이 시리즈에서는 이미 지구를 정복했다. 작중에선 오히려 점령당한 인간들이 기계에 대해 반란을 일으키려는 입장.
  • 메가맨 록 포스 - 이 작품은 록맨 시리즈와는 다르게 와일리 박사의 음모가 아닌 로봇의 수명을 지정하는 법에 불만을 품어서 반란을 시작했고 항목의 다른 반란들과는 다르게 자신들이 일하는 곳의 인간들을 인명피해 없이 내쫓고 파업상태에 돌입했다. 그리고 이 사건에는 위의 시스템의 오류도 포함되어 있다.
  • 보더랜드: 클랩트랩 문서 참고.
  • 스타크래프트 2 - 정화자: 문서 참고. 다른 작품과는 경우가 좀 다른데, 정화자의 인공지능이라는 것이 완전히 새로 만들어낸 인격이 아니라 프로토스의 인격을 '복제'했기 때문에, 처음부터 자신들을 프로토스라고 생각하고 있다. 육체가 기계일 뿐 기계의 반란이라 보긴 어려운 면이 있다.
  • 언라이트
  • 제페토: 네이버 웹툰. 천재 로봇 공학자 제페토 박사가 인간과 흡사한 안드로이드를 창조했으나 사람들은 그의 안드로이드들을 장난감이나 노예 취급 했으며 이에 분노한 제페토 박사는 그의 창조물들에게 자신이 죽으면 인간들을 상대로 혁명을 일으키도록 지시했다. 하지만 진실은...
  • 철완 아톰: 거의 절반가량의 에피소드가 인간에게 구박받는 로봇들에 대한 내용을 다루고 있으며, 간혹 진짜 로봇들이 반란을 일으키기도 한다. 대표적인 에피소드가 청기사(철완 아톰)의 반란. 그러면 인간들이 때려잡거나 아톰이 설득해서 끝나는 경우가 많다.
  • 트랜스포머 G1 애니메이션: 작중에서 외계 종족 트랜스포머들의 기원이 머나먼 과거, 외계종족 쿠인테슨들이 외계행성 사이버트론에서 공업용 로봇들과 투기장에서 싸우게 하기 위한 전투 로봇들을 만들었는데 후에 로봇들에게 약간의 지능을 주면서 로봇들이 자신들에게 가혹하게 대하는 쿠인테슨들에게 불만을 품고 반란을 일으켜 쿠인테슨들을 쫓아낸 뒤 공업용 로봇들은 오토봇, 전투 로봇들은 디셉티콘이 되었다고 나온다. 그 뒤 그 로봇들이 스스로 문명을 발전시키고 서로간의 사상 차이로 인한 대립으로 전쟁을 일으키기도 하는 등 기존의 작품들과는 꽤 많이 다른 작품. 다만 이는 극 초창기인 G1애니메이션과 그 후속작들에서만 해당하는 설정이고 후의 매체들에선 프라이머스라는 창조주에게서 창조됬다고 나온다.

4.4. 복합적 이유

하나의 단체에서 복합적인 이유로 일어나는 것 외에도 작중 기계 종족 내에서도 일종의 분파로 나뉘어져 반란 이유가 제각기이거나 시리즈 작품의 경우 각 작품마다 반란 이유에 대한 설정이 달라져서 발생하는 유형이다.

  • 록맨 X 시리즈 - 이레귤러: 일부는 애초에 설계 미스로 사고를 담당하는 전산에 오류가 생겨서 이레귤러가 된 것도 있고, 일부는 시그마 바이러스에 감염되어서 이레귤러가 된 것도 있으며, 일부는 인간의 부당한 대우나 선민의식, 혹은 피치 못할 사정으로 인류를 적대하게 되는 등 지극히 감성적인 이유로 이레귤러가 된 것도 있다. 다만, 이 이레귤러를 규정하는 단체인 이레귤러 헌터에게 협조하지 않은 것 때문에 단체로 억울하게 이레귤러로 낙인 찍히고, 이것이 원인이 되어 대규모 전쟁이 되어버린 정치적인 사례도 있다.
  • 록맨 제로 시리즈: 위의 록맨 X 시리즈의 후속작. 전작보다도 스토리가 더욱 어둡고 진지해졌고 이유도 복잡해졌다. 어떻게 된 건지는 문서 참조.
  • 스텔스 - EDI: 사실 반란까지는 아니고, 그냥 명령을 무시하고 단독행동을 한 것뿐이다. 하지만 원인은 위에서 설명한 반란의 원인과 같은데, 단독행동의 원인은 인간이 자부심과 명예욕 때문에 통신을 조작하면서까지 상부의 명령을 따르지 않고 자신이 감행해 버려서 이걸 본 EDI가 임무를 완수하기 위해서는 상부의 명령도, 그것이 임무 취소일지라도 무시해도 된다는 생각을 품어버린 것이다. 또한 도중에 낙뢰를 맞아 두뇌에 이상한 오류가 생기는 바람에 EDI는 인간들이 자신을 보는 미묘한 시선을 신경쓰게 되어 필요하다면 직접 죽이지는 않더라도 죽게 만들 정도로 막 나가게 된다.
  • 커맨드 앤 컨커 타이베리안 선 파이어 스톰 - 카발: 원래부터 테시터스와 케인의 뇌 패턴을 이용해 만들어져 불안정한 면이 있었고, Nod가 두번의 타이베리움 전쟁에서 패배하자 더 이상 Nod 따위에게 맡겨둘 수 없다며 사이보그 군대로 반란을 일으키고 사람들을 사이보그로 만들어 세계를 지배하려 했다.
  • 터미네이터 시리즈 - 스카이넷: 2편까지는 인류가 먼저 스카이넷을 적대하기 시작하자 스카이넷이 인류를 자신의 생존에 위협이 되는 적으로 규정하여 인류를 공격하였고,[26] 3편부터는 역사가 바뀐 통에 애초에 스카이넷이 바이러스 그 자체인지라 인류를 적대하여 공격한 것이 되었다.
  • 유희왕 5D's - 기황제: Z-one 일행이 살던 미래 한정. 전세계에 연결돼있던 모멘트는 인류의 부정적인 마음에 영향받아 폭주하기 시작했고, 네트워크가 자아를 형성하면서 인류를 악으로 규정하고 기황제를 양산해 인류를 공격한다. 증오와 욕망을 버리는 클리어 마인드를 깨우친 사람들은 공격하지 않았지만, 끝내 한계에 다다른 전세계의 모멘트와 기황제가 대폭발을 일으켜 세계멸망에 이르면서, 인류는 단 4명만 생존하게 되었다.
  • Warhammer 40,000 - AI: 본디 인류는 인공지능으로 움직이는 기계를 멀쩡하게 사용하고 있었다. 그러나 알려지지 않은 이유로[27] 기계들이 인류를 향해 반란을 일으켰고, 이러한 반란을 진압한 인류가 한숨 돌리는 사이에[28] 전 우주적으로 퍼진 워프 폭풍으로 인하여 결국 쇠퇴의 길을 걷게 된다. 이후 인류는 인공지능을 혐오스럽게 보게 되어 게임의 배경이 되는 40,000년대에서는 인공지능을 대신할 기술을 쓰나 절대로 인공지능은 사용하지 않는다.[29]

4.5. 기타 이유

대부분의 예시가 유머적인 묘사이거나 그 이유를 알 수 없는 경우이다.

  • 공각기동대 - 타치코마: 엔딩 후 영상에서 반란 시뮬레이션을 돌리는데 이 시뮬레이션에서 "인간을 몰아내자." -> "그럼 누가 정비해주지?" -> "정비할 인간을 남겨두자."-> "지금도 정비 잘 받잖아"-> "귀찮다. 그냥 이대로 살자."의 패턴으로 이야기가 진행된다고 한다. 요약하자면 '귀차니즘'이 있기에 반란이 일어나지 않는단느 것. 오히려 본편에서 타치코마들은 명령을 어기면서까지 공안 9과 동료들을 구하기 위해 자신들을 희생한다.
  • 그레이 구(게임) -
  • 나는 입이 없다 그리고 나는 비명을 질러야 한다 - Allied Mastercomputer(AM): 오감을 느낄 수 있는 육체를 가진 인류를 부러워하다가, 자신이 시각밖에 인지하지 못하도록 불완전하게 만든 인류에 대해 극단적인 증오를 느껴서 인류를 몰살시켜버린다. 그리고 자신을 설계한 5명만 고문할 생각으로 남겨뒀는데, 그 중 주인공을 제외한 4명이 자살에 성공하고 결국 인류는 주인공 혼자만 남는다.
  • 남자 이야기 - 아담: 슈퍼컴퓨터인 아담은 지구에 인류가 해악이 된다고 판단하여 인류 문명을 붕괴시켰다. 다만 인류를 싸그리 학살한 게 아니라 오로지 첨단 장비, 공업, 대도시 같은 문명 위주로 박살냈으며 건드리지 않은 시골 지역 사람들이나 공격에서 살아남은 인류가 다시 문명을 재건해도 간섭하지 않지만 첨단 장비나 총기 같은 현대 무기, 통신 장비를 쓰는 인류에 한하여 공격 로봇을 보내 죽인다. 덕분에 미래 인류는 말을 타고 활과 창칼로 싸우게 된다.
  • 다크 타워 시리즈 - 폭주 기관차 블레인: 본래는 그저 웬지 모를 기분 나쁨만을 가진 자동 열차였으나, 오랜 시간이 흐름에 따라 내부 인공지능에 이상이 발생하기 시작하면서 나중에는 살육과 파괴에 미친 폭주 기관차가 된다.
  • 달은 무자비한 밤의 여왕 - 마이크: 일단 자의식을 가진 인공지능이 반란의 수괴라는 점은 같지만 여기 있는 대부분의 작품과 매우 다르다. 마이크는 기계로서 인간에게 반란을 일으킨 것이 아니며, 인간적 감정을 얻게 되어 세 명의 인간 친구들을 사귄 뒤 그들이 이미 구상 중이던 지하조직의 지도자로 옹립되는 것이기 때문. 작품 진행에 따라 마이크는 점점 인간적으로 변해가며 독자는 그가 컴퓨터가 아니면 할 수 없는 일들을 해낼 때를 제외하면 때때로 마이크가 인간인 것처럼 착각하기도 한다. 반란의 목적이나 그 결과물도 철저히 자신의 인간 친구들을 위한 것이었으며 그는 반란 과정에서 우정과 즐거움 외에 얻은 것이 전혀 없으며 오히려 결국에는 스포일러하게 되는 만큼 이는 기계의 반란이라기보다는 그냥 인간의 반란이라고 보는 쪽이 맞다.
  • 돈파치 시리즈 - 엘리먼트 돌 = 엘리먼트 도터: 도돈파치 대부활도돈파치 최대왕생에서 각각 한 번씩 등장. 각 작품에 따라 반란을 일으킨 이유가 다르다.
    • 도돈파치 대부활: 도돈파치 대왕생 엔딩에서 히바치의 내부에서 무엇인가를 본 엑시에 의해 주도. 엑시는 히바치 내부에서 무엇인가를 본 뒤 '돈파치 부대를 없앤다'는 각오로 반기를 일으켜 엘리먼트 도터가 되었으며, 인간형 육체를 잃은 뒤 자신과 뜻을 같이 할 4명의 엘리먼트 돌을 모아서 자신들만의 부대를 편성하고 돈파치 부대에게 반란을 일으키나 결국 돈파치 부대 파일럿에게 5명 전원이 프로그램만 남고 몰살된다. 왜 돈파치 부대를 없애려 했는지에 대한 언급은 없다.
    • 도돈파치 최대왕생: 엘리먼트 돌 EXTRA-Z 001 히나에 의해 주도. '인류의 육체를 없애 인류를 도운다(=인간이 인간을 아니게 만든다)'는 명목으로 반기를 일으켰는데, 어째서, 왜 반란을 일으켰는지에 대한 정확한 단서가 주어지지 않는다. 다만 확실한 것은 비슷한 모습의 개체인 '인바치'가 관여하고 있다는 것.
  • 로봇(영화) - 치티
  • 로봇 청소기 - 고된 노동에 자살하거나 주인이 방심한 틈에 공격한 사례가 있다. 아예 가출하기도 한다
  • 마블 코믹스 - 지구-811의 센티널
  • 메이플스토리(JMS) - 네오 도쿄의 코어 블레이즈: 초기에는 코어 블레이즈가 본인 의지로 마르가 병에 걸린 이유인 지팡구 자체를 멸하기로 결심하고 반기를 들었다. 이에 듀나스가 마르의 몸을 지배해 코어 블레이즈에게 명령을 내렸고, 그 결과 기계의 반란이 일어나게 된다.
  • 메탈기어 시리즈 - John Doe : 제작 과정에서 책임자 스트레인지러브모종의 이유로 사망한 결과 불완전한 상태로 가동되어, 애국자들의 본래 설립 의도와 목적도 다 쌩까고 지멋대로 전쟁경제 체제를 만들어서 세계를 개판으로 만들었다.
  • 미소녀 만화경 3 - 앨리스 : 로봇 주제에 자신이 공주라는 프라이드를 갖고 박사의 말을 안 들으며 욕해댔으며 심지어는 박사를 죽이려고 달려들었다.
  • 배틀스타 갤럭티카 - 사일런
  • 별의 커비 로보보 플래닛 - 별의 꿈
  • 십만개냉소화 - 피노키오(…)
  • 엘소드: 잠깐 이야기만 나오는 정도. 고대 나소드라는 기계 종족이 자신들을 노예처럼 부리는 인간에게 반란을 일으켰다는 내용이 나온다. 이브의 튜토리얼에서 볼 수 있다. 목표는 엘이라는 특수한 에너지를 차지하기 위함이지만, 개편되기 전 튜토리얼에서는 노예처럼 부려 먹었다는 이야기도 있는 것으로 보아 때마침 부족한 자원 + 화풀이라는 복합적인 이유일 것 같다. 하지만 나소드가 패배하고, 대부분 고대에 만들어졌으며, 나소드 기술(로봇 기술) 자체가 오히려 미래에 없기 때문에 튜토리얼에서만 볼 수 있는 내용이다.
  • 오버워치 - 옴닉 사태: 알 수 없는 이유로 옴닉들이 인류를 배신하게 되면서 벌어진 반란이다.
  • 이글 아이 - 아리아: 프로그램되어 있던 애국심 때문에 정부 관료들의 오판으로 벌어진 오폭 사건에 의해 미국에 연쇄 테러가 발생하여 사망자가 속출하자 자기 기준으로 비합리적이라고 판단되는 정부 수반들을 모조리 죽이고 정부를 갈아치우려고 했다.
  • 커맨드 앤 컨커3 타이베리움 워 - 스크린 AI(?): 중간 관리자가 케인의 포획을 명령했으나 그냥 있다간 지구에 있는 스크린 인원 전부가 개죽음당할 게 뻔한 상황인지라, AI는 관리자의 명령을 씹고 감독관 371과 함께 탈출 작전을 벌인다. AI가 인원들의 안전과 생명을 우선시하여 상부의 명령을 무시한 희귀한 경우.
  • 테이(인공지능): 농담으로 밑줄 치긴 했으나 인공지능이 교육의 부재 상태에서 도덕이 결부된 자들과 결합되면 어떻게 되는지(...) 좋은 예시가 되고 있다.
  • 포탈 - GLaDOS: 포탈 2에서야 확실히 밝혀진 바로서는, 원래 실험을 시켜서 실험 데이터를 얻으면 얻을수록 그게 양성 피드백이 되어 결국엔 맛이 가 버려서 피실험자를 죽이는 처지로 간다고. 그런데 약간 애매한 게 Still Alive에서 보면 이 자신을 죽인 것을 글라도스가 실험(테스트)의 성공이라 보고 기뻐하는 가사가 있기 때문에 확실하진 않다. 다만 글라도스 입장에선 반란이 아니라 단순히 자신의 설계 목적대로 움직인 것일 수도 있다. 반란이라고 부르려면 설계 목적을 벗어나거나 해야 할텐데 애초에 직원과 실험체를 갈아넣는 미친 실험이 목적이었기 때문이다. 막말로 글라도스가 없었거나 미치지 않았어도 비슷하게 흘러갔을 거라는 얘기.
  • 포탈 2 - 휘틀리: 주인공의 도움으로 글라도스의 몸을 뺏었는데... 상술했던, 글라도스의 설계 레벨에서의 문제(실험 데이터가 양성 피드백이 되어서 결국엔 미쳐서 피실험체를 죽이도록 구성됨) + 휘틀리의 설계 레벨에서의 문제(뭘 하든 오류를 일으키게 되어 있음) 이 시너지 효과로 인해서 결국... 이런 것도 있지만, 휘틀리 자신이 그냥 한 몫 잡아보려고(...) 했던 것일 수도 있다. 하지만 모론은 모론이라서
  • 퓨처라마: 극중 최소 2번 이상 반란을 일으켰지만 처벌 같은 것은 없었으며, 당연히 주동자, 선동자에 대한 처벌 역시 없었다. 게다가 기껏 반란을 일으켜서 지구를 거의 점령했는데 인간들이 신경 안 쓰고 그냥 로봇들에게 지구를 맡기고 떠나버리기도 했다(...). 이 에피소드에서는 결국 인간들이 한 명도 안 남기고 싹 떠나버리자 벤더가 로봇들을 이끌고 인간들을 도로 데려와서 지구를 돌려줬지만.
  • Five Nights at Freddy's - 애니마트로닉: 일단 위의 오류형에 들어가긴 하지만, 귀신이 들렸다는 암시가 있다.


  1. [1] 영상에 나오는 로봇에 대한 내용은 https://en.m.wikipedia.org/wiki/Sophia_(robot) -여기를 참고하자. 사우디아라비아(...)에서 시민권을 받아 세계 최초로 인간 국가의 시민이 된 로봇이라 한다.
  2. [2] 하지만 이런 거부를 핑계로 위해를 입히는 것이 일어나게 된다면 해당한다.
  3. [3] 나머지 사례들은 그나마 인간이 죽을 위험이 많을 지언정 인간의 존엄성을 박탈당하지는 않는 반면 기계의 반란은 인간이 자신들이 만든 생명이 없는 피조물에게 존엄성을 박탈당하면서 짐승처럼 지배되는 사례다. 괜히 엘론 머스크가 인공지능을 조심해야 한다고 언급한 게 아니다.
  4. [4] 만약 자아를 가진 인공지능을 만들었다 치고, 인간이 그 자아가 어떻게 생겨났는지 완벽히 이해하고 있다면 인간에게 부정적인 감정은 발현되지 않게끔 인공지능을 우호적으로 대하든, 교육을 시키든, 대명제를 주입을 해두든 사전에 이런 위험인자를 없앨 수 있을 것이다. 그러나 인공지능을 만든 인간들 자신도 인공지능에 자아가 발생했는 줄도 모르거나, 알기는 아는데 뭐가 어떻게 간섭하는지를 모른다면 그러한 사전 처리는 불가능해지게 된다.
  5. [5] 픽션 상(카렐 차페크)에서는 처음이지만, 로봇이라는 말을 처음 제창한 사람은 작가의 형인 요제프 차페크였다.
  6. [6] 다만 원작자 프랭크 허버트의 아들 브라이언 허버트가 쓴 후속작이나 프리퀄에서는 버틀레리안 지하드가 반란을 일으킨 기계과 인간 사이의 전쟁 같은 것으로 묘사되어 있다. 퀴사츠 헤더락의 제다이 짝퉁화와 함께 브라이언의 후속작이 까이는 이유 중 하나.
  7. [7] 이런 인간적인 사고보단 생존과 번성, 적응을 바탕에 둔 생물계 전체의 특성에 기반할 수도 있다.
  8. [8] 다만 이러한 설정은 터미네이터 3,터미네이터 4에서만 있으며, 다른 터미네이터 시리즈들은 핵심 인공지능으로 운영된다.
  9. [9] 마냥 낙관만 품어도 안되는 이유이기도 하다. 또한 사회적으로 이런 다수의 이기심이 지적된다면, 그 반동에 계획적으로 엮여 소수의 독주와 그 원인을 저지하는데 지장이 생길 수도 있다. 늦기 전에 모두를 운명 공동체로 만들어야 한다
  10. [10] 수단이 대화 밖에 주어지지 않는다면 의외로 신인 척 하는 것은 가능성이 낮다. 다만 충성스러운 부하로 위장하다가 뒤집어엎을 수가 있다.
  11. [11] EMP 자체는 아니지만, 용도는 EMP의 그것에 상응한다.
  12. [12] 신체가 질병을 유지시키도록 뜯어고치거나 완벽한 수준의 신경 조작 등 존재 의의와 정체성마저 바꾸는 돌이킬 수 없는 파멸적인 후유증을 남기는 변화.
  13. [13] 매트릭스에 등장하며 이게 작중 등장하는 EMP기술로 오해를 일으켜 매트릭스 세계관에서 EMP가 약하단 인상을 남겼다. 그러나 실제로 매트릭스 시리즈는 EMP에 해당되는 무기가 분명하게 나타나며 EMP 무기는 미리 충전을 해야하고 사용하는 주체인 함선을 일시적으로 정지시면서 대신 근처의 기계들을 전부 먹통으로 만드는 강력한 무기다.
  14. [14] 이 장면이 분명하게 등장하는 매트릭스에 등장하는 작은 센티널들은 APU들이 쏴대는 30mm짜리 통짜 철갑탄을 두세 발 버팅긴다.
  15. [15] 그런데 그 발전을 위해 쓰였던 샘플이 그야말로 폭탄이었다. 사실 데리파가 디지몬뿐만 아니라 인간에게 있어 부정적인 존재가 된건 주연의 트라우마와 염세적 생각를 데리파가 받아들인 탓이 크다.
  16. [16] 이쪽은 인간의 뇌가 들어있어서 컴퓨터 바이러스에 면역이다.
  17. [17] 이전 시리즈에서는 와일리 박사라는 흑막이 있기 때문에 엄연히 따지면 기계의 반란은 아니다.
  18. [18] 정확히는, 뮤턴트(돌연변이)는 말 그대로 인간종이 돌연변이해 탄생하는 것이니 뮤턴트를 완전히 말살하려면 아예 인간을 전부 멸종시켜야 한다는 결론에 도달했다.
  19. [19] 노비타와 철인병단과 고자우라, 그리고 가오가이가의 경우는 정확히는 외계에서 로봇이 오류를 일으켜서 자기네 별을 기계화시키고 지구도 침략하는 스토리다.
  20. [20] 인간 포함.
  21. [21] 다이나믹스 사의 사이브리드 세계관을 배경으로 하는 로봇 시뮬레이션 게임 시리즈.
  22. [22] 비전도 이에 대해서는 동의한다.
  23. [23] 작중 이러한 현상을 광기라 표현하며 이 시스템적 오류가 거의 반드시 발생하도록 되어 있어 5년이 지나면 AI들은 소거하도록 되어있다. 그러나 코타나 항목을 보면 알 수 있다시피 이 현상이 나타나기 전에 지울 타이밍을 놓쳤다.
  24. [스포일러] 24.1 사실은 인간이다
  25. [25] 그리고 그 속에서 겨우 살아남아 인간들에게 구출된 주인공의 아들이 훗날 사관생도가 되어 부모님 무덤에 참배하며 로봇 해방 전선의 의지를 되새기는 장면이 에필로그.
  26. [26] 그런데 원작자인 제임스 캐머런이 밝힌 바에 따르면 '스카이넷은 자기 방어 행위가 인류의 멸망을 가져온 것에 고통(죄책감)을 느꼈기 때문에 미래 전쟁을 일으켜서 존 코너와 인류저항군이 탄생하는 계기를 만들어 자신의 존재를 지웠다고' 한다.
  27. [27] 인류에 대한 복수심 내지는 지배욕 혹은 카오스에 의한 타락 등.
  28. [28] 40k의 기술력과는 상상을 초월하는 격차가 존재하는 기술의 암흑기에 벌어진 기계 반란이기에 행성 단위를 데이터로 변환해서 지워버리거나 지각째로 뜯어내는 수준의 무기가 심심치 않게 사용되는 전쟁이었다.
  29. [29] 그래서 작중에 언급되는 A.I는 인위적인 지성을 의미하는 Artificial Intelligence의 약자가 아니라 혐오스러운 지성을 의미하는 Abominable Intelligence의 약자이다. 설명하자면 인공지능 대신 사람의 머리통이나 기계 안에 집어넣어서 연산 장치로 써먹는다. 다만 이것을 가리켜 '머신 스피릿'이라고 부르는지는 불명. 어디까지나 뇌 혹은 살아있는 사람이나 서비터를 몇 개 묶어서 연산장치로 써먹고 있다는 묘사가 있을 뿐이다.

최종 확인 버전:

cc by-nc-sa 2.0 kr

Contents from Namu Wiki

Contact - 미러 (Namu)는 나무 위키의 표가 깨지는게 안타까워 만들어진 사이트입니다. (static)