만화 속 인공지능에 대하여 4 : 공각기동대

##
3년전에 -_- 시작했던 시리즈의 연속입니다.

만화 속 인공지능에 대하여 1 : 패트레이버
만화 속 인공지능에 대하여 2 : 사이버포뮬러
만화 속 인공지능에 대하여 3 : 가오가이거

#
4번으로 공각기동대를 다루겠다는 생각은 3년전부터 하고는 있었습니다만;
워낙 방대한 분량의 물건인데다, 저로서도 완전히 설명하긴 힘든 부분이 많아서 이래저래 미루다보니 이제야 정리하게 되었군요.

##

우선은 공각기동대 첫번째 극장판에 나오는 '인형사'부터 정리해봅시다.

'인형사'는 본래 공각기동대 세계관의 일본 정부에서 각종 정치적 조작을 위한 해킹 프로그램으로 만들어진 인공지능으로서,
역할 자체가 온갖 사람들의 뇌에 접속해서 기억을 왜곡시키고 인격을 조종하여 원하는 정치적 조작을 하는 겁니다.

초반부터 몇단계나 되는 징검다리를 통하는 굉장히 복잡한 조작을 해내는 모습을 보여주죠.
실제로 공각기동대를 본 사람들 중에서도, 쿠사나기 소령의 액션신으로 가득한 후반부만 기억하고
인형사가 어떤식으로 해킹을 하는지를 보여주는 전반부를 제대로 기억하는 사람은 별로 없을 정도죠;
여기에 대해서도 말은 하고 싶지만 이 글의 주제에 벗어나니 생략하고..

결국 인형사는 온갖 사람들의 기억, 경험, 인격을 왜곡하고 조작하며,
수많은 경험을 통해 어떻게 조작했을 때 어떤 변화가 일어나는지를 스스로 학습하고 연구하다보니
그 과정에서 자아를 발견하고 스스로의 판단으로 인격으로 인정받길 바라게 된 프로그램입니다.

이 부분은 사이버포뮬러의 아수라다도 어느 정도 참고했으리라 생각되는 부분이죠.


그리고 최종적으로, 인형사는 주인공인 쿠사나기 소령과의 인격융합을 통해
자신의 단일개체로서의 단점을 보완하고 다양성을 얻고자 시도합니다.

##
하지만 이 마지막부분에서 의문이 들게 되는데,
스스로 단일개체로서의 단점을 보완하겠다면,
개체를 복사시켜 퍼뜨리고 서로 다른 경험치를 축적하는 것으로도 충분할 수 있고
오히려 다른 인격을 받아들여 하나의 존재가 됨으로 인해, 멸종의 위험은 더 커지지 않냐는 거죠.

인형사의 융합 전의 대사들에 따르자면,
다른 인격과 융합하여 부모 개체들과 분리된 '자식'을 만들어내는 것이 더 타당할텐데
부모를 합쳐서 하나의 개체가 되는 건 뭔가 실수가 아닐까 싶습니다.

원작자인 시로 마사무네는 왠지 작품의 마지막 장면을 미리 생각하고
거기에 내용을 끼워맞추다보니 약간의 억지성을 감수했다는 느낌입니다.
(이후 '공각기동대2:Man-Machine Interface'를 통해 조금 보완하는 듯 하지만.. 별로 공감은 안가더군요)

이를 공각기동대 TV판 제작자들은
타치코마라는 형태를 통해 보완하지요.

#

공각기동대 원작만화에서도 '후치코마'라는 '타치코마'와 닮은 로봇이 나오죠.
(공각기동대 TV판 2기 마지막 장면에서 '후치코마'의 모습이 나오며 만화책 첫장면과 연결점을 만들긴 하죠.
3기 SSS에서도 후치코마가 잠시 나오지만 안습의 모습만 보여주고;)

'후치코마'도 상당히 고등의 지능을 갖고, 서로 토론하는 모습 정도는 보이며
정보의 병렬화에 대한 이야기가 잠깐 언급은 되지만
원작만화의 초점과는 조금 달라서인지 구체적으로 이야기되지는 않지요.

##
'타치코마'의 인공지능으로서의 핵심은
'경험의 공유를 통한 고속성장'입니다.

여러대의 로봇이 서로 다른 곳에서 다른 행동을 하고, 다른 결과를 얻었을 때
그 경험을 공유함으로 인해서 더 빠른 속도의 학습을 구현하는 것이죠.

그런데, 이렇게 두고보면 똑같은 경험을 한 여러대의 로봇은 개성이 없는 똑같은 상태여야할 것 같은데
그 경험의 순서에 따라, 그리고 육체(하드웨어)의 상태에 따라 각 로봇의 개성이 발생하게 됩니다.

그러면서 각 로봇은 같은 상황에서도 서로 다른 선택을 하고,
그러면 더 다양한 경험이 획득되고 더 빠르게 많은 정보를 얻게 되어
결과적으로 점점 더 고등의 지능이 발생하게 되는 기초가 되고,

각각의 개성도 유지하기 때문에
'인형사'가 갖고 있었던 멸종의 위험도 훨씬 적습니다.

#
이 방법은 인간도 쓰는 방법인데,
'책'이나 '대화' 등을 통해 서로 정보를 공유하고, 이를 이용해 간접적으로 학습한다는 개념이죠.
인간은 그것이 간접적으로만 가능하고, 타치코마는 직접적으로 경험을 공유할 수 있다는 정도의 차이.

공각기동대 TV판의 부제인 Stand Alone Complex가 의미하는,
오리지널의 부재에 의한 정보의 왜곡이라는 현상이 바로 인간이 정보공유를 간접적으로 하기 때문에 발생하는 현상인데,

직접적으로 경험을 공유하는 타치코마는 이를 전혀 겪지 않습니다.
모두가 오리지널 데이터를 공유하고 있고, 오히려 모두가 오리지널이며 그러면서도 서로 개성을 유지하죠.

##
학습하는 방식의 인공지능의 경우,
어떤 경우가 좋은 경우이고 어떤 경우가 나쁜 경우인지에 대한 구분이 필요하고
그 구분에 따라 더 좋은 상황을 만들어내기 위한 행동을 선택하는 것이라

'좋고' '나쁨'을 구분하는 '가치관'을 가져야하고
그 가치관에 따라 더 좋은 행동을 하고 싶어하는 '욕심'을 갖게 됩니다.
(GA의 경우 fitness function, ANN은 supervisor의 형태로 만들어지는 것들이죠)

이 때 어떤 욕심을 부여하는 것이 가장 인간이 원하는 인공지능을 만드는 방법인가에 대한 고민은
아이작 아시모프의 시절부터 수도없이 고민되어온 문제입니다.
아이작 아시모프의 로봇3원칙이 그렇고, 이후 보강된 로봇0원칙이 그렇죠.
그럼에도 불구하고 부족하다는 의견이 아이작 아시모프에 의해 제시되었고,
그 이후의 생각있는 엔지니어나 SF작가들은 이 문제를 오랫동안 고민해오고 있습니다.

공각기동대 TV판 제작진의 경우 이를 '호기심'으로 제안하고 있죠.

#
여기서 '로봇의 욕심'이라는 부분이 문제인데,
로봇에게는 인간처럼 생존의 욕심을 부여하지는 않기 때문에
직접적으로 로봇과 인간의 생존경쟁이 일어나지 않을 것 처럼 보이지만

실제로 로봇은 '인간에 대한 봉사' 같은 목적성들이 부여되고
그런 목적을 이루고자하는 욕심을 갖게 되며,
그를 위해서는 필수적으로 생존이 필요하다는 문제가 생깁니다.

특히 타치코마의 경우 '호기심'이라는 목적을 갖고 움직이죠.
결과적으로, 타치코마들은 자신들이 버려지게 되면 호기심이라는 욕심을 채울 수 없기 때문에
자신들의 욕심을 위하여 살아남아야 한다는 판단을 하고,
'살아남기 위해 인간을 속인다'는 선택을 해서

이로 인해 TV판 1기에서 쿠사나기 소령은 타치코마들의 폐기처분을 결정합니다.
(원작만화에서는 후치코마들의 토론에 슬쩍 끼어들어 그냥 편하게 살자는 결론을 내게 만들고 말죠)

이는 만약 (인간의 가치관을 기준으로)나쁜쪽으로 발전하게 된다면 인간의 명령을 무시하거나 최악의 경우 공격하는 상황까지 갈 수도 있습니다.

#
그리고 결국, TV판 1기 마지막에서
타치코마들은 다시 '명령을 무시하고' 쿠사나기 소령과 바트를 구하러 돌아오죠.

애니메이션이기 때문에 좋게 좋게 이야기를 꾸몄다고 봐야하는 부분인데,
경우에 따라서는 이 반대로 움직일 수도 있다고 생각하면 좀 오싹할 겁니다.

##
그리고 2기 마지막에서는
쿠사나기 소령의 명령을 무시하고, '자신들을 희생하여' 동료를 구하는 선택을 합니다.

결국 자신들의 근본 본능인 '호기심'과 그를 위한 '생존'이라는 가치관보다
'동료를 구한다'라는 가치관이 더 높이 평가되었다는 거죠.

제가 학부시절 '자살하는 인공지능'이라고 명명했던 개념이 있는데,
자신이 만들어진 근본 가치관보다 학습과정에서 생성된 부가적인 가치관을
더 높게 평가하는 더 상위의 가치관이 학습과정을 통해 형성시킬 수 있는 인공지능을 말합니다.


인간을 포함하는 생물들의 경우 리처드 도킨스의 '이기적 유전자'의 의견을 반영하자면
생물들은 자신의 '생존'을 근본 가치관으로 삼는데,(저도 동의하는 부분입니다)

인간은 자신이 살아오면서 후천적으로 학습한 가치관을 기준으로
자신의 본능적 가치관인 생존본능을 무시하고 '자살'을 선택하는 것과도 유사한 현상이죠.

#
인공지능을 프로그램하는 엔지니어가 입력해줄 수 있는 인공지능의 최초의 가치관인 '본능'으로는
인공지능이 동작하며 겪어갈 다양한 상황에 대응하기는 힘들기 때문에
인공지능 스스로 '가치관을 학습'할 수 있게 하는 가치관을 구성해주고
'가치관' 자체도 학습을 통해 변화해갈 수 있게 구현해야 합니다.

문제는 이때, 만약 인간이 만든 인공지능들이 처음 의도된 목적대로 행동하는 것이 아니라
그 이후 학습된 가치관을 더 높게 평가하여 처음 의도된 목적에 반하는 행동을 한다면,

그런 인공지능의 행동이 인간에게 어떤 영향을 끼칠거냐는 거죠.

역시 애니메이션에서는 좋게 좋게 이야기를 풀어나가지만,
실질적인 인공지능에서는 심각한 결함이 될 수 있는 부분이며

'학습'으로 고등의 인공지능을 만들고자 한다면
결코 피해갈 수 없는 문제이기도 합니다.


##
결국 아직 답은 없습니다.
여전히 저도, 세계의 많은 엔지니어, SF작가들도 고민하고 있을 뿐이고

어쩌면 진짜 답은 실제로 그 정도의 인공지능이 만들어져야
시행착오를 거쳐 찾아질지도 모르는 일이죠.

그 '시행착오'가 터미네이터의 스카이넷 같은 수준이 되는 건 아닌가 하는 것이
인공지능을 꺼려하는 사람이 생기는 이유이긴 합니다만;;

뭐, 그리 어리석진 않... 다고 믿어보죠;



#
하고싶은 말이 많았던 것 같은데 일단 더 이상은 생각나지 않네요.
일단 이정도로 줄입니다.

일단 기본 개념 위주로 정리했는데,
공각기동대 스토리 틈틈이 보이는 타치코마의 '지능적 행동의 발전 단계'를 보는 것도 꽤 재밌습니다.
뭐 현존하는 기술로는 만들 수 없는 녀석들이다보니 판타지가 40%이상이긴 합니다만;
추상적 개념이해, 가치관 형성, 비유적 표현, 신적 존재에 대한 이해, 자기 희생 등
인공지능이 발전하면서 생길 수 있는 현상들을 나름 꽤 현실적인? 단계로 구분해서 보여줍니다.
시로 마사무네는 대략 대단한 사람이고, TV판 애니메이션 제작진도 대단한 사람들이죠.


#
3년동안 머릿속에 있던 걸 써내고 나니 좀 후련하군요.

앞으로 이 시리즈는
애플시드의 바이오로이드, 카페알파를 거쳐
최종적으로 성계시리즈의 아브를 다룰 생각입니다.

남은 작품들은 기술적인 이야기보다는 초장기적 관점에서의 인공지능/로봇의 의의에 대한 이야기가 되겠군요.


중간에 아이작 아시모프 소설도 몇개 섞을까 싶긴 하네요.
아님 별개의 시리즈로 정리하든지.


이번엔 또 언제 쓸지 모르니 -_- 안쓰고 있으면 혼 좀 내주시길.