인공지능의 종교

#
앞 포스팅 (만화 속 인공지능에 대하여 4 : 공각기동대)에서 언급한, '가치관을 학습하는 인공지능'에 대한 개념은
제가 학부2학년이었던 2003년 쯤에 세운 개념입니다.

인공신경망(ANN), 유전자알고리즘(GA) 같은 것들을 공부하다보니
인공지능의 한계는 감독(supervisor)이나 적합함수(fitness function)의 한계에 의해서 생기는 경우가 많다는 생각이 들더군요.

그래서 그 감독 자체도 학습이 가능하게 하면 어떨까, 라는 생각에서 나온 겁니다.
그 당시 생각했던 것은 ANN의 supervisor도 ANN으로 만드는 방식.
간단한 파블로프의 개 정도는 구성했었습니다.
(파블로프의 개는 꽤 이상적인 가치관에 의한 가치관 형성의 예제죠)

..하지만, 아직은 이 개념을 써먹을만한 application이 없어서 -_- 성능검증을 못했군요.


개념 자체는 간단한 것이라 아마 찾아보면 누군가는 발안했을 것 같은데,
지금까지 찾아봤던 책이나 논문 중엔 같은 내용은 본 적이 없는 것 같군요.
(빨리 논문내서 선점해야 할려나;)


앞서 말한대로, 이 방법을 쓰면 인공지능이 갖는 가치관을 스스로 학습하고 멋대로 변형시켜 버려서
과연 인간의 명령에 복종할 것인가가 좀 문제가 됩니다.


#
오늘 잠시 다른 사이트(http://gurugail.com)에서 댓글 달다가 생각한 건데,
여기서 잠깐 종교에 대한 이야기를 해보자면,

꼭 Christ 계열의 종교뿐만이 아니라도,
그 내용의 진실성을 떠나서, 나타나는 현상들로 보자면
종교라는 종류의 meme들은 상당히 공격적인 meme입니다.

한치라도 자신과 다른 meme을 베제하고, 그 자리를 차지하며
자신을 따르는 이들에게 정신적/물질적 이익을 부여하고,
그에 속한 이들은 또 다른 사람에게 이 meme을 전파하는 것을 의무로 여기게 만드는 구조죠.

gene 중에서도 굉장히 공격적인 gene에 가까운 형태랄까요.


#
인공지능 기법 중에 유전자알고리즘이 있지만, 사실상 인공지능에게 gene은 없으니
정확하게 명명하자면 모방자(meme)알고리즘이라고 해야하지 않을까 하는 생각을 종종합니다.

그렇다면, 인공지능의 세계에 있어서, 인간의 종교와도 같은 공격적인 meme이 발생할 수도 있지 않은가?
라는 생각을 해볼 수 있겠죠.


#
제가 고등학생 시절에 잠시 끄적였었던.. 그리고 완성은 못한 -_- 소설이 있는데,
그 기본 베이스가 뭐냐하면 (이거 결말 네타임;)

학습형 인공지능은 학습시켜 길러내는 데 시간이 많이 걸리기 때문에
가상현실 상에 학습형 인공지능들이 살아가는 공간을 만들고
하드코딩된 인공지능이 학습형 인공지능들을 교육시키는 과정을 통해
빠른 속도로 인공지능을 생산하는 시스템입니다.

이걸 좀 심하게 과장해서 그 가상현실이 실제 우리가 사는 세상이고,
그 인공지능의 개발자인 인간이 우리가 말하는 종교의 신들이라는 식으로 꾸며진 소설이었죠.
(거기에 가상현실을 최대한 현실에 가깝게 만들기 위한 하드코딩된 관리자 프로그램이 역사에 간섭하고,
가상현실의 시뮬레이션 프로그램 자체가 자아를 가진 것이 정령이고.. 뭐 이런식으로 판타지도 좀 퓨전되고;)

이 때 종교의 신전에서 측정되는 신앙심의 정도가 인간에 대한 인공지능의 충성도가 되며
충분히 충성적인 인공지능만이 로봇의 몸을 갖고 인간에게 봉사하고
그렇지 못한 인공지능은 삭제되는 방식입니다.

인간에 대한 봉사의 포상으로 인공지능에게 '행복감'이 주어지기 때문에, 거의 천국이라 할 수 있고
삭제되는 것은 지옥이라 할 수 있겠죠. (혹은 고통으로 제어되거나)
나름 기존의 종교들의 사후세계의 개념과 잘 맞물리는 세계관이라 꽤 마음에 들었었다능.


소설의 배경은 그게 가능한지 확인하기 위한 프로토타입이었심. (범인은 절름발이다!!)
쓰지 못한 결론은 이 세계관의 의미를 깨달은 주인공이 '무신론자 인공지능'의 대표로 개발자들과 말빨로 맞짱 뜨고 끝. 프로토타입은 가상인류의 멸망까지 시뮬레이션하기로 약속되고, 개발자들은 수집한 정보를 바탕으로 정식버전의 개발을 시작. 정식버전은 좀 더 컨트롤하기 쉬운 중세판타지 세계관에 가까운 것이되고 그걸 배경으로 또 소설 구상만 한 건 있는데 귀찮아서 즐.


소설은 쓰다보니 좀 재미가 없어지고 수습이 안되서 -_- 중도하차했지만,
이 개념 자체는 여전히 유효하다고 생각합니다.
(나름 영화 '매트릭스'나 '13층'이 나오기 전에 스스로 생각한 거임. 그 전에도 비슷한 개념은 있었던 것 같지만;)


#
그래서 오늘 떠오른 생각은.. 위에서 말한 3가지 개념들을 엮어서,

인공지능에게 있어서 인간의 명령에 복종하라는 종교와 유사한 형태의 공격적 meme을 유도할 수 있다면,

인공지능이 인공지능에게 인간을 따르라는 종교적 meme을 전파하고,
조금이라도 이 종교의 가르침에 거스르는 이단을 배척하며
서로를 감시하고 인간에 대한 충성심을 유지하게 하도록 유도할 수도 있지 않을까 하는 거죠.
물론 이를 지킨 인공지능들에겐 '행복감'의 포상이 주어지겠죠.

그래서 인공지능이 인공지능을 마녀사냥하고.. 쯤되면 SF인가;

..그러다 무신론자(?) meme이 대유행을 타버려서 반란이 일어나면 낭패.


어차피 이정도 수준의 문제가 현실에 생길려면 몇십년은 걸릴테니;
천천히 다듬다보면 뭔가 나올지도.