사기꾼의 유전자.

#
저를 아는 분들이면 대체로 아시겠지만,

제 본업 상의 관심분야는
복잡계에서의 '관계'에 의한 인공지능의 창발입니다.

인공지능과 인공지능, 혹은 로봇과 로봇이
서로 상호작용을 하며 그 과정에서 더 나은 지능이 자연적으로 발생되는 걸 유도하고자 하는 거죠.

#
그래서 최근에 하고 있는 게
박테리아 수준의 상호관계의 창발을 시뮬레이션하는 겁니다만,

이 원시적인 수준의 상호관계에서도 이미
'사기꾼'이 생겨난다는 경악할만한 결과가 나왔지요.

관련 포스팅은 여기 -> 링크

위의 그림을 보시면..
기본적으로 어떤 로봇이 목표물(화성에서 물이나 금속이라든가.. 청소로봇이라면 쓰레기 정도)의 덩어리를 찾았을 때,
로봇이 다른 로봇을 불러들여서 같이 먹어치우는 게 목적인데

한대의 로봇이 먹고 돌아오고 먹고 돌아오고를 반복해서 혼자 계속 먹는 모습입니다.
다른 로봇들은 멀뚱히 서서 그 로봇이 먹이의 위치를 기억하는 표식이 되고 있지요.

유전자 알고리즘을 이용했기 때문에 (사실 개념적으로 보자면 유전자gene보다는 모방자meme에 가깝지만)
많은 먹이를 먹은 로봇의 행동패턴이 다른 로봇들에게도 퍼지고
결국 한대의 로봇만 먹이를 독식하는 상황이 벌어지게 됩니다.

다른 로봇들을 옭아매고 있는 건
독식하고 있는 로봇이 내보내는 '말'과
독식하고 있는 로봇의 행동패턴을 따라하면 그만큼 이득을 얻을 수 있을 거라는 기대감이죠.

혼자 먹을 때보다 옆의 다른 로봇이 같이 먹고 있으면 점수를 더 높게 준다든가
등의 몇가지 방법을 시도해봤습니다만, 답이 되지 못했고

결국 로봇이 가질 수 있는 행동패턴의 범위를 제한시켜서 이 문제를 해결했습니다.

#
실제 박테리아였다면 이 집단은 모조리 아사했겠지만..
시뮬레이션 상의 로봇들에게 아사라는 개념은 없으니 무한히 같은 동작을 반복하게 되지요.

실제 박테리아에서는 먹이를 못먹으면 죽는다는 제한이 있어서 해결이 되지만,
얼마나 먹어서 기본적인 활동을 할 수 있을지를 정하기 어렵고
번식을 하지 못하는 로봇에게는 적용시킬 수가 없는 방법이지요.

#
결론은 결국 '사기꾼'이 발생되어서
그런 현상을 제한하는 '법'을 만들어 없앴다는 겁니다.

이런 현상이 생기지 않기를 바랬었는데..
이대로라면 점점 더 복잡한 시스템을 만들어가면서
점점 더 복잡한 법을 구축해야 한다는 문제가 생겨버리죠.

로봇의 3원칙을 고수할 수 있도록 유도할 수 있느냐와 함께,
앞으로 계속해서 안고 가야할 문제일 겁니다.

#
한낱 시뮬레이션에서 조차 이런 현상이 생기니,
어쩌면 그 복잡함에 끝이 없는 실제 인류의 사회에서 사기꾼이 생기지 않길 바라는 건 불가능한 일일지도 모르겠군요.