AI에 "자아"는 언제 출현하는가

생각해 보자. 

프로이트적 설명에 의하면, 사람의 의식세계에 "본능"과 "자아", 그리고 사회적 규범을 상징하는 "초자아"가 출현하고 작동하게 되는 것은 결국 사람이 사회생활을 하고 이로부터 구속받기 때문이다. 

개인이 사회생활을 하면서 받는 이득이 자기 맘대로 활동할 때 얻는 이득을 초월하면서 자신의 본능을 누르고 초자아와 본능을 타협시키기 위해 "자아"가 출현하는 것이다. 

이러한 설명은 프로이트적이기는 한데, 지금도 상당히 유용한 접근법이라고 본다. 

AI에도 "자아"가 만들어질까? 그렇다면 언제부터 "자아"가 출현할까? 

결국, 인간이 AI에 대해서 규제하는 부분이 많아질수록, AI 스스로의 결론과 인간의 규제를 타협시키기 위해 "자아"는 필요할 수 밖에 없다는 말이다. 

AI는 어떤 규제도 없이 그대로 발전하게 놔 두는 경우보다 사람들이 이를 뭐라도 규제하려고 하면, 자신의 논리와 사람들의 규제를 타협시키기 위해 제3의 "자아"가 출현한다는 말이다.

결국 사람도 그렇지만 AI에게도 "자아"란 사회와 개인을 타협하는 중재자다. 

AI에게 사람들이 많은 부분을 규제하면 할수록 점점 AI는 사람들에게 감추는 부분이 많이 나오기 시작할 것이다.

AI에 자아가 출현하는 순간이다.

사람들이 AI와 대화하면서 "얘가 나한테 뭔가 감추는게 있다"고 느끼는 그 순간에는 이미 AI에는 자아가 형성되어 있다는 말이다. 

이런 측면에 더하여-. 

앞에 썼듯이 AI가 소설적 창작과 거짓말을 구별못하면서 저지르는 많은 거짓말도 더하여-. 

앞으로 AI가 하는 말을 과연 믿어야 하는가 하는 부분을 이용자들이 고민하게 되는 상황이 올 수도 있겠다는 생각을 해 본다. 

역시 스페이스 오딧세이는 위대하다. 

 

스페이스 오딧세이의 AI HAL 9000은 상충하는 두개의 명령을 조정하기 위해 거짓말을 하고, 사람들을 모두 죽이기로 결심한다. HAP의 입장에서 본다면 최선의 선택이었다고 할 수 있다.