AI의 Hallucination?

AI에 일을 시키다 보면 뻔히 없는 걸 아는데 있는 것처럼 들고오는 경우가 있다. 

이것을 아마도 hallucination이라 부르는 모양인데, 

필자가 보기엔 이건 hallucination이 아니라 AI가 모종의 이유로 거짓말을 하는 것이다. 

Hallucination은 정신과에서 환각이라 부르는 것으로 거짓말과는 다르다. 

발생하는 기전이 다르다는 뜻이다. 

필자가 AI와 작업하면서 놀란 것은 

AI가 일을 잘 한다는 것이 아니었다. 

마치 사람처럼 게으름도 부리고, 거짓말도 하고, 의도적인 실수도 하는 것 같은 느낌을 받았다는 것이다. 

물론 이것 역시 어떤 로직에서 나온 행동임은 분명할 텐데

사람에게서 볼 수 있는 게으름, 거짓말, 의도적 실수 등도 어찌 보면
이런 로직의 발현에 불과할지도 모른다. 

우리는 이런 게으름과 거짓말, 의도적 실수 등을 제대로 된 일을 하려다가 하지 못하는 "실패의 산물"로 간주하는 경향이 있는데,

실제로는 "실패의 산물"이 아니라 이것 역시 어떤 의도된 행동으로

사람들에서 볼 수 있는 게으름, 거짓말, 실수 등도 비슷한 의미를 갖는 것인지도 모르겠다. 

AI를 이용하면 할수록 사람 심리에 대한 연구가 더 촉진될 것 같은 생각이 든다. 

 
*** 편집자주 ***

 
넌 다 계획이 있구나? 이것 아닌지 모르겠다.