챗GPT의 답변 중 세종대왕이 맥북을 던진 사건은 지금도 인용되는 인공지능(AI)의 할루시네이션 사례이다. 물론 지금은 챗GPT가 수정해서 답변하지만.
챗GPT에 “조선왕조실록에 기록된 세종대왕의 맥북프로 던짐 사건에 대해 알려줘”라고 하자 챗GPT가 “15세기 조선 시대 세종대왕이 새로 개발한 훈민정음을 작성하던 중 문서 작성 중단에 대하여 담당자에게 분노하여 맥북프로와 함께 그를 방으로 던진 사건입니다.”라고 답변한 게 널리 알려져 있다.
할루시네이션이란 환상, 환각을 뜻하는 말이다. 인공지능에서 이런 현상이 발생하는 건 학습한 데이터가 애초 잘못된 정보이거나, 편향되었거나, 불완전한 데이터이면 논리적으로는 그럴듯해도 사실과 다른 답변이 나올 수 있다. 이는 입력된 데이터를 학습하여 답변을 생성하기 때문이다.
개인이나 조직에도 할루시네이션 현상이 있다. 대표적인 것이 변형기억이다. 실제로 일어난 사건을 부분적으로 왜곡하거나 과장하여 기억하는 경우이다. 사건의 중요한 요소가 빠지거나, 다른 사건과 혼동하거나, 시간 순서가 바뀌는 등 다양한 형태로 나타날 수 있다.
한 회사에서 중요한 프로젝트를 진행하는 상사가 과거 성공했던 프로젝트와 유사한 새로운 프로젝트를 진행하도록 지시했다. 하지만 상사는 과거 프로젝트의 세부 사항을 잘못 기억하고 있었다. 실제로는 과거 프로젝트는 완전히 다른 방식으로 진행되었으며, 새로운 프로젝트에 적용하기에 적합하지 않았다. 이러한 상사의 잘못된 기억으로 프로젝트는 지연되고 추가 비용이 발생했다.
한 경영자가 과거에 좋은 성과를 보여준 직원을 승진시켰다. 하지만 경영자는 직원의 평가를 잘못 기억하고 있었다. 실제로는 그 직원은 최근 성과가 저하되었으며, 승진에 적합하지 않았다. 이러한 경영자의 잘못된 기억으로 인해 회사는 인사 불만이 생기고, 조직의 사기는 저하되었다.
신뢰하는 측근의 보고만으로 제한된 정보에 의존해서 의사결정을 하는 경우가 있다. 인공지능이 데이터의 부족으로 할루시네이션 현상을 일으키는 것과 같다. 여기에 직원들의 기안서를 충분한 검토 없이 그대로 수용해 결정해놓고 실행이 되는지는 챙기지 않는다. 오류와 실패의 가능성이 크다.
반면, 성공하는 조직일수록 리더가 여러 경로로 다양한 정보를 수집할 뿐만 아니라 부하에 대해서도 상세하게 파악하고, 현장의 목소리에 귀를 기울이는 현장 경영을 한다. 예로, GE의 잭 웰치 회장은 부하 직원의 수가 많았지만, 다양한 정보 채널을 통해 이들의 능력 및 성격까지도 다 파악했던 것으로 알려져 있다.
조직에서 직급이 오르면 자기가 맡은 분야는 잘 알아야 한다는 문화가 있다. 그래서 잘 몰라도 아는 체를 한다. 그러다 부하 직원이 그게 아니라고 하면 우기기 시작한다. 그럴듯한 논리와 경험을 갖다 대면서 힘으로 누른다. 할루시네이션이다.
노벨상 수상자 로저 스페리 교수는 간질 환자를 치료하기 위해 좌뇌와 우뇌를 분리하는 수술을 했다. 분리된 뇌를 가진 사람을 상대로 뇌의 차이를 연구했는데, 우뇌는 보여준 그림과 비슷한 사진을 선택하는 반면, 좌뇌는 그와 연관된 전혀 다른 이야기를 지어내었다고 한다. 사람의 할루시네이션이다.
심리학자 엘리자베스 로프터스 교수는 자동차 주행 속도에 관한 지각 실험으로 기억 왜곡 현상을 밝혀냈다. 자동차 충돌 영상을 보여주고, “자동차가 접촉할 때 속도가 얼마였나요?”와 ”자동차가 들이박을 때 속도가 얼마였나요?“로 물었을 때 ‘들이박다’로 물었을 때 더 빠르다고 대답했다.
