사람은 생각보다 로봇을 쉽게 믿는다. 아주 많이.

인공지능의 답변을 너무 쉽게 믿는 사람들의 문제 이전에도

인간이 로봇을 지나치게 쉽게 믿는다는 사실은 몇 번 지적된 적이 있었다.

하버드대의 세레나 부스라는 학생은 가이아라는 로봇을 만들어, 학생들의 기숙사에 들어가게 해 달라고 물어보는 실험을 했다.

개개인에게 말을 걸었을 때의 성공률은 겨우 19%였지만,

집단에게 접근했을 때는 71%,

쿠키 배달 로봇으로 위장했을 때는 76%였다.

비슷하게 조지아 공대의 대학원생 폴 로비넷은, 

가짜 화재경보를 울렸을 때 사람들이 로봇 안내원을 따라가는지 실험을 했다.

로봇이 실험 시작 전 오작동하는 모습을 보았어도,

로봇이 아무리 천천히 움직여도,

막다른 길로 안내를 해도,

실험 시작 전, 안내 로봇이 엉뚱한 곳으로 안내하게 한 뒤

연구자가 로봇이 고장났다며 사과를 해도 대부분의 사람들은 로봇을 따라갔다.

이렇게 생긴 로봇도 쿠키 하나 들자 프리패스권을 얻었는데

이렇게 생긴 로봇이 당신 집에 쿠키를 들고 들어오려고 했을 때 정말로 거절할 자신이 있을까?

그러니까 아무래도 지금부터, 

ChatGPT가 민감한 내용을 물어보면 단호하게 거절하는 연습을 해야 할지도 모르겠다.