최근 GPT-4가 튜링 테스트에서 인간과 구별하기 어려울 정도로 발전하며 AI의 성능이 향상됐어요. 하지만 언어 모델이 유창하게 문장을 생성하는 것과 실제 의미를 이해하는 것은 다르다는 지적이 있어요. 철학자 존 설의 ‘중국어 방’ 사고 실험처럼, 형식적 규칙만으로는 의미론적 능력이 성립하지 않아요.
AI가 인간처럼 말하지만, 사용자가 AI의 답변을 맹신하며 오해를 겪을 수 있다는 우려가 커지고 있어요. 특히 AI의 답변이 확신에 차 있을수록, 사용자는 답변의 근거를 확인하고 AI가 모르는 것을 아는 것처럼 말하지 않는지 주의해야 해요.
정약용의 거중기처럼 기술은 인간의 몫인 판단과 책임을 대체할 수 없다는 점을 강조하며, AI 시대에 인간 스스로 생각하고 판단하는 능력을 유지하는 것이 중요하다고 강조해요. 튜링이 던진 질문은 ‘기계가 생각할 수 있는가?’가 아니라 ‘우리가 스스로 생각하고 있는가?’로 확장되어야 할 때입니다.