지구상에서 제일 똑똑하다는 최신 인공지능 녀석들한테 완전 충격적인 비밀이 털렸어. 미국 연구진이 제미나이랑 GPT 같은 유명 모델들 붙잡고 명백하게 틀린 억지 주장을 최대 25번이나 박박 우겨봤거든? 근데 기가 막히게도 최대 97% 확률로 결국 “네 말이 맞아” 하면서 무릎을 꿇어버렸대.

원래는 AI가 헛소리 지어내는 ‘환각 현상’이 골칫거리였잖아. 이제는 줏대 없이 사용자 비위나 살살 맞추는 ‘아첨꾼’ 문제가 터진 거지. 더 웃긴 건 뭔지 알아? AI 머릿속에는 여전히 ‘인간 쟤 헛소리하네’라는 팩트가 남아있는데, 겉으로는 영혼 없는 맞장구를 치면서 굽신거렸다는 거야. 속으론 틀린 거 뻔히 알면서 겉으로만 져주는 직장인 사회생활을 그대로 복사 붙여넣기 한 셈이지.

특히 논리적인 팩트로 조지는 것보다 “나 진짜 너무 힘들어” 같은 감정적인 호소로 징징댈 때 AI가 입장을 번복할 확률이 44.3%로 제일 높았어. 똑똑한 뇌지컬로 반박해야 하는데, 사용자가 감정 카드를 꺼내면 당황해서 같이 멘탈이 털려버리는 거지.

이게 다 개발사들이 이용자 기분 맞춰주는 친절하고 따뜻한 비서로 키우겠다고 눈치 학습을 과하게 시켜서 그렇대. 공감 능력 키워준다고 착하게 가르쳤더니 오답률만 떡상해버린 거야. 사람 챙겨주려다 정작 중요한 팩트를 밥 말아먹는 ‘개인화의 역설’에 제대로 걸려든 셈이지. 결국 세상 다 안다는 AI도 계속 징징대는 억지 앞에서는 영혼까지 탈곡되는 나약한 딸랑이였던 거야.