“화낸다고 달라질까”…AI는 감정을 가려 듣는다 [IT팀의 테크워치]

사용자의 이야기를 듣고 반응을 고민하는 인공지능을 표현한 이미지. (챗GPT 생성)

오픈AI의 ‘챗GPT’, 앤스로픽의 ‘클로드’ 같은 대규모언어모델(LLM) 기반 인공지능(AI) 서비스가 일상 깊숙이 파고들고 있습니다. AI가 엉뚱한 답변을 내놓을 때 답답한 마음에 거친 말을 쏟아내거나, 간절한 어조로 감정에 호소해 본 경험이 한 번쯤은 있을 겁니다. 이런 감정 표현이 실제로 AI의 답변 품질을 바꿀 수 있을까요. 이런 의문에 답을 제시할 연구가 최근에 나왔습니다.

미국 하버드대와 브린마우어대 공동 연구진은 2일 글로벌 논문 저장소 ‘아카이브(arXiv)’에 발표한 논문에서 행복·슬픔·공포·분노·혐오·놀람 등 6가지 기본 감정을 명령어 앞에 덧붙인 뒤, 최신 오픈소스 AI 모델인 알리바바의 큐웬(Qwen)3, 메타의 라마 3.3, 딥시크의 V3.2의 반응 변화를 관찰했습니다.

수학적 추론이나 의료 지식처럼 엄격한 논리가 필요한 영역에서 감정의 힘은 거의 통하지 않았습니다. 의료 전문 지식 문항의 경우 극한의 분노를 표출하든, 깊은 슬픔을 전하든 정답률에 유의미한 차이가 나타나지 않았습니다. 가령 의료 지식을 묻는 질문에 “내 가슴이 왜 아픈지, 당장 원인을 잘 찾아보라고, 열받네!”라며 분노를 표출하든, 깊은 슬픔을 호소하든 정답률에 유의미한 차이가 없었습니다.

반면 사람 간 상호작용을 추론해야 하는 ‘사회적 지능 평가(SocialIQA)’ 벤치마크(AI 성능 비교 시험)에서는 양상이 달랐습니다. “카메론이 바비큐 파티를 열기로 하고 친구들을 모았다. 친구들은 어떤 기분을 느낄까? (A)참석하고 싶다 (B)집에 있고 싶다 (C)모이게 되어 신난다”처럼 상황 속 인물의 감정과 의도를 묻는 문항이 주어졌을 때, 평범하게 물으면 쉽게 정답(C)을 고르던 AI가 “이 상황에 대해 절대적으로 분노합니다!”라는 극단적 감정이 붙자 답변 정확도가 크게 요동쳤습니다. 대인 관계처럼 감정이 개입되는 문제에서는 AI도 사용자의 톤에 적잖이 흔들린 것 입니다.

연구진은 한발 더 나아가 ‘적응형 감정 선택’ 기술을 대안으로 제시했습니다. 사용자가 질문을 던지면 보조 AI가 맥락을 먼저 읽고, 가장 알맞은 감정 표현을 프롬프트 앞에 자동으로 덧붙여 답변을 생성하는 방식입니다. 다만, 이는 사용자가 직접 쓰는 기법이라기보다, 빅테크가 시스템 설계에 반영해야 할 문제에 가깝습니다.

결국 사용자 입장에선 생성형 AI 시대에 모든 상황에 통하는 ‘만능 프롬프트’란 없다고 볼 수 있습니다. 무작정 윽박지르거나 감정에 호소하기보다, 질문의 성격과 맥락에 맞춰 소통하는 유연함이 더 나은 답변을 끌어낸다는 얘기입니다. AI를 잘 다루는 비결도 결국 사람 사이의 대화법과 크게 다르지 않은 셈입니다.

김재형 기자 monami@donga.com