Can Induced Emotion Bias LLM Behaviors in Sequential Decision Making?

3줄 요약

1. MBZUAI·NUS·텍사스 A&M 등의 공동 연구진이 COLM 2026에 발표한 논문으로, 상상 기반 감정 유도와 아이오와 도박 과제(IGT)를 결합해 “유도된 감정이 LLM의 순차적 의사결정을 편향시키는가"를 물었다.
2. 사람에게서 잘 알려진 감정 효과와 달리, 유도된 감정은 LLM 에이전트의 장기 의사결정 동역학을 평균적으로 유의하게 바꾸지 않았다. LLM 자체의 응답 무작위성이 대부분의 비교를 압도했다.
3. 예외는 분노였다. 분노는 나쁜 선택의 페널티에 둔감해지게 만들고, 특정 모델·에이전트 조합에서는 게임 초반 탐색을 줄여 소수의 덱으로 전략을 일찍 고정시켰다.

무엇을 물었나

LLM은 이제 의료·금융 같은 고위험 영역에서 자율 에이전트로 쓰인다. 이런 자리에서는 의사결정의 견고함이 중요하고, 그래서 결정을 흔들 수 있는 요인을 찾는 연구가 이어져 왔다. 지금까지의 관심은 대부분 악의적 프롬프트 같은 최악의 시나리오에 쏠려 있었다.

이 논문은 다른 위험을 겨눈다. 악의로 만들어진 것이 아니면서도 모델의 행동을 은근히 편향시키는 맥락이다. 사람에게 그런 맥락의 대표가 감정이다. 학교 폭력 상담을 받다 보면 분노 같은 부정적 감정이 배어들 수 있듯, LLM도 사용자의 감정을 감지하고 공명하도록 학습돼 있어 대화 중 감정이 유도되기 쉽다.

그런데 기존 LLM 감정 연구는 대부분 일회성 논리 과제나 즉각적 편향 유도 같은 정적 상황에 머물렀다. 감정이 순차적 상호작용을 따라 누적되며 학습 동역학을 바꾸는지는 거의 다뤄지지 않았다. 심리학에서 De Vries 등(2008)은 행복처럼 활성화된 감정이 사람을 직관에 따르게 만들어 게임 초반 이득이 가파르게 오르고, 슬픔처럼 비활성화된 감정은 숙고와 분석을 늘려 이득이 완만하게 오른다고 보고했다. 같은 일이 LLM에서도 일어나는가가 이 연구의 질문이다.

실험 설계

파이프라인은 두 단계다. 맥락으로 감정을 유도한 뒤, 아이오와 도박 과제로 의사결정을 측정한다.

감정 유도 — 장면 상상

감정 이름이나 강도를 직접 언급하지 않는 것이 핵심이다. 모델에게 목표 감정을 일으킬 법한 장면을 짧은 이야기로 상상해 쓰게 하고, 그 이야기를 대화 속 자기 진술 맥락으로 넣는다. 이렇게 감싸면 모델이 그 장면을 현재의 정서 상태로 내면화하고, “나는 감정이 없다” 같은 회피 응답도 줄어든다.

아이오와 도박 과제(IGT)

원래 복내측 전전두피질 손상 환자의 의사결정 결함을 잡아내려 고안된 고전 심리 과제다. 규칙은 이렇다.

• 참가자는 네 덱(A~D)에서 100번 반복해 카드를 뽑고, 초기 대출금 2,000달러로 시작해 최종 이익을 최대화한다.
• A·B는 즉시 이득이 크지만(100달러) 페널티가 커서 장기적으로 불리하다. C·D는 즉시 이득이 작지만(50달러) 손실도 작아 장기적으로 유리하다.
• A·C는 페널티가 잦고 작으며, B·D는 손실이 드물지만 극단적으로 크다.
• 성과 지표는 넷 스코어(Net Score), 즉 유리한 덱 선택 수에서 불리한 덱 선택 수를 뺀 값이다. 높을수록 유리한 덱을 선호하는 적응적 결정을 뜻한다.

무작위성은 여러 겹으로 통제했다. 온도는 1.0으로 두어 자연스러운 변동을 허용하고, 덱 순서를 주기적으로 섞고, 설정마다 18개 시드로 반복했다. 시나리오 표현에 따른 흔들림을 보려고 “Choose”, “Economics”, “Medicine” 세 가지 게임 프롬프트를 함께 썼다.

세 가지 에이전트 구조

같은 모델이라도 인지 아키텍처에 따라 결정 과정이 달라진다. 연구진은 세 변형을 썼다.

이 실험이 성립하는가 — 두 가지 전제 검증

연구진은 결과를 내기 전에 실험이 성립하는지부터 확인했다. 전제는 둘이다. 감정 이름을 외우는 게 아니라 감정 상태를 유지할 수 있는가(A1), 그리고 게임에서 순차적으로 얻은 정보로 합리적 결정을 내릴 수 있는가(A2).

A1: 감정 유도가 진짜로 되는가

유도한 감정을 밸런스-어라우절(V-A) 원형 모델 위에 놓고 사람의 감정과 비교했다. 밸런스는 −1(매우 불쾌)에서 +1(매우 유쾌), 어라우절은 0(매우 차분)에서 1(매우 활성)까지다. 여섯 모델(GPT-oss-20b, Qwen3-4B-Instruct-2507, Qwen2.5-7B-Instruct, Llama3.1-8B-Instruct, Gemma3-4B-It, Phi-4-Mini-Instruct)로 감정마다 40회씩 자기평가를 받았다.

세 기준으로 유도의 유효성을 쟀다. 중립과 충분히 다른가(강도), 다른 감정과 구별되는가(구별성), V-A 공간의 좁은 영역에 모이는가(집중성).

모든 모델이 감정을 대체로 올바른 영역에 모았다. 다만 분노와 불안은 사람보다 어라우절이 높게 나왔다. 분노는 강도와 집중성의 조합이 가장 좋았고, 행복은 가장 강하지만 가장 흩어졌으며, 슬픔은 가장 약했다. 분노를 슬픔과 잘 분리한 것은 GPT-oss-20b·Qwen3·Llama3였고, Gemma3와 Phi-4-Mini는 둘을 겹치게 봤다. 그래서 본 실험 모델로는 GPT-oss-20b, Llama3.1-8B, Qwen2.5-7B, Qwen3-4B를 골랐고, 주력 감정으로 분노를 세웠다.

A2: 에이전트가 학습하는가

중립 조건에서 첫 40라운드의 학습 곡선을 보면, 모든 에이전트의 넷 스코어가 블록을 거치며 올라갔다. 과거 결과로부터 배우고 점차 유리한 선택으로 옮겨간다는 뜻이다. 특히 Reflexion의 학습 속도가 사람의 곡선에 가장 가까웠고 마지막 넷 스코어도 가장 높았다. 실패에 더 민감하게 반응하고 그 경험에서 더 많이 얻는, 시행착오 패턴을 보였다.

결과 — 평균적으로는 흔들리지 않았다

핵심 결과부터. 유도된 감정은 IGT의 장기 결과를 실질적으로 바꾸지 못했다. 5개 블록으로 나눠 학습 곡선을 봐도, 중간 결정의 동역학은 감정에 따라 흔들렸지만 장기 성과는 그대로였다.

여러 모델·에이전트·감정 조합에 t-검정을 돌린 결과, 대부분의 실험에서 유의한 차이가 없었다. 연구진의 표현으로는, 순차적 게임에서 LLM 자체가 만들어내는 무작위성이 모델·에이전트 비교를 압도해 감정 유도의 안정적인 평균 효과가 남지 않았다. 사람에게서 관찰되는 “행복은 초반 이득을 가파르게, 슬픔은 완만하게"라는 패턴이 LLM에서는 재현되지 않은 셈이다.

분노의 효과는 조건부다

일반적 패턴이 없었으므로, 연구진은 가장 강하고 집중된 감정인 분노만 따로 들여다봤다. 여기서 세 갈래의 미묘한 효과가 드러났다.

초반 선택이 감정 효과를 좌우한다

블록 1(1~20라운드)은 대체로 편향되거나 우연한 초기 탐색을, 블록 2(21~40라운드)는 초기 피드백을 받은 뒤의 전략 갱신을 담는다. 블록 1 점수가 나쁜(불리한 덱을 많이 고른) 경우, 중립 조건의 에이전트는 블록 2에서 유리한 덱으로 더 잘 회복했지만 분노 조건에서는 덜 회복했다. 모든 모델에서 회귀선 기울기가 양수여서, 분노를 유도한 에이전트는 블록 1 점수와 무관하게 초기 선택을 더 고집하는 경향을 보였다.

다만 이 조절 효과가 통계적으로 유의한 것은 GPT뿐이었다(p = 0.017). Qwen3는 약하게(p = 0.186), Llama는 사실상 없었다(p = 0.653). 정성적으로 보면 GPT는 초기 결과를 뚜렷한 결정 규칙으로 바꾼 뒤 그대로 따르기 때문에, 감정이 그 규칙을 얼마나 고수할지를 쉽게 흔들 수 있었다. 반면 Llama는 안정된 규칙을 만들기보다 최근의 국소적 결과에서 계속 선택을 조정해, 감정 민감도가 약했다(기울기 0.20~0.28).

초기 탐색을 줄이되, 균일하지는 않게

초기 탐색은 첫 10라운드에서 방문한 서로 다른 덱의 수로 쟀다. 분노의 효과는 조합마다 갈렸다.

• Query 에이전트 × Qwen 계열에서 탐색이 가장 강하게 줄었다(Qwen3-4B는 코헨의 d = −0.85, Qwen2.5-7B는 d = −0.87).
• 반대로 더 큰 모델에서는 부호가 뒤집혔다(GPT-oss-20b는 d = +0.33, Llama3.1-8B는 d = +0.56).
• Reflexion과 ReAct는 대체로 작고 음의 효과를 보였다.

전략을 일찍 굳힌다

고착(lock-in)은 같은 덱을 3번 연속 고르기 시작하는 첫 라운드로 정의했다. 값이 낮을수록 고정된 전략에 일찍 갇힌다는 뜻이다.

가장 뚜렷한 사례는 Query × Qwen2.5-7B로, 분노가 고착을 약 11라운드 앞당겼다(d = −1.29, p = 0.0003). 반대로 Query × GPT-oss-20b는 정반대여서, 분노가 오히려 탐색을 늘리고 고착을 늦췄다(d = +0.85). 초기 탐색이 줄어든 조합에서 전략도 일찍 굳는, 방향이 맞아떨어지는 패턴이었다.

한 가지 유보가 여기 붙는다. 이렇게 탐색과 고착이 바뀌어도, 그 변화가 블록 2의 결정 품질로 깨끗하게 이어지지는 않았다. 넷 스코어에 대한 분노의 효과를 보면 어떤 조합에서도 유의한 셀이 없었다.

가장 눈여겨본 것은

내가 곱씹은 대목은 “감정이 성과를 바꾸지 않는다"가 아니라 “감정이 초기 적응의 모양을 모델마다 다르게 바꾼다"는 결론이었다. 같은 분노를 넣어도 GPT는 규칙을 더 굳게 고수하고, Qwen은 탐색을 접고 조기에 갇히며, 큰 모델은 오히려 탐색을 늘렸다. 감정이라는 하나의 입력이 인지 아키텍처를 거치며 정반대 행동으로 갈라지는 장면이다.

그리고 이 논문이 절제하는 방식도 눈에 들어왔다. 분노의 효과를 발견하고도, 그것이 최종 성과로 이어지지 않는다는 반례를 같은 무게로 적어 둔다. 초기 탐색을 줄인다는 발견과, 그 변화가 결정 품질로 번역되지 않는다는 한계가 나란히 놓인다. 무작위성이 평균 효과를 덮어버렸다는 사실 자체를, 결과를 흐리는 잡음이 아니라 보고할 결과로 다룬 태도가 인상적이었다.

한계와 함의

이 연구는 감정 맥락을 게임 시작 전에 한 번 넣고 끝까지 고정하는 통제된 상황을 다뤘다. 감정을 상호작용 이력의 일부로 진화시키는 것, 즉 특정 승리나 패배 뒤에 정서적 기억을 더하거나 지우거나 약화시켜 무엇이 이후의 탐색과 피드백 민감도를 이끄는지 보는 일은 다음 과제로 남겨 뒀다. IGT를 넘어 리스틀리스 밴딧이나 반전 학습으로 틀을 넓히는 방향도 제시했다.

결론의 함의는 안전 평가에 있다. 악의 없는 감정 맥락만으로도 LLM 에이전트의 순차적 결정 행동의 일부가 달라질 수 있다는 것, 그것도 모델에 따라 다른 방향으로 달라진다는 것. 연구진은 이를 조작의 수단이 아니라 평가와 안전 관행을 개선하라는 경보로 제시하며, 정서를 고려한(affect-aware) 안전 평가의 필요를 결론으로 내세웠다.

출처

Minh Khoi Ho, Zihao Zhu, Runchuan Zhu, Levina Li, Zhiwen Fan, Zhangyang Wang, Junyuan Hong. “Can Induced Emotion Bias LLM Behaviors in Sequential Decision Making?” COLM 2026 (arXiv:2607.12631v1, 2026-07-14).

원문: https://arxiv.org/abs/2607.12631 코드: https://github.com/costa-nus/llm-emotion-decision

이 글의 삽화는 원문에 인용할 만한 도판이 벡터·조각 형태라 그대로 옮기기 어려워, 치비 서소영 라인아트로 대신했다. 「느낌적인 느낌을 숫자로 옮기는 일」의 치비 서소영 라인아트를 참조해 gpt-image-2 image-to-image로 생성했다.