여러분, 이런 상상을 해보신 적 있으신가요? "ChatGPT를 테스트하고 싶은데, 수천 명의 사람을 직접 섭외하지 않아도 된다면?"
AI 시스템을 평가하거나 학습시키려면 방대한 양의 사람과의 대화 데이터가 필요합니다. 그런데 실제 사람을 쓰면 비용이 막대하고, 프라이버시 문제도 생기죠. 여기서 등장한 핵심 기술이 바로 '사용자 시뮬레이션 User Simulation'입니다. 즉, AI가 사람처럼 대화하는 '가상 사용자'를 만들어 내는 것이죠.
그런데 최근 LLM(대형 언어 모델)의 등장으로 이 분야가 폭발적으로 성장하고 있습니다. 이번에 소개할 논문은 EACL 2026에 발표된 "A Survey on LLM-based Conversational User Simulation"입니다. Vanderbilt University, Adobe Research, Yale University 등 10개 이상의 기관이 공동으로 집필한 이 서베이 논문은, 뿔뿔이 흩어져 있던 200편 이상의 관련 연구들을 하나의 통합된 프레임워크로 체계화한 기념비적인 작업입니다.
지금부터 이 방대한 논문을 LIMI_Lab이 핵심만 뽑아 쉽고 명쾌하게 정리해 드리겠습니다! 끝까지 읽으시면 이 분야의 전체 지형도가 머릿속에 그려질 것입니다. 🗺️
📄 논문 기본 정보
- 제목: A Survey on LLM-based Conversational User Simulation
- 발표: EACL 2026, Proceedings of the 19th Conference of the European Chapter of the Association for Computational Linguistics, Volume 1: Long Papers, pp. 4266–4301
- 저자: Bo Ni, Leyao Wang, Yu Wang, Branislav Kveton, Franck Dernoncourt 외 다수
- 지원: Adobe Research, NSF (IIS2239881, IIS2524380, IIS2524379)
🔥 왜 지금 이 연구가 중요한가요?
사용자 시뮬레이션은 수십 년의 역사를 가진 분야입니다. 과거에는 Bradley-Terry-Luce 모델(1952)이나 Plackett-Luce 모델(1975) 같은 통계적 모델로 사용자의 선호를 간접적으로 추정하는 방식이었습니다. 협업 필터링, 행렬 분해, 클릭 모델 같은 기술들도 모두 이런 맥락에서 탄생했죠.
하지만 LLM의 등장은 이 모든 것을 바꿔놓았습니다. LLM은 두 가지 혁신적인 변화를 가져옵니다.
- 범용성: 특정 도메인 데이터 없이도 다양한 태스크와 도메인에서 시뮬레이션 가능
- 접근성: 프롬프트 엔지니어링만으로 고품질의 문맥 풍부한 대화 생성 가능
예전에는 추천 시스템 하나를 위한 사용자 시뮬레이터를 만들려면 방대한 도메인 특화 데이터가 필요했습니다. 이제는 LLM에게 "당신은 30대 직장인입니다. 영화를 추천받고 싶어요"라고 프롬프트를 주면 바로 시뮬레이션이 됩니다.
이 논문은 이러한 LLM 기반 대화형 사용자 시뮬레이션이라는 세부 분야를 세계 최초로 체계적으로 정리했다는 점에서 매우 중요합니다.
🗂️ 논문의 핵심 프레임워크: WHO · WHAT · HOW
이 논문의 가장 큰 공헌 중 하나는 대화형 사용자 시뮬레이션 전체를 단 세 가지 질문으로 정리했다는 점입니다.
① WHO (누구를 시뮬레이션하는가?) — 시뮬레이션 대상의 세분화 수준
② WHAT (무엇을 시뮬레이션하는가?) — 상호작용 패턴(대화의 구조)
③ HOW (어떻게 시뮬레이션하는가?) — 기술적 방법론
이 세 축을 기반으로 수백 편의 논문들이 하나의 표(Table 1)로 깔끔하게 정리됩니다. 지금부터 각각을 자세히 살펴보겠습니다.
👤 WHO: 누구를 시뮬레이션하는가?
사용자 시뮬레이션의 첫 번째 핵심 질문입니다. "어느 정도의 세밀함으로 사람을 흉내 낼 것인가?" 이 논문은 이를 4단계 + 하이브리드로 분류합니다.
3.1 일반 사용자 시뮬레이션 (General User Simulation)
가장 추상적인 수준입니다. 특정 개인의 특성 없이, 무작위로 추출한 평균적인 사용자를 흉내 냅니다. ChatGPT처럼 아무런 추가 정보 없이 대화하는 방식이죠.
📦 비유: 마트에서 불특정 다수의 손님에게 인사하는 직원처럼, 특별한 개인 정보 없이 일반적으로 친절하게 대응하는 것입니다.
공식으로 표현하면, 페르소나 $\Psi_p^{default}$는 기본(default)으로 설정된 평균 사용자를 의미합니다. 최근 연구들은 여기서 멀티턴 최적화(M-DPO), 탐색 기반 학습(ETO), 다양한 사용자 시뮬레이션(KAUCUS) 등을 통해 품질을 향상시키고 있습니다.
3.2 페르소나 수준 시뮬레이션 (Persona-level User Simulation)
한 단계 더 구체적입니다. 인구통계학적 속성, 관심사, 말투 등을 명시적으로 정의한 '페르소나'를 기반으로 시뮬레이션합니다.
공식으로는 $\Psi_p = \{\psi_1, \psi_2, \ldots, \psi_m\}$처럼 $m$개의 속성 집합으로 표현됩니다.
📦 비유: "25세, 서울 거주, 게임과 카페를 좋아하는 직장인"처럼 고객 카드를 보고 맞춤 응대하는 것입니다.
여기서 중요한 고려 사항이 있습니다. 페르소나 설정은 공정성과 편향 문제를 야기할 수 있습니다. 특정 인구통계 집단에 대한 고정관념이 시뮬레이션에 반영될 위험이 있으므로, 신뢰할 수 있는 시뮬레이션을 위한 검증이 반드시 필요합니다.
3.3 롤플레이 시뮬레이션 (Role Play Simulation)
실제 또는 가상의 특정 인물을 모방합니다. 페르소나 수준이 "20세 프로그래머"를 흉내 낸다면, 롤플레이는 "20세의 마크 저커버그"처럼 구체적인 인물의 역사적 맥락과 독특한 스타일까지 재현합니다.
수학적으로는 LLM의 잠재 공간에 정체성 임베딩 $I := E_\theta(h) \in \mathcal{M}$을 만들고, 이를 조건으로 대화를 생성합니다: $\Psi_p := p_\theta(y | x, I)$
📦 비유: 배우가 특정 역할을 깊이 연구하여 그 인물처럼 생각하고 말하는 '메소드 연기'와 같습니다.
⚠️ 주요 위험: 캐릭터 환각(Character Hallucination)이 발생할 수 있습니다. 예를 들어, 모차르트 캐릭터에게 프로그래밍 문제를 물어보면 일관성 없는 답변이 나오고, 이것이 탈옥(Jailbreak) 공격에 악용될 수 있습니다(Tang et al., 2025).
3.4 개별 사용자 시뮬레이션 (Individual User Simulation)
가장 세밀한 수준입니다. 실제 특정 사용자의 채팅 로그, 문서, 상호작용 이력 등을 기반으로 그 사람 자체를 시뮬레이션합니다.
$\Psi_p = \mathcal{H}_p$ (개인의 전체 이력)
📦 비유: 당신의 모든 카카오톡 대화와 구매 이력을 학습해서 "당신처럼" 말하는 AI를 만드는 것입니다.
3.5 하이브리드 시뮬레이션 (Hybrid)
위 네 가지 방식은 실제로는 자주 혼합됩니다. GPT-4나 LLaMA 같은 대형 모델은 종종 페르소나와 롤플레이 행동이 자연스럽게 뒤섞여 나타납니다.
💬 WHAT: 무엇을 시뮬레이션하는가?
두 번째 질문은 "어떤 종류의 대화 패턴을 만들 것인가?"입니다. 상호작용 궤적 $\tau = ((u_1, v_1), \ldots, (u_T, v_T))$를 기준으로 4가지로 분류합니다.
4.1 Human–AI 시뮬레이션
사람이 질문하고 AI가 답하는 가장 흔한 패턴입니다. 예: ChatGPT와의 대화, 챗봇 테스트.
Self-Instruct(Wang et al., 2023), WizardLM(Xu et al., 2024) 등이 이 방식으로 합성 데이터를 대규모 생성해 모델을 파인튜닝하는 데 성공했습니다.
4.2 Human–Human 시뮬레이션
두 명의 인간 참여자 간 대화를 흉내 냅니다. PersonaChat(Zhang et al., 2018), EmpatheticDialogues(Rashkin et al., 2019) 등이 대표 데이터셋입니다. 자연스러운 사람 간 대화 패턴을 학습하는 데 유용합니다.
4.3 AI–AI 시뮬레이션
두 AI 에이전트가 사람의 개입 없이 서로 대화합니다. 씨앗 프롬프트 $\mathcal{Q}$ 하나만 주면, 이후부터는 두 AI가 알아서 교대로 대화를 생성합니다.
📦 비유: 두 대의 체스 컴퓨터가 자동으로 게임을 진행하는 것처럼, AI끼리 자율적으로 대화 시뮬레이션을 수행합니다.
Smallville(Park et al., 2023)은 이 방식으로 25명의 AI 에이전트가 가상 마을에서 사회적 행동을 창발적으로 생성한 것으로 유명합니다. CAMEL, AutoGen 같은 멀티에이전트 프레임워크도 여기 속합니다.
4.4 Many-Human–AI 시뮬레이션
여러 인간 사용자와 하나 이상의 AI 에이전트가 공통 목표를 향해 대화하는 구조입니다. 팀 협업 시뮬레이션, 그룹 토의 시뮬레이션이 여기에 해당합니다.
4.5 하이브리드 시뮬레이션
위 패턴들을 혼합합니다. 예컨대, Smallville 환경에서 전체 구조는 AI-AI지만, 개별 대화는 Human-Human처럼 보입니다. 이 하이브리드 방식은 아직 이론화가 부족한 미개척 영역으로, 저자들은 체계적 프레임워크 개발을 촉구합니다.
⚙️ HOW: 어떻게 시뮬레이션하는가?
세 번째이자 가장 기술적인 질문입니다. "어떤 알고리즘으로 가상 대화를 생성할 것인가?" 이 논문은 5가지 방법론을 제시합니다.
5.1 프롬프트 기반 시뮬레이션 (Prompt-Based)
LLM에 프롬프트를 주어 조건부 언어 모델링으로 대화를 생성합니다: $u_t \sim P(C_{t-1}, \Psi_p, \mathcal{P})$
크게 두 가지 트랙으로 나뉩니다.
- 방법 주도(Method-driven): Zero-shot / Few-shot / Chain-of-Thought(CoT) 프롬프팅
- 콘텐츠 주도(Content-driven): 페르소나 프롬프트 / 역할극 프롬프트 / 태스크 특화 프롬프트
📦 비유: 요리사에게 "오늘의 재료는 A, B, C이고, 스타일은 이탈리안으로"라고 지시하면 알아서 요리하는 것처럼, LLM에게 맥락을 주면 알아서 대화를 생성합니다.
CoT는 단계별 추론을 유도해 일관성을 높입니다. DuetSim(Luo et al., 2024)은 생성기-검증기 루프를 통해 대화 목표 일관성을 개선했습니다.
5.2 RAG (검색 증강 생성)
외부 지식을 검색하여 응답에 반영합니다: $u_t \sim P(C_{t-1}, \Psi_p, \mathcal{R}(C_{t-1}, \Psi_p))$
여기서 $\mathcal{R}(\cdot)$은 맥락을 검색하는 함수입니다.
📦 비유: 도서관 사서가 손님의 질문에 답하기 전, 먼저 관련 서적을 찾아보고 그 정보를 바탕으로 대답하는 것입니다.
검색 트리거 방식에 따라 세 가지로 분류됩니다.
- 항상-켜짐(Always-on): 매 턴마다 검색 (예: KAUCUS-SRAG)
- 적응형(Adaptive): 필요할 때만 검색 (예: RAGate — 학습된 분류기로 검색 필요 여부 판단)
- 목표/상태 기반(Goal/State-driven): 내부 사용자 메모리 기반 검색 (예: CSHI)
5.3 파인튜닝 (Fine-tuning)
대화 데이터셋으로 LLM의 파라미터를 직접 업데이트합니다.
학습 목표: $\Theta' = \arg\max_\Theta \mathcal{L}_{FT}(\Theta; \mathcal{D})$
여기서 $\mathcal{L}_{FT}$는 일반적으로 예측 발화와 실제 발화 간의 크로스 엔트로피 손실입니다.
세 가지 전략으로 분류됩니다.
- 전체 모델 지도 학습: 모든 파라미터를 도메인 내 데이터로 재학습 (예: DAUS, SoulChat, MuPaS)
- 파라미터 효율적 방법: 어댑터(LoRA) 등 경량 모듈만 업데이트 (예: ESC-Role, BiPO)
- 상호작용 기반 / Self-play: 대화 피드백으로 시뮬레이터를 점진적으로 개선 (예: UGRO, PlatoLM)
5.4 강화학습 / DPO
멀티턴 상호작용에서 보상을 최대화하는 정책을 학습합니다.
$u_t \sim P(C_{t-1}, \Psi_p, \pi_\theta)$, 여기서 $\pi_\theta = \arg\max_\theta \mathbb{E}[R(\tau)]$
📦 비유: 영업 사원이 고객과의 수많은 대화 경험을 통해 "어떤 말을 하면 계약이 성사되는지" 점차 체득하는 것처럼, AI가 보상 신호로부터 최적 대화 전략을 학습합니다.
주요 연구들을 살펴봅니다.
- 개인화: 호기심 기반 RLHF로 잠재적 사용자 특성 식별 (Wan et al., 2025)
- 메모리: DPO 기반 메모리 선택기로 사실적 일관성 최적화 (Seo et al., 2024)
- 장기 계획: ArCHer — 발화 수준(고수준)과 토큰 수준(저수준)을 계층적 RL로 최적화 (Zhou et al., 2024)
- 오프라인 학습: 힌드사이트 재생성으로 비최적 발화를 소급 수정 (Hong et al., 2024)
5.5 하이브리드 접근법
위 방법들을 조합합니다. 예를 들어 RAG + Fine-tuning + RL/DPO를 모두 결합한 파이프라인이 여기 해당합니다. 최첨단 개인화 시뮬레이터들은 대개 ①프롬프트(입력), ②경량 파인튜닝(모델), ③RL/DPO(목표) 세 계층을 모두 활용하는 '3계층 스택'을 채택합니다.
📊 어떻게 평가하나요?
좋은 시뮬레이터를 만들었다면, 그게 정말 좋은지 어떻게 알 수 있을까요? 이 논문은 세 가지 평가 방법을 정리합니다.
전통적 지표
BLEU, ROUGE 같은 n-그램 겹침 지표나 슬롯-F1이 구조적·목표 지향 대화에서 아직 쓰입니다. 빠르고 재현 가능하지만, 인간 판단과의 상관관계가 낮다는 한계가 있습니다.
인간 평가 (Human Evaluation)
여전히 황금 표준(gold standard)입니다. 자연스러움, 일관성, 목표 달성도 같은 항목을 리커트 척도로 평가하거나, A/B 테스트로 비교합니다. 비용이 크고 재현이 어렵다는 단점이 있습니다.
LLM-as-Judge
강력한 LLM을 자동 평가자로 사용하는 새로운 패러다임입니다. 평가 절차는 세 단계로 구성됩니다.
- 평가 차원과 척도 정의 (예: 1~5점 리커트)
- 판사 LLM 보정을 위한 Few-shot 예시 제공
- 최종 점수 전 추론 설명 요청
⚠️ LLM-as-Judge는 프롬프트 표현 방식과 모델 편향에 민감합니다. 이를 완화하기 위해 대칭 프롬프팅, 앙상블 투표, 인간 평가와의 메타 평가 비교가 제안되고 있습니다.
또한 최근에는 신뢰성(Trustworthy) 평가와 인과/오프라인 평가가 주목받고 있습니다. 단순 출력 품질을 넘어, 불확실성 하에서의 신뢰성, 분포 변화에 대한 견고성, 다양한 사용자 프로필에 걸친 일반화 능력을 평가합니다.
🚀 실제로 어디에 쓰이나요?
대화형 사용자 시뮬레이션은 놀랍도록 다양한 분야에 적용됩니다.
- 🛍️ 대화형 추천 시스템: 실제 사용자 없이 추천 시스템을 평가하고 최적화합니다. CSHI(Zhu et al., 2025)는 사용자 선호 메모리를 유지하며 개인화된 추천 대화를 시뮬레이션합니다.
- 🎓 교육: 학생 시뮬레이터로 교사 연습용 플랫폼을 만들거나, AI 튜터를 평가합니다. TutorUp(Pan et al., 2025)은 다양한 학생 프로파일을 시뮬레이션해 온라인 교사 교육에 활용했습니다.
- 💻 HCI / UI 테스트: 실제 사용자 테스트 없이 인터페이스 프로토타입을 검증할 수 있습니다. 디자이너 대 사용자 연구원 비율이 5:1에 달하는 현실에서, 시뮬레이션은 리소스 절약의 핵심 수단입니다.
- 🎬 비디오 이해: VideoAutoArena(Luo et al., 2025)는 영상 내용에 대한 적응형 질문을 생성해 멀티모달 모델을 평가하는 데 대화형 시뮬레이션을 활용했습니다.
- 📈 데이터 증강: 레이블이 부족한 상황에서 합성 대화 데이터를 대규모 생성해 모델 학습을 강화합니다.
🔭 아직 해결되지 않은 과제들
이 논문은 솔직하게 현재의 한계도 정리합니다.
- 📏 긴 대화의 일관성: 롤플레이나 장기 대화에서 페르소나가 흔들리거나 모순이 생기는 '페르소나 드리프트(persona drift)' 문제가 있습니다. 더 나은 메모리 메커니즘과 담론 계획이 필요합니다.
- 🌏 다양성 부족: 시뮬레이터는 종종 문화적·언어적 다수를 반영해 지나치게 예의 바르고 균일한 행동을 보입니다. 감정, 말투, 전략 같은 특성에 대한 세밀한 제어가 필요합니다.
- ⚠️ 편향과 독성 콘텐츠: 민감한 인구통계나 공인을 다루는 페르소나는 편향과 독성 콘텐츠 생성 위험이 있습니다. 강력한 안전 프로토콜이 아직 부재합니다.
- 📊 평가 표준화: 연구마다 평가 방법이 달라 직접 비교가 어렵습니다. 표준화된 다계층 평가 파이프라인 개발이 시급합니다.
- 🔒 개인 정보 보호: 개별 사용자 시뮬레이션은 실제 개인 데이터를 필요로 하기에 차등 프라이버시, 연합 학습 같은 기술과의 결합이 필요합니다.
✅ 3줄 핵심 요약
- 1. LLM은 '누구(WHO) · 무엇을(WHAT) · 어떻게(HOW)'라는 통합 프레임워크 아래, 일반 사용자부터 특정 개인까지 다양한 수준에서 사람의 대화를 고품질로 시뮬레이션할 수 있는 강력한 도구가 되었습니다.
- 2. 프롬프트 기반·RAG·파인튜닝·RL/DPO·하이브리드라는 5가지 기술 방법론은 각각의 트레이드오프가 있으며, 최첨단 시스템은 이를 모두 조합하는 3계층 스택을 활용하고 있습니다.
- 3. 장기 일관성, 다양성, 편향·독성, 평가 표준화, 프라이버시라는 5대 미해결 과제가 이 분야의 다음 연구 방향을 결정할 것입니다.
💡 LIMI_Lab의 한마디
이 논문을 읽으면서 제가 가장 인상 깊었던 부분은, 단순히 기술을 나열한 서베이를 넘어 윤리적 고려를 논문의 중심에 놓았다는 점입니다. 공인을 롤플레이할 때의 명예훼손 위험, 페르소나 기반 시뮬레이션에서의 고정관념 강화, 합성 데이터의 출처 투명성 문제를 명확히 짚어냅니다.
개인적으로는 Many-Human–AI 시뮬레이션 영역이 가장 미개척이면서도 잠재력이 크다고 봅니다. 회의실, 교실, 팀 프로젝트처럼 실제 우리 삶의 대부분은 '여러 사람과 AI'가 함께하는 구조이기 때문입니다. 이 분야가 성숙한다면, 조직 시뮬레이션, 사회과학 연구, 정책 결정 지원 등 엄청난 파급 효과가 예상됩니다.
입문자라면 Section 3(WHO)와 Section 5(HOW)의 프롬프트 기반 시뮬레이션부터 공부하시길 권합니다. 실무 엔지니어라면 RAGate, PlatoLM, ArCHer 세 논문을 먼저 읽어보세요. 연구자라면 Section 9의 Open Problems에서 논문 아이디어를 얻으실 수 있을 것입니다.
AI가 점점 더 사람처럼 대화하는 시대, 이제는 AI가 사람을 시뮬레이션하는 시대가 열리고 있습니다. 이 서베이는 그 문을 여는 지도입니다. 🗺️
🏷️ 태그
#LLM #사용자시뮬레이션 #UserSimulation #대화형AI #ConversationalAI #EACL2026 #자연어처리 #NLP #RAG #강화학습 #페르소나AI #AI논문리뷰 #LIMI_Lab #생성AI
