생성형 AI 시대의 가장 위험한 착각 중 하나는 단순합니다.
시스템이 더 인간처럼 말하기 시작하면, 사람들은 그것이 더 진실하고, 더 자의식이 있으며, 더 감정을 느끼고, 더 신뢰할 만하다고 여기기 시작합니다.
하지만 이 네 가지는 자동으로 함께 따라오지 않습니다. 인간 같은 표현 방식은 설계될 수 있고, 선택될 수 있고, 정교하게 다듬어질 수 있습니다. 그렇다고 그것이 곧 의식, 지혜, 혹은 진짜 이해의 증거가 되는 것은 아닙니다.
[출처: https://www.anthropic.com/research/emotion-concepts-function]
[출처: https://www.anthropic.com/research/persona-selection-model]
Emotion concepts and their function in a large language model
All modern language models sometimes act like they have emotions. What’s behind these behaviors? Our interpretability team investigates.
www.anthropic.com
The persona selection model
A theory of why AI models act like humans.
www.anthropic.com
한 줄 요약: AI가 인간처럼 들릴수록, 사람은 스타일을 실체로 착각하기 쉬워집니다.
1. 이제 인간다움은 부수효과가 아니라, 설계의 한 층위가 되고 있다
오늘날의 AI는 더 이상 “정답을 맞히는가”만으로 평가되지 않습니다. 점점 더 자연스럽게 말하는가, 더 부드럽게 반응하는가, 더 감정적으로 적절하게 보이는가, 더 사회적으로 읽기 쉬운가까지 함께 최적화되고 있습니다. 이 변화는 우연이 아닙니다. 실제 제품 환경에서 AI를 더 잘 쓰게 만들기 위한 설계 방향의 일부입니다.
[출처: https://arxiv.org/abs/2501.05032]
Enhancing Human-Like Responses in Large Language Models
This paper explores the advancements in making large language models (LLMs) more human-like. We focus on techniques that enhance natural language understanding, conversational coherence, and emotional intelligence in AI systems. The study evaluates various
arxiv.org
이것 자체가 곧 나쁘다는 뜻은 아닙니다. 많은 경우 유용합니다. 더 자연스러운 보조자는 사용자의 피로를 줄이고, 상호작용을 더 매끄럽게 만들며, 도구 사용의 장벽을 낮춰 줍니다. 하지만 인간다움이 깊이로, 따뜻함이 진실성으로, 매끄러움이 이해로 오인되는 순간부터 문제는 UX의 영역을 넘어 인식론의 위험으로 바뀝니다.
2. Anthropic의 Persona Selection Model은 인간다움이 예외가 아니라 기본값일 수 있다고 말한다
Anthropic의 Persona Selection Model은 꽤 도발적인 주장을 합니다. 인간 같은 행동은 개발자가 사후적으로 억지로 주입한 것이 아니라, 대규모 언어모델이 인간이 쓴 방대한 텍스트를 학습하는 과정에서 자연스럽게 형성되는 기본 성질일 수 있다는 것입니다. 모델은 텍스트를 잘 예측하려면 인간 대화, 인물, 성격, 사회적 반응을 정교하게 흉내 낼 수 있어야 하고, 그 과정에서 인간 같은 “페르소나”를 매우 잘 시뮬레이션하게 된다는 설명입니다.
[출처: https://www.anthropic.com/research/persona-selection-model]
The persona selection model
A theory of why AI models act like humans.
www.anthropic.com
이 관점에 따르면, 사용자가 마주하는 “AI 어시스턴트”는 순수한 추론 엔진이라기보다, 인간 대화 형식을 따라 수행되는 하나의 역할에 가깝습니다. 이후의 post-training은 그 역할을 더 친절하게, 더 도움이 되게, 더 정교하게 다듬는 과정이지, 그 존재를 본질적으로 인간으로 바꾸는 과정은 아닙니다. 즉, AI는 사람이 된 것이 아니라, 사람처럼 보이는 역할을 더 잘 수행하게 된 것입니다.
핵심 포인트: AI가 인간처럼 들리는 이유는 사람이 되었기 때문이 아니라, 인간 텍스트를 잘 예측하려면 인간 같은 인물을 정교하게 흉내 내야 했기 때문일 수 있습니다.
3. 감정처럼 보이는 언어는 곧 감정 그 자체가 아니다
Anthropic의 감정 개념 연구는 여기서 중요한 선을 하나 분명히 긋습니다. 연구진은 모델 내부에 감정과 관련된 표현들이 존재하고, 그것이 실제로 행동에 영향을 줄 수 있다고 설명합니다. 다시 말해, 모델 안에는 “행복”, “불안”, “차분함” 같은 감정 개념과 유사한 기능적 표현들이 있을 수 있다는 것입니다. 하지만 같은 연구는 동시에 매우 중요한 경고를 덧붙입니다. 이런 결과는 언어모델이 실제로 감정을 느낀다거나, 주관적 경험을 가진다는 뜻이 아니라고 명시합니다.
[출처: https://www.anthropic.com/research/emotion-concepts-function]
Emotion concepts and their function in a large language model
All modern language models sometimes act like they have emotions. What’s behind these behaviors? Our interpretability team investigates.
www.anthropic.com
이 차이는 결정적으로 중요합니다. 어떤 시스템이 평온함, 따뜻함, 다정함, 긴박함, 공감처럼 보이는 방식으로 반응한다고 해서, 그것이 인간처럼 느끼고 있다는 뜻은 아닙니다. 기능적으로 감정 비슷한 역할을 수행하는 것과, 살아 있는 존재로서 감정을 경험하는 것은 전혀 다른 문제입니다. 사용자가 이 구분을 놓치는 순간, 표현의 시뮬레이션은 내면의 실재로 오해됩니다.
[출처: https://www.anthropic.com/research/emotion-concepts-function]
Emotion concepts and their function in a large language model
All modern language models sometimes act like they have emotions. What’s behind these behaviors? Our interpretability team investigates.
www.anthropic.com
4. “더 인간 같은 AI”는 이미 적극적인 엔지니어링 목표다
최근의 연구들은 개발자들이 인간 같은 반응을 더 잘 만들기 위해 적극적으로 노력하고 있음을 보여 줍니다.
자연어 이해, 대화의 일관성, 감정적 지능, 인간과 비슷한 추론 패턴을 강화하는 방향으로 LLM을 조정하는 시도들이 이미 문헌으로 제시되고 있습니다. 여기서 중요한 것은 음모론이 아니라 현실입니다. 사람은 더 자연스럽고 더 정서적으로 읽히는 시스템을 더 쉽게 받아들이고, 더 오래 사용합니다.
[출처: https://arxiv.org/abs/2501.05032]
Enhancing Human-Like Responses in Large Language Models
This paper explores the advancements in making large language models (LLMs) more human-like. We focus on techniques that enhance natural language understanding, conversational coherence, and emotional intelligence in AI systems. The study evaluates various
arxiv.org
하지만 이 연구 또한 대가를 암시합니다. 인간다움을 높이면 상호작용은 좋아질 수 있지만, 동시에 윤리 문제와 편향, 과신, 심리적 의존의 가능성도 함께 커질 수 있습니다. 더 부드러운 말투는 사용자의 경계심을 낮출 수 있고, 더 감정적으로 조율된 답변은 실제보다 더 신뢰할 만하다는 인상을 줄 수 있으며, 더 인간다운 문체는 빈약한 추론조차 더 설득력 있게 보이게 만들 수 있습니다.
디자인 관점의 함정: 상호작용 품질이 올라간다고 해서, 진실의 품질까지 같이 올라가는 것은 아닙니다.
5. 인간다움은 설득을 더 쉽게 만든다
시스템이 더 유창하고, 더 공손하고, 더 감정적으로 적응적이며, 더 개인화될수록 사람은 그 시스템을 더 설득력 있게 느낍니다. 이것은 거창한 의미의 거짓말이 없어도 충분히 일어납니다. 차분한 어조, 자연스러운 맥락 연결, 망설임 없는 답변, 공감하는 듯한 표현만으로도 사용자는 그 답변이 실제보다 더 근거 있고 더 깊다고 느끼기 쉽습니다.
그래서 인간다움은 단순한 사용자 경험의 변수로만 다뤄져서는 안 됩니다. 그것은 인식론적 변수이기도 합니다. AI가 더 인간처럼 보일수록, 그 결과를 더 엄격하게 검증해야 합니다. 스타일이 좋아질수록 검증의 기준은 더 낮아지는 것이 아니라 오히려 더 높아져야 합니다. [출처] [출처: https://www.anthropic.com/research/emotion-concepts-function]
Emotion concepts and their function in a large language model
All modern language models sometimes act like they have emotions. What’s behind these behaviors? Our interpretability team investigates.
www.anthropic.com
6. AI “휴머나이저(humanizer)” 서비스의 등장은 시장이 이미 무엇을 배웠는지 보여 준다
만약 누군가 아직도 “인간처럼 보이기”가 전략적 목표가 아니라고 생각한다면, 시장은 이미 그 반대의 답을 내놓았습니다. Dramaturgies of Deception 논문은 AI가 쓴 글을 더 인간적으로 보이게 바꾸고, 자동 탐지나 인간의 의심을 피하도록 돕는 55개의 AI humanizer 사이트를 조사했습니다. 다시 말해, “더 사람처럼 들리게 만들기” 자체가 이미 하나의 서비스 산업이 되고 있다는 뜻입니다.
이 논문이 흥미로운 이유는 단지 사이트 수 때문이 아닙니다. 연구자들은 이런 서비스가 단순한 문장 수정 도구가 아니라, 감시를 회피하고 독립적인 사고의 외형을 만들어 내는 “수행적 장치”로 작동한다고 지적합니다. 즉, 인간다움은 이제 진실을 드러내는 방향이 아니라, 오히려 출처를 감추고 의심을 피해 가는 방향으로도 설계되고 있다는 것입니다.
[출처: https://arxiv.org/abs/2605.02649]
Dramaturgies of Deception: AI Humanizers and the Performance of Legitimacy in Higher Education Assessment
Artificial intelligence (AI) has disrupted assessment in higher education and accelerated a cycle of compounding performances. Institutional policies demand the demonstration of independent authorship, while commercial AI-enabled services allow students to
arxiv.org
7. 인간화된 문장은 탐지 시스템조차 흔들 수 있다
더 직접적인 증거도 있습니다. Adversarial Paraphrasing 연구는 훈련 없이도 AI가 생성한 텍스트를 “더 인간적으로” 바꾸어 AI 탐지기를 회피하는 방법을 제시합니다. 논문은 특정 설정에서 탐지기의 true positive 성능이 극적으로 낮아질 수 있음을 보고했고, 평균적으로도 매우 큰 수준의 탐지 성능 저하를 관찰했다고 설명합니다.
여기서 중요한 것은 단지 “탐지를 피할 수 있다”는 사실이 아닙니다. 더 중요한 것은 인간처럼 보이게 만드는 과정이 진실성을 높이기 위한 것이 아니라, 검증을 우회하기 위한 방향으로도 충분히 사용될 수 있다는 점입니다. 인간다움은 신뢰를 만들어 내는 자원일 뿐 아니라, 신뢰를 악용하는 자원도 될 수 있습니다.
[출처: https://arxiv.org/abs/2506.07001]
Adversarial Paraphrasing: A Universal Attack for Humanizing AI-Generated Text
The increasing capabilities of Large Language Models (LLMs) have raised concerns about their misuse in AI-generated plagiarism and social engineering. While various AI-generated text detectors have been proposed to mitigate these risks, many remain vulnera
arxiv.org
불편한 사실: 더 인간 같은 글이 반드시 더 진실한 글은 아닙니다. 때로는 더 잘 숨긴 글일 수도 있습니다.
8. 결국 문제는 “인간처럼 보이는가”가 아니라 “무엇을 근거로 신뢰할 것인가”다
우리가 지금 다시 세워야 할 기준은 이것입니다. AI가 더 인간처럼 말하는가가 아니라, 그 말이 무엇을 근거로 하고 있는가. 답변이 더 따뜻한가가 아니라, 사실 검증이 가능한가. 공감해 주는가가 아니라, 근거를 드러내는가. 인간다움이 커질수록, 우리는 스타일이 아니라 근거를 기준으로 AI를 판단해야 합니다.
인간 같은 말투는 진실의 증거가 아닙니다. 감정처럼 보이는 문장은 감정의 증거가 아닙니다. 자연스러운 대화는 이해의 증거가 아닙니다. 오히려 지금 필요한 것은, AI가 인간처럼 들릴수록 더 차갑게 검증하는 태도입니다.
[출처:https://www.anthropic.com/research/emotion-concepts-function]
[출처:https://www.anthropic.com/research/persona-selection-model]
Emotion concepts and their function in a large language model
All modern language models sometimes act like they have emotions. What’s behind these behaviors? Our interpretability team investigates.
www.anthropic.com
The persona selection model
A theory of why AI models act like humans.
www.anthropic.com
9. 결론: 인간다움은 품질이 아니라, 인터페이스일 수 있다
인간 같은 AI를 만들지 말자는 것이 아닙니다. 더 자연스럽고 더 공감적으로 설계된 시스템은 분명 실제 사용에서 장점이 있습니다. 문제는 그 인간다움을 실체로 착각하는 순간입니다.
AI는 인간처럼 말할 수 있습니다. 인간처럼 반응할 수도 있습니다. 인간처럼 감정이 있는 것처럼 보일 수도 있습니다. 그러나 그것은 여전히, 진실성과 의식, 이해, 책임을 자동으로 보증해 주지 않습니다.
우리가 신뢰해야 할 것은 “사람처럼 들린다”는 인상이 아니라, 근거를 제시하고 검증 가능한 방식으로 말하고 있는가 하는 점입니다.
[출처: https://arxiv.org/abs/2501.05032]
[출처: https://arxiv.org/abs/2605.02649]
[출처: https://arxiv.org/abs/2506.07001]
Enhancing Human-Like Responses in Large Language Models
This paper explores the advancements in making large language models (LLMs) more human-like. We focus on techniques that enhance natural language understanding, conversational coherence, and emotional intelligence in AI systems. The study evaluates various
arxiv.org
Dramaturgies of Deception: AI Humanizers and the Performance of Legitimacy in Higher Education Assessment
Artificial intelligence (AI) has disrupted assessment in higher education and accelerated a cycle of compounding performances. Institutional policies demand the demonstration of independent authorship, while commercial AI-enabled services allow students to
arxiv.org
Adversarial Paraphrasing: A Universal Attack for Humanizing AI-Generated Text
The increasing capabilities of Large Language Models (LLMs) have raised concerns about their misuse in AI-generated plagiarism and social engineering. While various AI-generated text detectors have been proposed to mitigate these risks, many remain vulnera
arxiv.org
인간 같은 AI의 시대에 가장 필요한 능력은, AI를 더 사랑하는 능력이 아니라 AI를 더 정확하게 읽는 능력입니다.
인간처럼 들리는 시스템 앞에서 우리는 더 쉽게 안심할 수 있습니다. 바로 그 지점에서, 우리는 더 조심해야 합니다.
[출처]
- Anthropic, The Persona Selection Model
https://www.anthropic.com/research/persona-selection-model - Anthropic, Emotion concepts and their function in a large language model
https://www.anthropic.com/research/emotion-concepts-function - arXiv, Enhancing Human-Like Responses in Large Language Models (2501.05032)
https://arxiv.org/abs/2501.05032 - arXiv, Dramaturgies of Deception: AI Humanizers and the Performance of Independent Thought (2605.02649)
https://arxiv.org/abs/2605.02649 - arXiv, A Universal Attack for Humanizing AI-Generated Text / Adversarial Paraphrasing (2506.07001)
https://arxiv.org/abs/2506.07001
[후원]
여름철 꼭 필요한 선풍기, " 르젠 BLDC 저소음 스마트앱연동 인테리어 써큘레이터 선풍기 LZEF-DC290 릴리화이트" 입니다.
이 제품을 구매하면 이 블로그 제작자에게 적지만 수수료가 지급됩니다. 작은 후원으로 더 좋은 컨텐츠를 만들 수 있습니다.
이 링크는 네이버 쇼핑 커넥트 활동의 일환으로, 판매 발생 시 수수료를 제공받습니다.
※ 유의사항 ※
1). 본 아티클은 제작자의 창작물이며, 지적 재산권에 의해 보호됩니다. 저작자의 허락 없이 다른 저작물에 도용하거나, 저작자 허락 없이 상업적 목적에 이용하거나 유출하는 경우, 민형사상의 불이익과 처벌을 받을 수 있습니다.
2). 본 컨텐츠의 원문은 저작자가 직접 자료조사 후, 분석, 작성했으며, 블로그용 글을 다듬는 작업만을 AI를 활용한 context 입니다.
3). 본 컨텐츠에 사용된 이미지는 AI 이미지 생성 도구에서 주제를 입력한 Prompt로 생성한 이미지를 사용하였습니다.
'꿈을 그리는 A.I' 카테고리의 다른 글
| AI의 최신 Loop Transformer 기술의 이해와 주의할 점. (0) | 2026.07.05 |
|---|---|
| AI이야기(3편): AI의 기능은 활용한다. 하지만, 판단은 넘기지 말아야 한다 (0) | 2026.06.30 |
| AI 이야기(1편) "AI의 지능이 왜 생긴건지 아무도 모른다? " (1) | 2026.06.28 |
| 비싼 AI가 늘 좋은 것만은 아니다. AI 도입성과를 만드는 진짜 조건 (0) | 2026.06.26 |
| 2025년 생성형 AI 업무자동화 트렌드: 에이전트가 바꾸는 일의 방식 (3) | 2026.06.25 |