연세대 인공지능융합대학 여진영 교수 연구팀의 강동진, 김성환 학생의 논문 "Can Large Language Models be Good Emotional Supporter? Mitigating Preference Bias on Emotional Support Conversation"이 인공지능 및 자연어처리 분야 최고 권위의 국제 학술지인 ACL 2024에서 Outstanding Paper로 선정되었다. 이는 전체 제출 논문 중 상위 1%에 해당하는 뛰어난 성과이다.

이번 연구는 유영재 교수와 이동하 교수와 공동연구로 진행되었으며, 초거대언어모델(LLM)이 인간처럼 타인에게 정서적인 지지를 제공할 수 있는지에 대한 질문에서 출발했다. 연구팀은 LLM이 답변을 생성하는 과정에서 발생하는 선호 편향을 심도 있게 분석하고, 이러한 편향이 초래할 수 있는 문제점을 조명하며 해결 방안을 모색하였다. 본 연구는 현재 LLM의 문제점을 드러내는 동시에, 향후 발전 방향을 제시한다는 점에서 중요한 의미를 갖는다.

“Can Large Language Models be Good Emotional Supporter? Mitigating Preference Bias on Emotional Support Conversation”, {Dongjin Kang, Sunghwan Kim}, Taeyoon Kwon, Seungjun Moon, Hyunsouk Cho, Youngjae Yu, Dongha Lee, Jinyoung Yeo, ACL 2024, Outstanding Paper Award

Link: : https://arxiv.org/abs/2402.13211