왼쪽부터 시계방향으로 강미경·정애천·장은채·김민석 학생, 샴 슌다르·홍성은·최윤석·한진영 교수. 사진=성균관대 신뢰가능한인공지능연구단 제공

 

[대학저널 임춘성 기자] 성균관대학교 신뢰가능한인공지능연구단(Pioneer Research Group for Socially Responsible AI, 연구책임자 한진영 교수)이 학생 참여형 연구 프로그램 ‘Bias-A-Thon’을 기반으로 발전시킨 연구가 자연어처리 및 인공지능(AI) 분야의 국제학술대회인 ‘2026 Conference on Empirical Methods in Natural Language Processing(EMNLP 2026) Findings’에 채택됐다.

연구단에 따르면 이번에 채택된 논문은 ‘SCENE: A Scenario Completion Benchmark for Measuring Social Bias in Large Language Models’로 대규모 언어모델(LLM)이 다양한 사회적 상황과 맥락에서 나타내는 사회적 편향(Social Bias)을 체계적으로 측정·평가하기 위한 내용을 담고 있다.

EMNLP는 자연어처리(NLP)와 AI 분야의 주요 국제학술대회 중 하나다. 연구단은 이번 논문 채택 사례에 대해 그동안 추진해 온 AI 연구 및 국제 공동연구 성과가 학술적으로 인정받았다는 점에서 의미가 있다고 설명했다.

이번 연구는 연구단이 지난해 개최한 ‘Bias-A-Thon’에서 출발했다. Bias-A-Thon은 기존 해커톤 방식을 인공지능의 사회적 편향 문제에 접목한 학생 참여형 연구 프로그램이다. 특히 참가 학생들이 대규모 언어모델에서 나타날 수 있는 다양한 사회적 편향을 탐색하고 이를 연구에 활용할 수 있는 데이터로 구축하도록 기획됐다.

성균관대와 펜실베니아 주립대학교(The Pennsylvania State University, Penn State) 학생들은 프로그램을 통해 여러 사회적 상황과 맥락에서 발생할 수 있는 편향 사례를 발굴했다. 연구진은 이후 학생들이 구축한 데이터를 체계화하고 분석해 대규모 언어모델의 사회적 편향을 측정할 수 있는 벤치마크 모델로 발전시켰다.

해당 모델은 대규모 언어모델이 다양한 사회적 상황과 맥락을 직접 완성하는 과정에서 어떠한 편향을 보이는지 여부를 평가하도록 설계됐다. 이를 통해 실제 생성형 AI 활용 환경에서 나타날 수 있는 복합적이고 맥락적인 사회적 편향을 분석하는 것이 목표다.

이번 연구에는 한진영 연구책임자를 비롯해 최윤석 교수, 홍성은 교수, Penn State 교수이자 성균관대 석학교수인 S. Shyam Sundar 교수가 참여했다. 아울러 성균관대 강미경, 정애천, 김민석 학생과 Penn State의 Eunchae Jang 학생도 함께 연구에 참여해 한·미 공동연구 성과를 만들어냈다.

특히 학생 참여형 프로그램에서 구축한 데이터가 한·미 연구진의 후속 공동연구를 거쳐 국제학술대회 논문으로 발전했다는 점에서 의미가 있다. 과학기술정보통신부와 정보통신기획평가원(IITP)의 해외석학유치지원사업을 바탕으로 구축한 국내외 교수진 및 학생 간 연구·교류 환경이 실질적인 연구 성과로 이어진 사례이기도 하다.

한진영 연구단 연구책임자는 “Bias-A-Thon은 학생들이 인공지능의 사회적 편향이라는 문제를 직접 탐색하고 실제 연구 데이터 구축 과정에 참여할 수 있도록 기획한 프로그램”이라며 “성균관대와 Penn State 학생 및 연구진이 함께 만든 결과가 후속 공동연구를 거쳐 EMNLP 2026 Findings에 논문으로 채택돼 더욱 뜻깊다”고 말했다.

이어 “학생들이 국제 연구진과 함께 연구 문제를 발굴하고 데이터를 구축하는 것을 넘어 세계적인 학술 무대에서 연구 성과로 발전시키는 경험까지 할 수 있었다”며 “앞으로도 해외 연구진과의 공동연구와 학생 교류를 확대하고 신뢰할 수 있고 사회적으로 책임 있는 인공지능 분야의 연구 성과를 지속적으로 만들어 나갈 것"이라고 전했다.

한편, 연구단은 과학기술정보통신부와 정보통신기획평가원(IITP)이 지원하는 해외석학유치지원사업의 일환으로 운영되고 있다. 특히 해외 우수 연구자와 국내 연구진 간 공동연구와 인재 교류를 통해 사회적으로 책임 있고 신뢰할 수 있는 AI 기술 개발을 추진 중이다.

 

[ⓒ 대학저널. 무단전재-재배포 금지]