[메가경제=양대선 기자] 풀스택 AI 전문기업 솔트룩스가 주관하는 생성 AI 사회·윤리성 연구 컨소시엄이 주요 국제학회 논문 게재·채택과 국제 경진대회 상위권 입상 등 연구 성과를 확보했다고 9일 밝혔다.

 

▲ 솔트룩스 로고
이번 성과는 차세대 생성 AI 기술개발 사업의 일환으로 추진하고 있는 ‘사회적·윤리적 학습을 위한 데이터 특성 및 생성 AI 모델의 윤리성 향상 연구’ 프로젝트의 3차년도 연구 결과다. 해당 연구는 2026년도 정부(과학기술정보통신부)의 재원으로 정보통신기획평가원(IITP)의 지원을 받아 수행됐다. 컨소시엄은 생성 AI의 신뢰성과 안전성을 높이기 위해 데이터 구축·검증부터 모델 학습·평가, 사회·문화적 편향 분석과 서비스 적용까지 아우르는 공동 연구를 진행하고 있다.

컨소시엄에는 주관기관인 솔트룩스를 비롯해 KT, 다이퀘스트, 한국전자기술연구원(KETI), KAIST, 서울대학교, 성균관대학교, 건국대학교, 서강대학교 등 총 9개 기관이 참여한다. 산업계의 AI 개발·서비스 경험과 학계·연구계의 전문성을 결합해 생성 AI의 기술적 성능과 사회·윤리적 책임성을 함께 높이는 데 주력하고 있다.

KAIST는 언어모델의 가치 최적화 연구를 ICLR 2026에, 인간 피드백 기반 강화학습 기법과 안전한 이미지 생성을 위한 확산모델 연구를 각각 ICML 2026에 게재했다. 다중 AI 에이전트의 문맥 할당과 모델 동작을 보존하는 캐시 압축 연구 2편은 EMNLP 2026 본회의에 채택됐으며, 모바일 AI 에이전트의 앱 간 일반화 한계를 분석한 연구는 Findings of EMNLP 2026에 채택됐다. 이를 통해 ICLR·ICML 게재 3편, EMNLP 본회의 채택 2편, Findings 채택 1편의 성과를 확보했다.

서울대학교는 AI의 공정성과 설명 가능성을 평가하기 위한 철학적 토대를 연구했다. 기계학습 공정성에서 기회균등을 넘어 평등의 의미를 탐구한 논문이 ACM Journal on Responsible Computing에 게재됐으며, AI 모델의 불투명성과 설명의 한계를 다룬 논문은 Philosophy of Science에 게재가 확정됐다. 이러한 연구는 생성 AI의 사회·윤리성을 판단하는 기준과 평가 체계를 정립하는 데 기여한다.

건국대학교는 국제 자연어처리 경진대회 ‘SemEval-2026 Task 7’에서 단답형(SAQ) 부문 세계 2위, 객관식(MCQ) 부문 세계 4위를 기록했다. 김학수 교수 연구실의 ‘K-NLPers’ 팀은 대륙·국가별 문화적 특성에 강점을 가진 여러 언어모델이 답변을 생성하고 상호 토론·검증하는 시스템을 개발했다. 총 62개 팀이 결과물을 제출한 이번 과제에서 다양한 언어·문화권의 일상 지식을 이해하는 기술력을 보였으며, 해당 연구는 SemEval-2026 논문집에도 게재됐다.

한국전자기술연구원은 한국어 환경에 특화된 생성 AI 안전성 평가 연구를 진행했다. 다양한 메타데이터 조건을 반영해 언어모델의 안전성을 다단계로 평가하는 벤치마크 ‘KoEVD’ 논문이 AACL-IJCNLP 2026에 채택됐다. 한국어의 특성과 사용 맥락을 고려해 생성 AI의 안전성을 보다 세밀하게 평가하기 위한 연구다.

서강대학교는 한국의 일상적 차별 상황에 대한 인간과 언어모델의 판단을 비교한 LLMSS 2026 연구와 Interspeech 2026의 한국어 음성합성 연구 ‘SALT’ 등을 통해 연구 성과를 확보했다. 한국어 교육 대화의 화자 역할 분석과 온라인 데이터 기반 K-컬처 분석 등으로 연구 범위를 확대하며, 생성 AI가 활용되는 언어·문화적 환경에 대한 이해를 축적하고 있다.

컨소시엄은 이러한 성과를 바탕으로 생성 AI의 학습·평가 기술과 함께 다양한 문화적 맥락과 사회적 가치를 이해하는 기술 기반을 강화하고 있다. 모델의 안전성을 기술적으로 검증하는 연구와 공정성·설명 가능성에 관한 이론적 연구를 함께 추진해 생성 AI의 사회·윤리성을 종합적으로 평가하고 개선하는 체계를 마련한다는 방침이다.

더불어 솔트룩스는 공동 연구 성과를 생성 AI의 사회·윤리성 평가·개선 플랫폼 ‘Ethics-GenAIOps’ 고도화에 연계할 계획이다. 다양한 문화적 배경과 사회적 가치 체계를 기준으로 모델을 평가·분석하고, 진단 결과가 학습과 개선으로 이어지는 전 주기적 관리 체계 구축을 추진한다.

솔트룩스 관계자는 “생성 AI와 AI 에이전트의 활용이 확대되면서 기술적 성능과 함께 사회적 책임과 윤리적 기준을 확보하는 것이 중요해지고 있다”며 “산업계와 학계, 연구계가 함께 축적한 성과를 바탕으로 생성 AI의 평가와 개선을 연결하는 기술을 고도화하고, 신뢰할 수 있는 AI 서비스 환경을 조성해 나가겠다”고 말했다.

[ⓒ 메가경제. 무단전재-재배포 금지]