전체기사

2025.02.06 (목)

  • 흐림동두천 -4.4℃
  • 맑음강릉 -2.5℃
  • 구름많음서울 -2.5℃
  • 대전 -1.6℃
  • 구름많음대구 0.4℃
  • 구름많음울산 -0.7℃
  • 흐림광주 -1.0℃
  • 구름많음부산 0.6℃
  • 구름많음고창 -2.8℃
  • 구름많음제주 3.7℃
  • 구름많음강화 -5.5℃
  • 흐림보은 -3.3℃
  • 구름많음금산 -2.2℃
  • 흐림강진군 0.6℃
  • 구름많음경주시 -3.1℃
  • 흐림거제 1.1℃
기상청 제공

사회

서강대 'AI 환각 완화' 연구, 국제인공지능학회 메인트랙논문 채택

URL복사

챗GPT, 허위정보 제공하는 '환각 현상' 한계
연구진, 추가 학습 없이 디코딩만으로 환각 완화
'2025 국제인공지능학회' 내달 25일부터 필라델피아서 개최

[시사뉴스 홍경의 기자] 서강대 연구진이 수행한 AI 환각 완화 논문이 국제인공지능학회의 메인트랙논문으로 선정됐다.

 

서강대학교는 연구진이 수행한 다중모달 거대언어모델의 환각 문제 완화 연구가 2025년 국제인공지능학회(AAAI)의 메인트랙논문으로 채택됐다고 15일 밝혔다. 저자는 컴퓨터공학과 최준석 교수 연수실의 박예지 학생과 인공지능학과 장부루 교수 연구실의 이덕영 학생이다.

 

거대언어모델에서 환각이란 '사실이 아닌 내용을 진실인 양 자연스럽게 대답하는 현상'이다. 답변할 만한 데이터가 없을 때 허위 정보를 제공하는 사례가 대표적인 환각 현상이다.

 

할루시네이션(Hallucination)으로 불리는 환각 현상은 챗GPT 등의 거대언어모델이 넘어야 할 기술적 한계로 주목받아 왔다.

 

서강대 연구진은 디코딩 과정만으로 환각 문제를 완화하는 기법인 'ConVis'를 제안했다.

 

'ConVis'는 생성 모델의 캡션으로 이미지를 복원한 뒤, 원본 이미지와 복원 이미지의 대조적 확률 분포를 비교해 환각 신호를 억제했다.

 

또한 추가적인 데이터 수집이나 학습 과정 없이 기존 시스템에 적용할 수 있는 높은 적용도를 보였다.

 

이번 연구 결과는 다중모달 거대언어모델의 환각 문제 해결에 새로운 접근법을 제시할 것으로 기대된다.

 

한편 올해 국제인공지능학회는 오는 2월25일부터 3월4일까지 미국 필라델피아에서 개최될 예정이다.

저작권자 Ⓒ시사뉴스
제보가 세상을 바꿉니다.
sisa3228@hanmail.net





커버&이슈

더보기

정치

더보기
‘2024 국정감사 우수의원 평가회·시상식’ 성료
[시사뉴스 강민재 기자] 시사뉴스와 수도권일보가 주최한 ‘2024년 국정감사 우수의원 평가회 및 시상식’이 4일 국회 의원회관 제3세미나실에서 개최됐다. 12번째를 맞이한 ‘2024 국정감사 우수의원’은 지난해 ‘역대급 정쟁국감’이라는 22대 국회 첫 국정감사를 모니터링하여 국정운영 실태를 분석하고 시정을 촉구한 24명의 국정감사 우수의원을 선정해 시상한 자리였다. 강신한 시사뉴스·수도권일보 회장은 환영사를 통해 “요즘 대한민국의 상황은 ‘불확실성’ 그 자체이다. 특히 ‘헌법’ ‘법치’를 강조하면서도 서로에게 유리한 부분만을 끌어다 써 오히려 혼란이 확대 재생산되고 있다”며, “이런 상황을 타개할 곳은 국민의 대의기관이자 ‘헌법기관’인 국회와 국회의원들”이라고 강조했다. 그는 “역사적으로 우리 정치는 항상 크고 작은 갈등과 대립이 있어 왔고, 그때마다 이를 조율하고 갈등을 해결한 것은 국회였다”며, “서로 얼굴을 붉힐지언정 국회의원 각자가 물밑에서 이를 조율하고, 합의하려는 노력이 있었기 때문이다”고 부연했다. 이어 “국민과 민생을 위해서는 여야나 보수·진보가 나뉠 수가 없다”며, “국민이 살기 힘들다는데 어느 정치인이 이를 외면할 수 있겠느냐”고 반문했다.

경제

더보기

사회

더보기
서울대병원 장애친화 산부인과, 서울시 ‘사업 유공 기관’ 표창 수상
[시사뉴스 이용만 기자] 서울대병원 장애친화 산부인과가 2023년 5월 서울시 최초로 개소한 이후, 장애 여성이 보다 안전하고 효율적으로 의료 서비스를 받을 수 있는 환경을 구축하며 큰 성과를 거두었다. 서울대병원은 서울시 장애인건강보건관리사업 및 여성장애인 건강권 보장에 기여한 공로를 인정받아 지난해 말 서울시로부터 ‘사업 유공 기관 표창’을 수상했다고 6일 밝혔다. 장애친화 산부인과는 여성장애인 건강권 보장을 위한 공공의료 사업으로, 현재 전국 10개소가 운영되고 있으며, 서울대병원은 그 중 서울시 최초로 개소한 기관이다. 서울대병원은 장애인 건강보건관리사업 운영 체계 확립을 위해 의료 현장에서의 문제점을 지적하고, 제도적 개선이 필요하다고 보건복지부 및 서울시에 적극 요청해왔다. 이와 같은 노력은 장애 여성이 의료 서비스를 보다 쉽게 이용할 수 있는 기반을 마련하는 데 큰 기여를 했다. 서울대병원 장애친화 산부인과는 개소 초기부터 외래 진료, 분만 및 입원 진료 건수 등 주요 지표에서 빠른 성장을 보여주었다. 이러한 성과는 장애여성들이 진료를 받기 위해 병원을 찾는 데 있어 느꼈던 불편함을 해소하고, 보다 많은 환자들이 편리하게 접근할 수 있도록 한 결


오피니언

더보기
【박성태 칼럼】 철학부재(不在)가 빚은 참극…‘공정과 상식’ 빨리 되찾기를
지난 4일 헌법재판소 대심판정에서 열린 윤석열 대통령 탄핵 심판 5차 변론기일에 증인으로 출석한 이진우 전 수도방위사령관(중장·구속)과 여인형 전 국군방첩사령관(중장·구속)이 본인들의 내란 혐의 형사재판에 영향을 줄 수 있다는 이유를 들어 탄핵심판 핵심 이슈인 ‘체포조 지시’관련 질문에 사실상 진술을 거부했다. 반면 증인으로 참석한 홍장원 전 국가정보원 1차장은 12·3 비상계엄 당시 윤석열 대통령으로부터 정치인 체포와 관련해 직접 지시받았다고 증언했다. 이에 대해 직접 변론에 나선 윤대통령은 “계엄 당일 실제 아무런 일도 일어나지 않았는데 지시를 했니 받았니 하는 얘기들이 마치 호수 위에 떠 있는 달그림자 같은 걸 쫓는 느낌”이라고 했다. 또 윤 대통령 측 김계리 변호사는 “(대통령은) 간첩들을 싹 다 잡아들이라고 말한 것”이라며 홍 전 차장의 진술에 “구체적인 이야기를 하지 않았는데 증인 혼자 그렇게 이해한 것 아니냐”며 변론했다. 5차례에 걸친 헌재 변론기일에 나온 증인들과 자신에 대한 탄핵심판 변론에 나선 윤 대통령의“계엄은 경고용”이라는 발언, 특히 지난 4차 변론기일에서 김용현 전 국방부장관이 증인으로 출석해 “의원들을 끌어내라고 한 게 아니라 요