[시사뉴스 홍경의 기자] 인간과 인공지능(AI)이 공존하는 시대에 살고 있다. 사람이 하는 질문 의도와 맥락을 AI가 이해하며 연속적인 대화를 할 수 있을 정도로 기술적 발전을 이뤄왔지만 이에 대한 도입 및 활용에 따른 기대와 우려의 목소리가 공존한다. 특히, 사회·윤리적으로 예상하지 못한 부작용을 초래하고 있다.

‘AI’ 의 부작용과 문제점…사회적 혼란 야기

국내서 AI 윤리 문제가 수면 위로 떠오른 대표적인 사례는 AI 스타트업 스캐터랩가 개발한 AI 챗봇 ‘이루다’ 사태를 꼽을 수 있다. 이루다는 지난 2020년 12월 말 20대 여대생을 표방하며 공개와 동시에 이목을 끌었으나 성소수자나 장애인에 대한 차별과 혐오 발언, 개인정보 유출 등 논란에 한 달도 안 돼 퇴출당한 바 있다. 이 회사는 2년 뒤 논란이 된 문제를 개선하고 ‘관계 지향형 AI 챗봇’ ‘이루다2.0’을 선보이기도 했다.

정보의 부정확성으로 인한 가짜뉴스, AI 보고서 대필, 창작물 저작권 논란 등 각종 사회적 혼란을 동반할 수 있다는 경고의 목소리도 존재한다. 이미 AI 오남용 사례가 교육·출판·미디어 등 우리 사회 곳곳에서 드러나고 있다.

최근 한 일본인이 네이버의 AI 번역기 ‘파파고’로 한국의 웹툰을 일본어로 번역해 ‘한국문학 번역상 웹툰 부문 신인상’을 수상한 사실이 알려져 논란이 됐고, 국내의 한 국제학교에서는 일부 학생이 챗GPT를 활용해 작성한 영문 에세이를 제출했다가 ‘전원 0점’ 처리된 사례도 나왔다. 이 같은 대필·표절 우려가 교육계 전반으로 확산하고 있다.

최근 중국에서도 중국 최대 포털에서 내놓은 인공지능에 윤동주 시인의 국적을 물었더니 중국인이라는 대답이 돌아온 경우가 발생했다. 여기에 더해 ‘안중근 의사가 속한 민족’을 챗봇에 물었더니 ‘중국 조선족’이라고 답하기도 했다. 물론 ‘AI 관리 방안’에 따라 사회주의 가치에 부합한 챗봇만 중국은 승인해 주고 있어 나온 결과이기도 하다.

AI 경제적 가치 창출 속 인간 존재 가치 흔들리나

AI는 거의 모든 산업에 적용돼 복잡한 문제를 해결하고, 생산성·효율성 증가, 비용 절감 등 경제적 가치를 창출할 것으로 기대되고 있지만, 이러한 AI 기술 발전 속도에 대해 인간의 일자리 소멸, 사생활 제약, 인간성에 대한 근본적인 위협 등과 같은 부작용을 우려하는 시각도 상당하다. 챗GPT처럼 단순·반복적인 문서 작성이나, 요약, 정보 검색 등 일정 영역에선 사람보다 빠르게 업무를 수행할 수 있어서다. 이는 챗GPT도 AI가 사람의 일자리를 위협하는 것은 아니지만, 일정한 종류의 일자리에 대해서는 영향을 미칠 수 있다고 인정하는 부분이기도 하다.

신뢰하는 AI 실현을 위해 발생 가능한 사회·윤리적 쟁점을 지속해서 논의해야 할 시점이다. 이에 유럽연합(EU)에서는 지난 2019년 4월 ‘신뢰할 수 있는 AI를 위한 윤리 지침’을 제시했고, 2021년 4월 세계 최초로 ‘인공지능 법안(Artificial Intelligence Act)’을 발표했다.

우리 정부도 지난 2020년 12월 과학기술정보통신부와 정보통신정책연구원이 마련한 ‘AI 윤리기준’을 심의 의결했다. 지난 6월 과학기술정보통신부가 AI 서비스 기업들의 윤리 의식 확산을 위해 연속 산업현장을 찾아 AI 윤리·신뢰성 준수의 중요성을 전파했다. 지난 9월 자체 오픈 대규모언어모델(LLM)을 구축한 업스테이지가 정부와 함께 미국 워싱턴 국무부에서 개최된 ‘한미 ICT 정책 포럼’에 참여하여 AI 윤리 및 신뢰성 관련 발표를 진행하기도 했다.

NIA 소개해 준다면(비전·목표·전략)

한국지능정보사회진흥원(NIA)은 설립된 지 올해로 35년이 된 공공기관으로, 공공과 민간의 디지털 기술의 종합 활용을 촉진하고 국민과 정부의 디지털 능력을 향상하기 위해 설립된 디지털 전문기관이다. 정부의 디지털 전환을 이끌어가고 정책 수립, 실행을 지원하는 ‘싱크탱크’ 역할하고 있다. 특히, 국가 디지털 전문기관으로 윤석열 정부의 핵심 국정과제인 디지털플랫폼 정부를 조기 구현하고 주요 사회 현안 해결과 AI, 빅데이터, 양자컴퓨팅 등 미래를 대비하기 위해 노력하고 있다. 

그뿐만 아니라 NIA는 민간의 초거대 인공지능(AI) 개발･고도화를 지원하기 위해 초거대AI 개발에 필요한 양질의 텍스트 데이터 구축 사업을 추진하고 있다. ‘23년 2,805억원을 투입하여, 150종 데이터 구축 공모를 통해 초거대 인공지능 등 거대 언어모델 지원을 위한 말뭉치 데이터 34종과 문화·관광, 교육, 법률 등 다양한 산업 분야별 데이터를 구축하고 있다. 향후 산업계 수요를 기반으로 분야별 특화 학습용 데이터와 비영어권 시장 공략을 위한 동남아･중동 등 언어 데이터를 2027년까지 200종(책 15만권 분량) 구축할 계획이다. 구축된 데이터는 AI 허브 사이트를 통해 개방하고 있으며, 중소벤처, 연구자, 학생 등 누구나 데이터를 활용할 수 있도록 지원하여 인공지능 산업 활성화에 기여하고 있다.

챗봇 기술의 빠른 발전이 가져온 문제점은

사람과 사람이 직접적으로 소통할 경우 감정, 상황 등을 충분히 전달할 수 있지만, 챗봇 기술을 이용할 경우 고객의 요구를 충분히 이해하지 못하거나 고객의 감정에 민감하게 반응하지 못할 수 있다. 또한, 훈련데이터에 편향이 있거나 잘못된 정보로 챗봇을 학습시킬 경우 편향되거나 윤리적으로 문제가 있는 답변을 할 수 있는 문제점이 있다. 챗봇은 정보를 검색하고 제공하는데 인터넷 등에서 얻은 정보를 활용할 수 있으나, 그 정보의 정확성을 보장하기 어려울 수 있다. 하지만 이러한 문제점들은 AI 생태계에 참여하고 있는 많은 기업, 연구자들이 노력해서 해결해 나가고 있다.

생성형 인공지능(AI)의 가장 큰 문제점으로 꼽히는 ‘환각 현상’에 대한 대안은

많은 연구자와 기업에서는 AI가 거짓을 진짜처럼 답하는 환각 현상(Hallucination)을 줄이기 위해 연구와 기술을 개발하고 있다. 여러 가지 방법들이 활발히 제안되고 있으며, 최근에는 검색증강생성기술(RAG, Retrieval-Augmented Generation) 등이 환각 현상을 줄이기 위해 주목받고 있다. 이는 환각 현상을 줄이기 위해 질문과 관련된 참고 자료를 LLM에 알려주고 제공된 자료를 기반으로 답변하게 함으로써 LLM의 단점을 보완하고 환각 현상을 줄이는데 성과를 보이고 있다.

Open Ko-LLM’에 대해 설명해 준다면

NIA는 한국어 LLM 생태계 활성화 및 글로벌 경쟁력 강화를 위해 지난 9월 말부터 AI 스타트업 업스테이지, KT Cloud, 고려대와 협력하여 오픈소스 기반의 한국어 LLM 리더보드를 오픈하고 운영 중이며 2개월 만에 SK텔레콤, KT, 마음AI, 포티투마루, ETRI 등 다양한 기업 및 학계에서 약 300여개 모델이 리더보드에 참여하는 등 국내 LLM 모델 생태계에 바람을 일으키고 있다. 오픈 리더보드에서는 추론, 상식, 언어이해력, 환각 방지 능력 등을 종합적으로 평가하고 한국어 상식 생성 능력도 평가하고 있다. 아직 영어 모델인 오픈 AI의 GPT-3.5, 메타의 Llama 등 비해 성능이 높진 않으나 지속적인 경쟁으로 한국어 LLM 성능이 개선에 건강한 자극제가 될 것으로 기대하고 있고 NIA에서는 LLM을 성능을 평가할 수 있는 다양한 데이터셋을 개발할 계획이다.