예산심의 특화 AI '연.예.인' 시연 현장. 김기용 기자과학기술정보통신부가 국가 연구개발(R&D) 예산 배분·조정 과정에 예산심의 특화 인공지능(AI)을 처음 도입하고, 유사·중복 사업 검색과 심의서 초안 작성 등에 활용한다.
예산심의 효율을 높일 수 있다는 기대가 나오지만, 국가 예산 배분을 지원하는 중요한 시스템인 만큼 AI의 환각과 편향, 자료 보안, 최종 책임 문제 등에 대한 점검 필요성도 제기된다.
"사업 수 2.2배 증가…수작업 심의 부담 한계"
15일 정부에 따르면 과기부는 올해부터 국가 R&D 예산 배분·조정에 예산심의 특화 AI를 본격 활용한다. 정식 명칭은 '연구개발 예산심의 인공지능'으로, 과기부는 이를 줄여 '연.예.인'이라고 이름 붙였다.
과기부는 전날 세종 정부컨벤션센터에서 설명회를 열고 연.예.인을 시연했다. 박상민 과기부 연구예산총괄과장은 "예산심의 특화 AI는 AI를 활용해 행정 업무를 경감하고 데이터 기반의 과학적인 심의를 추진한다는 데 큰 의미가 있다"고 설명했다.
과기부가 예산심의에 AI를 도입한 배경에는 R&D 사업과 심의자료가 빠르게 늘어난 점이 있다. 과기부에 따르면 최근 10년간 정부 R&D 예산은 18조9천억원에서 35조5천억원으로 1.8배 증가했다. 심의 대상 사업 수는 639건에서 1430건으로 늘어 2.2배 수준이 됐다.
국가 R&D 예산심의에는 국가과학기술자문회의 산하 10개 기술 분야별 전문위원 166명과 과기부 투자국 담당자들이 참여한다. 이들은 매년 5~6월 각 부처가 제출한 예산요구서와 사업설명자료, 기획보고서 등을 검토해 유사·중복성, 정부 지원 필요성, 예산 규모 적정성 등을 살핀다.
유사 사업 검색부터 회의 쟁점 분석까지 지원
과학기술정보통신부 제공연.예.인은 예산심의 전용 대형언어모델(LLM)이다. 대화형 질의를 입력하면 학습한 예산심의 자료를 바탕으로 사업 정보와 검토 초안을 생성한다. 업스테이지의 독자 AI 파운데이션 모델인 '솔라오픈'을 기반으로 개발됐으며, 과기부와 한국과학기술정보연구원(KISTI), 한국전자통신연구원(ETRI)이 협업했다.
핵심 기능은 유사·중복성 분석이다. AI가 신규 사업의 제목이나 키워드만 보는 것이 아니라 사업의 맥락까지 분석해 유사·중복 가능성이 높은 사업을 찾아준다. 이를 통해 예산 낭비 요인을 사전에 확인하고 심의 객관성을 높이겠다는 구상이다.
김미미 과기부 기계정보통신조정과장은 시연 현장에서 "유사·중복 분석은 전문위원들이 가장 필요하다고 말한 부분"이라고 밝혔다. 기존에는 전문위원 개인의 지식과 경험에 따라 유사 사업을 찾아야 했지만, 앞으로는 AI가 사업의 핵심 기술과 개발 내용을 비교해 비슷한 사업을 먼저 추천해준다는 설명이다.
연.예.인은 회의록 요약과 회의 쟁점 분석은 물론 전문위원 검토의견서와 예산심의서, 조정결과서 초안 작성도 지원한다. 과기부는 이를 통해 행정업무 소요 시간을 50% 이상 줄이고 '종이 없는(페이퍼리스)' 예산심의 환경을 구축하겠다는 목표를 세웠다.
"외부 웹검색은 뺐다…정확한 정보가 우선"
과학기술정보통신부 제공예산심의에 AI를 도입하면서 환각과 보안 문제도 쟁점으로 떠올랐다. 정부 측은 정확성과 보안을 위해 외부 웹검색 기능을 의도적으로 제외했다고 밝혔다.
KISTI 관계자는 "예산 심의 과정에서는 굉장히 많은 정보를 제공하기보다 정확한 정보를 제한된 범위 안에서 활용하는 것이 맞다고 판단했다"며 "웹 검색 기능은 지원하지 않는 방향으로 설계했다"고 밝혔다. 이어 "보안 이슈가 있어 외부 연결을 가급적 줄이고 내부 시스템 중심으로 활용해야 한다는 요청도 있었다"고 덧붙였다.
시스템은 국가정보원 보안성 검토도 거쳤다. KISTI 측은 사업 시작 전에 국정원 보안 심사를 신청해 통과했으며, 웹서비스와 데이터베이스, LLM 인스턴스 이중화도 적용했다고 설명했다.
다만 정부 측은 LLM 특성상 환각과 편향 가능성을 완전히 배제할 수는 없다고 인정했다. 대신 질문 의도에 따라 답변 경로를 나누고, 정확한 수치가 필요한 질문은 데이터베이스를 검색하도록 설계했다고 설명했다.
과기부 관계자는 "대부분의 답변마다 출처를 함께 제공해 위원들이 한 번 더 확인할 수 있도록 하고 있다"며 "앞으로 고도화 과정에서 로직과 초안 생성 기능을 더욱 세밀하게 다듬을 계획"이라고 말했다.
현장에서는 실제 활용 효과에 대한 평가도 나왔다. 한 전문위원은 "신규 과제 초안을 작성할 때 매우 빠르게 초안을 만들 수 있어 유리하다"며 "절약된 시간을 활용해 주심과 부심 심사위원이 서로 논의하는 데 더 집중할 수 있다"고 말했다.
또 다른 전문위원은 "작년에는 새벽 2시까지 일하고 아침 6시에 일어났는데, 올해는 퇴근 시간이 2시간 정도 앞당겨졌다"며 업무 효율성 개선 효과를 강조했다.
과기부는 올해 시범 적용 결과를 바탕으로 연.예.인의 유사·중복 사업 분석과 심의서 초안 작성 기능을 고도화할 계획이다.
배경훈 부총리 겸 과기부 장관은 "정부 부처 가운데 선도적으로 독자 AI 파운데이션 모델 추가학습을 통해 자체 업무에 특화된 AI를 도입한 사례"라며 "올해 시범 적용을 시작으로 유사·중복 사업 분석 등 심의 지원 기능을 더욱 고도화하겠다"고 밝혔다.