[목 차]

AI 시대, 공공의 역할은 무엇인가

 

01 오픈 소스 LLM의 부상

02 AI 패권 경쟁과 국가 전략의 변화

03 데이터 주권과 공공 클라우드 전략

04 LLMOps와 운영 조직 구축 전략

05 보안 통제와 신뢰성 확보 방안

06 성능 검증과 현장 평가 체계

07 지속 가능한 파운데이션 모델 파이프라인 구축

08 인프라와 GPU 전략

09 공공 서비스와 AI 통합 전략

10 기대 효과와 거버넌스 전환

 

[본 문]

그러나 오픈 소스 LLM이 안고 있는 과제 또한 명확하다. 첫째, 성능 편차와 품질 관리 문제다. 각기 다른 연구자나 조직이 오픈 모델을 변형해 배포하면서, 모델의 정확도, 안전성, 처리 속도 등에서 일관성을 확보하기 어려운 경우가 많다. GPT-4, 클로드 3(Claude 3) 같은 상용 최상위 모델과 비교하면 성능 격차도 여전히 존재한다. 둘째, 자원 소모 부담이다. 고성능 LLM은 학습과 추론 과정에서 막대한 GPU 연산력과 전력을 요구하기 때문에, 중소 기관이나 자원이 제한된 단체는 여전히 운용 장벽을 경험할 수밖에 없다. 셋째는 악용 가능성이다. 폐쇄형 모델은 보통 유해 콘텐츠 생성을 차단하는 ‘가드레일’을 탑재하지만, 오픈 모델은 누구나 자유롭게 활용할 수 있어 피싱 이메일 생성, 가짜 뉴스 작성, 해킹 도구 제작 등에 악용될 수 있다.

－01_“오픈 소스 LLM의 부상” 중에서

 

영국은 국가 안보를 이유로 기밀 데이터의 해외 저장을 제한했지만, 최근에는 보다 유연한 정책으로 전환하고 있다. 2023년 정부 보안 분류 정책 개정과 2025년 과학혁신기술부(DSIT, Department for Science, Innovation and Technology)의 가이드라인 발표를 통해, 일정 조건을 충족할 경우, 해외 데이터 센터의 활용도 허용했다. 특히 각 기관에는 멀티 리전(Multi Region) 전략을 권고하며, 법적 기준을 지키는 범위 내에서 가장 효율적인 위치에서 데이터를 처리하도록 유도하고 있다.

－03_“데이터 주권과 공공 클라우드 전략” 중에서

 

정부는 국내외 110여 건의 활용 사례도 함께 제공해 기관 간 벤치마킹과 정책 설계에 도움을 주고 있으며, 공공 AI의 성공률을 높이기 위한 평가·공유 체계를 마련했다.

2024년에는 예산을 대폭 확대해 ‘초거대 AI 활용 지원 사업’을 추진 중이며, 플랫폼 이용과 서비스 개발 지원을 병행하고 있다. 과제별 성과는 평가를 거쳐 전국 확산 또는 정책 개선에 반영된다.

대표 사례로는 AI 챗봇을 통한 신규 직원 교육, 민원 응대 향상, 콜센터 상담 품질 개선 등이 있으며, 외신 요약, 입찰 평가 자동화 등 다양한 아이디어가 실증 사업으로 추진되고 있다.

－06_“성능 검증과 현장 평가 체계” 중에서

 

예를 들어, 경기도는 RPA 시스템 도입으로 연간 1만 시간의 공무원 근무 시간을 절약해 추가 인력 없이 자원을 효율적으로 재배치할 수 있었다. 단순 반복 업무의 자동화는 인건비 절감뿐 아니라, 과태료 부과 등 업무의 오류 감소와 재정 집행의 신뢰성 향상에도 기여하고 있다.

AI는 예산 편성과 배정 과정에서도 정교한 의사 결정을 지원한다. 복지 예산의 경우, 지역별 고령화·소득·이용률 데이터를 분석해 필요한 곳에 선제적으로 자원을 배분할 수 있다. 보건복지부의 위기 가구 판별 시스템은 복지 대상자를 정확히 선별해 재정 누수를 막고, 효과적인 지원이 가능하도록 돕고 있다.

－09_“공공 서비스와 AI 통합 전략” 중에서