범정부 AI 공통기반 완벽 정리, 8월 28일 시행법이 바꾸는 3가지

Table of Contents

안녕하세요! 성징어의 IT 잉크사이트(IT Ink-Sight) 성징어입니다.

8월 28일, 법률 하나의 이름 자체가 바뀝니다. 그동안 ‘데이터기반행정 활성화에 관한 법률’로 불리던 법이 ‘인공지능 및 데이터 기반 행정 활성화에 관한 법률’로 개정 시행됩니다. 단순히 이름만 늘어난 게 아닙니다. 이 개정으로 공공기관이 AI 서비스를 구축할 때 범정부 AI 공통기반을 우선 활용해야 한다는 조항이 새로 생겼습니다. 저는 이 법을 처음 접했을 때, 조문 하나가 앞으로 몇 년간 공공 정보화 사업의 설계 방식 자체를 바꿔놓을 수도 있겠다는 생각이 들었습니다. ISP나 ISMP를 수행하다 보면 늘 마주치는 질문, ‘이 AI 인프라를 우리 기관이 처음부터 다 지어야 하나’라는 질문에 법이 직접 답을 정해준 셈이기 때문입니다. 발주기관 담당자와 사업 범위를 협의할 때마다 반복해서 나오던 이 질문이, 이제는 법적 근거를 갖춘 하나의 절차로 자리 잡게 된 셈입니다.

무엇이 바뀌나 — 법 개정의 핵심 내용

이번 개정의 근거가 된 법률은 제21392호로, 지난 2월 27일 공포됐습니다. 가장 눈에 띄는 변화는 법률 제명 자체가 바뀌었다는 점입니다. 기존 ‘데이터기반행정 활성화에 관한 법률’이 ‘인공지능 및 데이터 기반 행정 활성화에 관한 법률’로 명칭이 확장됐습니다. 법 이름에 ‘인공지능’이라는 단어가 처음으로 들어간 것입니다.

내용 면에서는 ‘인공지능’, ‘인공지능기반행정’, ‘학습용데이터’에 대한 정의 규정이 새로 신설됐습니다. 또한 행정안전부장관이 각 기관의 인공지능 활용 서비스 목록을 데이터통합관리 플랫폼에 제공·연계하고 공동활용할 수 있도록 필요한 조치를 취할 수 있는 근거 조항도 마련됐습니다. 그리고 이 개정법의 핵심이라 할 수 있는 조항, 바로 공공기관이 AI 서비스를 구축할 때 범정부 AI 공통기반을 우선적으로 활용하도록 하는 규정이 담겼습니다. 개정 법률은 공포 후 6개월이 지난 8월 28일부터 시행됩니다.

범정부 AI 공통기반이란 무엇인가

그렇다면 범정부 AI 공통기반이 정확히 무엇인지부터 짚어볼 필요가 있습니다. 행정안전부의 설명에 따르면 이 공통기반은 AI 모델과 그래픽처리장치(GPU) 등 핵심 인프라를 정부 부처와 공공기관이 공동으로 활용하는 체계를 뜻합니다. 지금까지는 기관마다 각자 AI 모델을 도입하고, 각자 GPU 서버를 구축하고, 각자 데이터 파이프라인을 설계해왔습니다. 이 체계는 이 과정을 중앙에서 표준화된 형태로 제공해, 개별 기관이 매번 처음부터 인프라를 새로 짓지 않아도 되게 만드는 것이 핵심 취지입니다.

범정부 AI 공통기반의 목적은 중복 투자와 기술 파편화를 막고 행정 효율성을 높이는 데 있습니다. 중앙행정기관이든 지방자치단체든, 내부 업무 처리부터 대국민 서비스까지 여러 영역에서 AI 기술을 활용하려 할 때 매번 별도로 개발하거나 투자하지 않고, 공유된 인프라와 모델을 가져다 쓸 수 있도록 설계됐습니다. 이런 구조가 자리 잡으면 신규 AI 서비스를 기획하는 기관 입장에서는 인프라 구축 부담이 크게 줄어들고, 국가 전체로 보면 예산이 흩어지지 않고 한 곳에 모여 규모의 경제를 만들어낼 수 있습니다.

원래 이 법은 어떤 법이었나 — 2020년 제정부터 지금까지

범정부 AI 공통기반이라는 개념을 이해하려면, 이 법의 원래 모습을 잠깐 짚고 넘어가는 게 도움이 될 것 같습니다. 데이터기반행정 활성화에 관한 법률은 2020년 12월 처음 시행됐습니다. 당시 제정 목적은 단순한 관행이나 선례에 의존하던 행정 방식에서 벗어나, 데이터와 과학적 근거에 기반한 증거기반행정을 제도화하는 것이었습니다. 복지 사각지대를 찾아내거나 재해에 미리 대비하는 것처럼, 데이터를 모으고 연계해 정책 판단의 근거로 삼자는 취지였습니다.

이 법은 그동안 각 기관이 보유한 데이터를 서로 공유하고 연계하는 데 초점이 맞춰져 있었습니다. 그런데 이번 개정으로 법률 제명에 ‘인공지능’이라는 단어가 새로 들어가면서, 법의 성격 자체가 ‘데이터 공유’에서 ‘데이터와 AI 인프라를 함께 공유’하는 쪽으로 한 단계 더 확장된 셈입니다. 저는 이 변화가 단순한 조문 추가가 아니라, 지난 5년여간 쌓아온 데이터 공유 인프라 위에 AI 공유 인프라를 얹는 자연스러운 확장이라고 봅니다.

왜 지금 이 법이 필요했나 — 공공 AI 예산과 중복 투자 논란

이 법이 갑자기 등장한 것은 아닙니다. 배경에는 최근 몇 년 새 폭증한 공공 부문 AI 예산과, 그에 따른 중복 투자 우려가 자리하고 있습니다. 정부의 AI 관련 예산은 최근 10조원 규모까지 확대됐는데, 문제는 이 예산이 여러 부처에 흩어져 개별적으로 집행되고 있다는 점입니다. 대표적인 사례로 내년 약 6000억원이 투입되는 AI 응용제품 신속 상용화 지원사업이 무려 10개 부처에서 동시에 진행되는 상황이 지적되기도 했습니다.

더 근본적인 문제도 있습니다. 상당수 AI 사업들이 구체적인 사업계획이나 수요조사 없이, 연구개발(R&D) 사업이라는 이유로 예비타당성 조사를 면제받은 채 추진돼 왔다는 지적입니다. 실제로 예타 면제 대상인 AI 관련 사업이 14건에 달한다는 분석도 나왔습니다. 정부 예산이 가시적인 성과 측정이 쉬운 하드웨어 인프라 구축에 편중되는 경향까지 겹치면서, 부처별 칸막이 예산 집행이 공공 투자 전반의 구조적 비효율로 이어지고 있다는 비판이 쌓여왔습니다. 범정부 AI 공통기반 우선 활용 조항은 바로 이런 문제의식에서 출발한 제도적 장치입니다.

저는 이 대목에서 공공 IT 컨설팅 현장에서 자주 목격하는 장면 하나가 떠올랐습니다. 서로 다른 기관이 비슷한 목적의 챗봇이나 문서 분석 시스템을 각자 발주하고, 각자 GPU 서버를 임대하거나 구매하고, 각자 벤더를 선정하는 광경입니다. 겉으로는 기관별 특수성을 반영한 개별 사업처럼 보이지만, 실제로는 같은 기능을 여러 번 재발명하고 있는 경우가 적지 않습니다. 이번 제도는 이런 낭비 구조에 제도적으로 제동을 걸겠다는 선언이기도 합니다.

한눈에 보는 개정 연혁

지금까지 살펴본 흐름을 시간 순서로 정리해보면 다음과 같습니다.

2020년 12월: 데이터기반행정 활성화에 관한 법률 최초 시행
2026년 2월 27일: 법률 제21392호로 개정 공포, 법률 제명이 ‘인공지능 및 데이터 기반 행정 활성화에 관한 법률’로 변경
2026년 6월 10일: 행정안전부가 ‘공공부문 AI 도입·활용 가이드’ 배포
2026년 8월 28일: 개정 법률 시행, 범정부 AI 공통기반 우선 활용 의무 발효

이렇게 놓고 보면 법 개정부터 시행까지 약 6개월의 유예 기간이 있었고, 그 사이에 행안부가 실무 가이드를 미리 준비해 배포했다는 흐름이 드러납니다. 법이 시행되자마자 현장에 혼란이 생기지 않도록 준비 기간을 두고 단계적으로 접근한 셈입니다.

행안부의 선제 대응 — 공공부문 AI 도입·활용 가이드

행정안전부는 이 법의 시행에 앞서 이미 실무 지원에 나섰습니다. 지난 6월 10일, 공공기관 실무자들이 AI 서비스 구축 전 과정에서 참고할 수 있는 ‘공공부문 AI 도입·활용 가이드’를 배포했습니다. 이 가이드는 8월 28일 개정 시행되는 법률의 범정부 AI 공통기반 우선 이용 조항에 선제적으로 대응하기 위해 마련됐다는 것이 행안부의 설명입니다.

가이드의 특징은 AI 서비스 구축 전 과정을 ‘기획-예산-계약-구축-운영’ 5단계로 표준화해 제시했다는 점입니다. 특히 최신 생성형 AI 기술인 검색증강생성(RAG) 전략을 우선 적용하도록 설계한 것이 눈에 띕니다. RAG는 AI가 학습된 정보에만 의존하지 않고, 기관 내부의 최신 문서와 데이터를 먼저 검색한 뒤 이를 근거로 답변을 생성하는 방식으로, 생성형 AI의 고질적 문제인 환각 현상을 줄이는 데 효과적입니다. 행안부는 가이드 배포와 함께 세종과 서울에서 중앙부처, 지방자치단체 담당자, 민간 AI 사업자를 대상으로 설명회도 열었습니다. 황규철 행정안전부 인공지능정부실장은 이 가이드가 “현장 공무원에게 실질적인 나침반이 되어, 예산 낭비 없이 국민이 체감할 수 있는 고품질의 AI 민주정부를 더 빠르게 실현하는 계기가 되길 기대한다”고 밝혔습니다.

GPU 인프라 확충 계획과 맞물린 흐름

범정부 AI 공통기반이 실제로 작동하려면 결국 물리적인 컴퓨팅 자원이 뒷받침돼야 합니다. 이와 맞물려 과학기술정보통신부는 약 2조805억원을 투입해 첨단 GPU와 통합 운영환경을 민관 협력 방식으로 확보하는 사업을 진행하고 있습니다. 2026년 AI컴퓨팅자원 활용기반 강화사업이라는 이름의 이 공모는, 최신 GPU 기반 대규모 AI 컴퓨팅 인프라를 올해 안에 구축하고 2027년부터 2031년까지 산학연에 GPU as a Service 형태로 제공하는 것을 목표로 합니다. 정부 활용분 가운데 최소 한 개 이상 클러스터는 256서버, GPU 2048개 규모로 구축될 예정입니다.

이 GPU 확충 사업이 과기정통부 주도라면, 범정부 AI 공통기반 우선 활용 의무화는 행안부가 주도하는 제도적 장치입니다. 두 정책이 별개로 움직이는 것처럼 보일 수 있지만, 실제로는 같은 방향을 가리키고 있습니다. 과기정통부가 대규모 GPU 자원을 확보하고, 행안부는 그 자원을 개별 기관이 중복 투자 없이 공유해 쓰도록 법적 근거를 만드는 구조입니다. 저는 이 두 정책을 따로 떼어 보지 않고 하나의 흐름으로 이해하는 것이 공공 AI 인프라 전략을 파악하는 데 더 정확하다고 생각합니다.

해외는 어떻게 하고 있나 — 미국 GSA의 USAi 사례

비슷한 문제의식은 한국만의 것이 아닙니다. 미국 연방조달청(GSA)은 ‘USAi’라는 이름의 공유 서비스 플랫폼을 운영하고 있습니다. 각 연방 기관이 새로운 AI 기술을 자원 중복 없이 테스트하고 평가할 수 있는 클라우드 기반 환경을 제공하는 것이 골자입니다. USAi.gov를 통해 챗봇형 AI, 코드 생성, 문서 요약 같은 도구를 신뢰할 수 있는 표준화된 환경 안에서 정부 기관 실무자들이 바로 쓸 수 있도록 하고 있습니다. GSA는 이와 함께 ‘원거브(OneGov)’라는 조달 전략도 운영하는데, 개별 기관이 각자 협상하던 방식을 없애고 검증된 솔루션을 정부 전체가 표준화된 방식으로 빠르게 도입할 수 있도록 해 중복 작업을 줄이는 접근입니다.

범정부 AI 공통기반과 미국의 USAi는 세부 운영 방식은 다르지만, ‘공공 부문이 AI 인프라를 개별적으로 중복 구축하지 않고 공유한다’는 기본 철학은 같습니다. 다만 미국은 민간 플랫폼과의 협력을 통한 공유 서비스 제공에 무게를 두는 반면, 한국은 법률에 우선 활용 의무를 명시하는 방식으로 접근했다는 차이가 있습니다. 법으로 못박은 만큼 국내에서는 공공기관의 이행 강제력이 상대적으로 더 클 것으로 보입니다.

공공 IT 컨설팅 관점에서 본 시사점

이 법이 8월 28일 시행되면, 공공 정보화 사업을 수행하는 컨설턴트와 사업 수행사 입장에서는 실무적으로 챙겨야 할 것들이 늘어납니다. 가장 먼저, ISP나 ISMP 단계에서 목표모델을 설계할 때 범정부 AI 공통기반의 활용 가능 여부를 우선적으로 검토하는 절차가 사업계획서에 명시적으로 포함돼야 할 가능성이 높습니다. 지금까지는 발주기관의 요구사항과 예산 범위 안에서 자체 인프라 구축과 외부 서비스 도입을 비교하는 방식이 일반적이었다면, 앞으로는 여기에 그 활용이라는 선택지가 법적으로 우선순위를 갖는 항목으로 추가되는 셈입니다.

두 번째로, 사업 초기 단계에서 이 공통 인프라의 실제 제공 범위와 기술 사양을 확인하는 절차가 중요해질 것으로 보입니다. 아무리 법에 우선 활용 의무가 명시돼도, 실제 공통기반이 특정 사업에서 요구하는 성능이나 커스터마이징 수준을 충족하지 못한다면 예외적으로 개별 구축이 불가피한 경우도 있을 것입니다. 이런 경우를 대비해 ‘왜 공통기반을 활용할 수 없는지’에 대한 소명 논리를 사업 초기부터 준비해두는 것이 실무적으로 안전한 접근이라고 생각합니다.

세 번째로는 행안부의 5단계 가이드, 즉 기획-예산-계약-구축-운영 표준 프로세스를 사업 수행 방법론에 실제로 반영하는 작업입니다. 특히 예산 단계에서 이 인프라 활용을 전제로 한 예산 산정 방식이 기존의 하드웨어 중심 예산 산정과는 다를 수 있는 만큼, 발주기관과의 초기 협의에서 이 부분을 명확히 짚고 넘어가는 것이 사업 리스크를 줄이는 데 도움이 될 것입니다.

구체적인 예를 하나 들어보겠습니다. 만약 어떤 지방자치단체가 민원 응대용 AI 챗봇 도입을 계획하고 있다고 가정해보겠습니다. 지금까지의 방식이라면 이 지자체는 챗봇 엔진 선정부터 서버 구축, 데이터 학습, 운영까지 전 과정을 별도 사업으로 발주했을 것입니다. 개정법 시행 이후라면 이야기가 달라집니다. 사업 초기 단계에서부터 공유 인프라를 활용한 민원 챗봇 구축이 가능한지를 먼저 검토하고, 만약 가능하다면 지자체는 인프라 구축 비용 없이 업무 특화 데이터 연계와 서비스 화면 설계에만 예산을 집중할 수 있게 됩니다. 반대로 이 지자체의 민원 유형이 표준 모델로 처리하기 어려운 특수성을 갖고 있다면, 왜 공유 인프라 대신 개별 구축이 필요한지를 사업계획서에 명시적으로 소명해야 하는 절차를 거치게 될 것입니다.

이 지점에서 저는 한 가지 우려도 함께 짚고 싶습니다. 범정부 AI 공통기반이 아무리 좋은 취지로 만들어져도, 실제 운영 단계에서 특정 기관의 업무 특수성을 충분히 반영하지 못하거나 응답 속도, 커스터마이징 자유도 면에서 개별 구축 대비 제약이 크다면 현장에서는 형식적인 우선 검토만 거친 뒤 결국 개별 구축으로 흐르는 경우도 생길 수 있습니다. 법이 의도한 효과를 실제로 거두려면, 공통기반 자체의 서비스 품질과 확장성이 개별 기관의 실질적 수요를 충족할 만큼 뒷받침돼야 할 것으로 보입니다.

민간 IT 기업이 준비해야 할 것들

공공 AI 사업을 수주해온 IT 기업 입장에서도 이번 개정은 사업 구조를 다시 들여다봐야 하는 계기입니다. 지금까지 공공 AI 사업의 상당수는 인프라 구축부터 모델 도입, 서비스 개발까지 한 사업자가 통째로 수행하는 방식이었습니다. 서버를 사고, GPU를 임대하고, 모델을 튜닝하고, 프론트엔드를 만드는 과정 전체가 하나의 사업 범위 안에 들어 있었던 셈입니다.

공유 인프라 우선 활용이 자리 잡으면 이런 사업 구조가 바뀔 가능성이 높습니다. 인프라 영역은 정부가 중앙에서 제공하고, 민간 사업자는 그 위에서 특정 기관의 업무 프로세스에 맞는 서비스 레이어, 그러니까 사용자 인터페이스나 업무별 커스터마이징, 데이터 연계 로직을 설계하고 구현하는 역할에 집중하게 될 수 있습니다. 이는 사업 범위가 줄어드는 것처럼 보일 수도 있지만, 반대로 인프라 구축 비용 부담이 줄어드는 만큼 더 많은 중소 IT 기업이 공공 AI 사업에 진입할 수 있는 기회로 작용할 가능성도 있습니다. 지금까지는 대규모 인프라 투자 여력이 있는 대형 사업자 위주로 공공 AI 사업이 진행되는 경향이 있었는데, 인프라 부담이 공통기반 쪽으로 이전되면 서비스 기획력이나 도메인 전문성을 갖춘 중소 사업자에게도 문이 열릴 수 있다는 뜻입니다.

물론 이런 변화가 긍정적이기만 한 것은 아닙니다. 공유 인프라에 대한 접근 권한이나 API 사용 조건, 성능 보장 수준 등이 아직 구체적으로 공개되지 않은 상황에서는, 민간 사업자 입장에서 사업 견적을 산정하거나 기술 위험을 평가하기가 오히려 더 까다로워질 수도 있습니다. 이 부분은 앞으로 행안부가 내놓을 후속 지침이나 세부 운영 기준을 계속 확인해야 하는 영역입니다.

예상되는 우려와 반론

모든 정책이 그렇듯, 이번 조항에도 우려의 목소리가 없지 않습니다. 가장 자주 제기되는 우려는 앞서 언급한 ‘유연성 저하’ 문제입니다. 공유 인프라는 표준화를 전제로 하는 만큼, 특정 기관의 업무가 표준에서 크게 벗어나는 경우 오히려 맞춤형 개발보다 비효율적일 수 있다는 지적입니다. 예를 들어 실시간 처리 성능이 극도로 중요한 안전·재난 관련 시스템이라면, 여러 기관이 공유하는 인프라의 처리 지연이 치명적인 문제로 이어질 수 있습니다.

또 다른 우려는 보안입니다. 여러 기관이 하나의 인프라를 공유한다는 것은, 그만큼 단일 장애점이나 단일 침해 지점이 생길 수 있다는 뜻이기도 합니다. 한 기관의 계정이나 접근 권한이 뚫리면 연쇄적으로 다른 기관의 데이터나 서비스에까지 영향을 줄 수 있다는 지적이 나올 수 있습니다. 이런 우려에 대응하려면 공유 인프라 자체의 접근 통제와 기관별 데이터 격리 설계가 처음부터 촘촘하게 마련돼야 할 것입니다.

마지막으로, 표준화된 공유 인프라가 자칫 특정 기술이나 특정 사업자에게 종속되는 결과로 이어질 수 있다는 우려도 있습니다. 초기 설계 단계에서 특정 AI 모델이나 특정 클라우드 사업자의 기술에 지나치게 의존하는 구조로 굳어진다면, 장기적으로는 오히려 기술 다양성과 경쟁을 저해할 수도 있습니다. 저는 이런 우려들이 제도 자체를 부정하는 근거는 아니라고 봅니다. 다만 시행 초기에 이런 지점들을 세심하게 설계하고 보완해나가야, 애초에 이 개정이 의도했던 예산 절감과 효율화 효과를 실제로 거둘 수 있을 것입니다.

자주 궁금해할 만한 질문들

모든 공공기관이 AI 서비스를 만들 때 무조건 범정부 AI 공통기반만 써야 하는 걸까요? 법 조항의 취지는 ‘우선 활용’이지 ‘전면 의무화’는 아닙니다. 다만 우선적으로 검토해야 한다는 원칙이 법에 명시된 만큼, 개별 구축을 선택하려면 그럴 만한 합리적 사유를 갖추는 것이 이전보다 훨씬 중요해질 것으로 보입니다.

이미 자체 AI 인프라를 구축해 운영 중인 기관은 어떻게 되나요? 현재로서는 기존 시스템을 즉시 폐기해야 한다는 규정은 확인되지 않습니다. 다만 신규 사업을 기획하거나 기존 시스템을 고도화하는 시점에는 이 공유 인프라의 활용 여부를 새롭게 검토해야 할 가능성이 큽니다.

민간 기업에는 어떤 영향이 있을까요? 앞서 살펴본 것처럼 공공 AI 사업을 수주해온 IT 기업 입장에서는 사업 구조 자체가 달라질 수 있습니다. 인프라 구축 부담이 줄어드는 대신, 서비스 기획력과 도메인 전문성을 갖춘 사업자에게 새로운 기회가 열릴 가능성이 있습니다. 사업 범위와 수익 구조가 재편될 수 있다는 점에서, 공공 IT 업계 전반이 눈여겨봐야 할 변화입니다.

마무리하며

범정부 AI 공통기반 우선 활용이 법에 명시됐다는 것은, 공공 부문의 AI 도입이 이제 ‘되는 대로 각자 알아서’가 아니라 ‘함께 설계하는 방식’으로 전환되고 있다는 신호입니다. 그동안 기관마다 따로 쌓아온 인프라 투자와 시행착오가 이제는 하나의 공유 자산으로 모이기 시작했다고도 볼 수 있습니다. 8월 28일 시행을 앞두고 행안부는 가이드 배포로, 과기정통부는 GPU 인프라 확충으로 각각 준비를 마쳐가고 있습니다. 저는 이 흐름이 단기적으로는 개별 사업의 자유도를 다소 제약하는 것처럼 느껴질 수 있어도, 장기적으로는 예산 낭비를 줄이고 공공 AI 서비스의 품질을 끌어올리는 방향으로 작동하길 기대합니다. 물론 그 기대가 현실이 되려면, 공유 인프라의 실제 성능과 유연성이 현장의 눈높이를 충족해야 한다는 전제가 함께 따라와야 할 것입니다. 공공 정보화 사업을 함께 수행하는 입장에서, 저 역시 앞으로 진행할 사업들에서 이 공통기반을 어떻게 실질적으로 활용할 수 있을지 계속 살펴보겠습니다.

여러분이 속한 기관이나 함께 일하는 공공기관에서는 이 공통 인프라 활용을 어떻게 준비하고 계신가요? 혹시 이미 관련 검토를 시작하셨다면 어떤 고민이 있으셨는지 댓글로 공유해주시면 좋겠습니다. 저 역시 앞으로 이 주제와 관련된 후속 지침이나 세부 운영 기준이 공개될 때마다 블로그에서 계속 업데이트해드리겠습니다.