18개월 걸려 계약하는데 AI는 반년마다 바뀐다 — 공공 AI 발주체계 핵심 쟁점 6가지

Table of Contents

안녕하세요! 성징어의 IT 잉크사이트(IT Ink-Sight) 성징어입니다.

지난 8월 10일 여의도 국회의원회관 제8간담회의실. 이주희 더불어민주당 의원이 주최하고 한국IT서비스산업협회(ITSA)가 주관한 ‘공공AI도입을 통한 국가 AI대전환 촉진 2차 국회 토론회’에서, 김우제 서울과학기술대학교 교수가 마이크를 잡고 이렇게 말했습니다. “AI가 굉장히 빨리 변하고 있어서 기존 SW 발주 체계로 대응할 수 있을지 의문입니다.” 저는 이 발언을 원문으로 접하고 무릎을 쳤습니다. 공공 AI 발주체계 얘기는 업계에서 늘 나오는 레퍼토리 같지만, 이번 토론회는 숫자와 구체적 제도안을 함께 들고 나왔다는 점에서 결이 달랐거든요.

이 글에서는 이날 토론회에서 나온 진단과 여섯 가지 처방, 그리고 산업계와 정부가 각각 어떤 온도차를 보였는지를 순서대로 정리해보려 합니다. 공공 AI 발주체계라는 말 자체는 딱딱하게 들리지만, 그 안에는 ISP·ISMP를 수행하는 실무자라면 누구나 한 번쯤 부딪혔을 법한 구체적인 장면들이 담겨 있습니다.

왜 굳이 ‘발주체계’까지 걸고넘어지나

공공 소프트웨어(SW) 사업은 기획부터 계약까지, 소형 사업이라도 평균 18개월이 걸립니다. 500억원이 넘는 대형 사업은 예비타당성 조사까지 거쳐야 해서 최대 4년 가까이 걸리기도 합니다. 문제는 이 시간 동안 AI 기술은 몇 달 단위로 세대가 바뀐다는 데 있습니다. 사업기획 단계에서 세운 계획이, 정작 계약을 체결하고 착수할 때쯤에는 이미 낡은 스펙이 되어 있을 수 있다는 뜻입니다.

김우제 교수는 이 간극을 발주 절차, 예산 편성, 계약 방식, 품질 기준, 사업 대가까지 공공 AI 발주체계 전반을 동시에 손봐야 하는 문제로 규정했습니다. 어느 한 조항만 고쳐서 해결될 사안이 아니라는 겁니다. 저는 이 지점에서 ISP·ISMP를 수행하는 컨설턴트 입장이 자연스럽게 겹쳐 보였습니다. 정보시스템 마스터플랜을 세우는 시점과 실제 시스템이 가동되는 시점 사이의 간극은 원래도 컨설팅 업계의 오랜 골칫거리였는데, AI가 섞이면서 그 간극이 훨씬 날카로워진 셈이니까요.

8월 10일, 국회의원회관에 다시 모인 사람들

이번 토론회는 갑자기 열린 자리가 아닙니다. 지난 4월 1차 토론회에서 공공 AI 도입의 필요성과 ‘AI 네이티브 정부’ 전환 방향을 논의했고, 이번 2차 토론회에서는 그 필요성을 현실에서 어떻게 구현할지, 즉 발주·계약 체계라는 실무 단으로 논의가 내려왔습니다.

토론회를 주최한 이주희 의원은 개회사에서 “공공 AI 전환이 너무나 중요하다, 국가 혁신의 제1 과제라는 것을 서로 확인하고 나아가 수십 년 동안 고착된 공공 서비스의 난제가 무엇인지를 확인하는 자리”라고 말했습니다. “보여주기식 사업과 정책에 그치지 않도록 토론회에서 나온 제안을 구체적인 입법과 정책 성과로 이어가겠다”는 말도 덧붙였습니다.

신장호 ITSA 회장의 발언도 인상적이었습니다. “1차 토론회에서 공공 AI 도입 필요성과 AI 네이티브 정부 전환 방향을 논의했다면 이번에는 공공 AI를 현실에서 구현하기 위한 발주 제도와 계약 체계, 혁신 실행이 가능한 정책 방안을 함께 모색해야 할 단계”라는 진단이었습니다. 저는 이 문장이 이번 토론회 전체의 톤을 정확히 요약한다고 봅니다. 필요성 논의는 이미 끝났고, 이제는 공공 AI 발주체계라는 구체적 실행 방법론으로 넘어가야 한다는 신호니까요.

공공 AX, 두 갈래로 나눠봐야 보인다

김우제 교수의 발제 제목은 ‘공공 AX 가속화를 위한 발주제도 혁신 방안’이었습니다. 그가 먼저 던진 프레임은 공공 AI 전환(AX)을 두 유형으로 나누는 작업이었습니다.

유형 1은 도메인 AX입니다. 공공 업무 자체에 AI 솔루션을 도입해 업무 방식을 바꾸는 경우로, AI 엔진으로 의사결정을 지원하거나 생성형 AI에 검색증강생성(RAG)을 결합해 법령·매뉴얼 같은 업무 지식을 벡터 데이터베이스(DB)에 쌓아 질의응답 시스템을 만드는 방식이 여기에 속합니다.

유형 2는 IT 분야 자체의 AX입니다. AI 에이전트가 코드 생성과 유지보수를 맡게 되면서, 기존 업무처리형 SW를 개발하던 방식 자체가 바뀌고 있고 이에 맞춰 개발체계와 공공 AI 발주체계도 함께 달라져야 한다는 진단입니다.

김 교수는 두 유형의 차이를 이렇게 짚었습니다. “기존 정보처리 시스템은 주어진 요건과 기능대로 개발하면 솔루션이 만들어지지만, AI SW는 확률적이고 지속적으로 학습·변화하는 만큼 품질이 성과를 내지 못하면 도입 자체가 무의미해진다.” 그래서 요구사항 기준도 기능 명세서에서 정확도·신뢰도 같은 품질 지표로 바뀌어야 한다는 겁니다. “AI 솔루션은 품질이 어느 정도 성과를 내지 못하면 활용하기 어려운 솔루션이 될 수 있다”는 발언도 같은 맥락입니다.

김우제 교수가 꺼낸 6가지 카드

유형 1, 그러니까 도메인 AX를 위한 발주 개선안으로 김 교수는 여섯 가지를 제안했습니다. 저는 이 여섯 가지가 단순한 아이디어 나열이 아니라, 서로 맞물려 돌아가는 하나의 패키지라고 느꼈습니다.

첫째는 발주 프로세스 개선입니다. ISP를 단기로 줄이는 대신 개념검증(PoC)을 먼저 수행해 개발 가능성을 확보하고, 패스트트랙 타당성 검토를 거쳐 본사업으로 넘어가는 구조입니다. PoC 전용 트랙을 신설하고, 이를 통과하면 정보시스템 마스터플랜(ISMP) 수립 자체를 면제하자는 구상도 함께 나왔습니다.

둘째는 ‘공공 AI 총액계상 예산(풀 예산)’ 제도입니다. 부처별로 따로따로 심의받는 대신, 정부 전체 차원에서 공공 AI 선도 도입 예산을 미리 풀(pool)로 편성해두고 PoC를 통과한 사업이 1~2개월 안에 본사업 예산을 배정받도록 하자는 아이디어입니다. 김 교수는 “예산을 요구하고 심의·조정하고 본사업에 착수하는 데 걸리던 6개월 이상의 시간을 줄일 수 있다”고 설명했습니다.

셋째는 PoC 기반 조건부 연계 발주, 다시 말해 계속계약 허용입니다. 하나의 제안요청서(RFP)로 PoC와 본사업을 함께 설계하고, 단계별 평가(스테이지 게이트)를 통과하면 재공고 없이 곧바로 본사업으로 넘어가는 방식입니다. 발주를 두 번 하면서 생기는 RFP 작성, 평가, 협상에 드는 3~4개월을 아낄 수 있다는 게 김 교수의 계산입니다.

넷째는 AI 품질 기준 가이드라인 제정입니다. 지금은 권고사항 수준에 머물러 있는 AI 성능 기준을, ISO/IEC 국제표준을 근거로 정확도·신뢰도·편향성 통제 같은 지표를 RFP 작성부터 검수, 운영 전 단계까지 관통하는 필수 관리 기준으로 명문화하자는 제안입니다. 김 교수는 “AI 품질에 대한 정확한 정의가 현재로는 어디에도 돼있지 않다”며 “가이드라인을 만들고 보급한 다음에야, 품질을 어느 정도로, 어떻게 설정해야 하는지를 만들 수 있다”고 말했습니다.

다섯째는 성실실패 인정제도입니다. AI는 기술적·데이터적 한계로 PoC 단계에서 목표 성능에 못 미칠 위험이 늘 있습니다. 이 제안은 ‘성과 미달’과 ‘부실 수행’을 구분해, 사전에 합의된 방법론과 절차대로 PoC를 수행했다면 성능이 미달해도 정상 종료로 인정하고 지체상금과 부정당업자 제재에서 예외를 두자는 취지입니다. “성실 수행 여부를 판정해 부실 수행이 아니라고 인정된다면 제재에서 예외를 적용해줘야 도전적으로 AI를 빨리 도입하려 노력한다”는 게 김 교수의 설명입니다.

여섯째는 유지관리에 ‘AI 고도화’ 개념을 도입하는 것입니다. AI 모델은 시간이 지나면 성능이 저하되기 마련인데, 이를 예방하는 재학습과 업그레이드를 정식 유지관리 활동으로 제도화하자는 제안입니다. 김 교수는 “현재 운영 중인 성능이 퇴보되지 않도록 진화형 유지관리 체계를 도입해야 한다”고 강조했습니다.

유형 2, IT 자체의 AX를 위한 방안도 나왔습니다. AI가 코드를 생성하더라도 공공기관이 검증과 승인 책임을 갖는 ‘AI 에이전트 기반 코드 생성 및 유지관리 체계’를 단계적으로 도입하고, 그동안 뒤섞여 있던 운영과 유지관리를 제도적으로 분리하자는 내용입니다. 두 유형 공통으로는 망분리 환경의 성능 제약을 감안한 ‘공공 LLM 파운데이션 모델’ 도입과 SW 사업대가 개편이 제시됐습니다.

저는 이 유형 2 제안이 특히 흥미로웠습니다. 지금까지 공공 SW 발주 논의는 대부분 ‘완성된 시스템을 어떻게 검수할까’에 초점이 맞춰져 있었는데, AI 에이전트가 코드를 직접 짜는 시대가 되면 검수 대상 자체가 코드 결과물에서 코드를 생성하는 과정과 그 과정에 대한 관리 체계로 옮겨가야 하기 때문입니다. 발주기관이 AI가 짠 코드를 어떻게 검증하고 승인할지에 대한 절차가 없다면, 아무리 개발 속도가 빨라져도 검수 단계에서 병목이 생길 수밖에 없습니다.

기능점수(FP)가 AI 앞에서 무너지는 이유

김 교수는 사업 대가 산정 기준도 문제 삼았습니다. AI 솔루션은 내부 연산이 복잡한데, 지금 쓰는 기능점수(FP) 방식으로는 이 복잡도가 제대로 반영되지 않는다는 겁니다. 대안으로는 AI SW에 한해 투입인력(맨먼스) 방식을 예외적으로 적용하는 게 바람직하다고 봤습니다.

품질 불확실성 문제도 짚었습니다. 기존 SW는 스펙대로 개발하면 곧바로 쓸 수 있지만, AI 솔루션은 개발을 마쳤다고 끝이 아니라 목표한 품질 수준에 도달해야 실제 활용이 가능합니다. 그런데 이 품질 수준을 어디까지 잡을지가 비용과 직결됩니다. 정확도를 85%에서 95%로 끌어올리는 데만 비용이 기하급수적으로 늘어날 수 있다는 게 김 교수의 설명입니다. 이 때문에 예비타당성 조사 단계에서부터 AI 시스템의 품질 목표를 명확히 설정하지 못해, 사업 통과 여부 자체를 판단하기 어려운 사례가 실제로 나오고 있다고 합니다.

손경자 공공부문발주자협의회장의 발언은 이 문제를 공공 AI 발주체계 현장의 발주기관 입장에서 다시 확인해줍니다. 그는 “차세대 시스템을 3년에 걸쳐 구축하다 보면 그 사이 기술 요건이 다 바뀌어버린다”며 “기존 FP 기준으로는 이런 변화를 수용하지 못해 소송으로 이어지는 사례가 많다”고 지적했습니다.

현장의 목소리는 냉소에 가까웠다

패널토론에서는 공공 AI 발주체계를 향한 산업계 쪽의 더 날 선 반응이 나왔습니다. 송호철 크루온AI 대표는 논의의 실효성 자체에 의문을 제기했습니다. 같은 문제가 여러 번 논의됐지만 실제로 바뀐 게 없었다는 겁니다.

송 대표가 짚은 구조적 원인은 여러 갈래였습니다. 인력을 투입해 사업을 수행하는 SI 방식으로는 지속적인 수익 구조를 만들기 어렵다는 점, 성과가 나오지 않아도 발주기관 책임 문제 때문에 사업을 무리하게 종료시키는 경우가 많다는 점, 구축 자체에만 초점이 맞춰진 조달 체계 탓에 시스템을 잘 모르는 기업이 운영·유지보수를 분리 발주받아 떠맡는 경우가 흔하다는 점입니다. 프리랜서 중심의 외주 용역 구조도 문제로 짚었습니다. 기업이 기술 역량을 내부에 쌓지 못한 채 사업이 끝나면 인력이 흩어지는 구조로는, 기술과 시스템 안정성을 함께 발전시키기 어렵다는 진단이었습니다.

채효근 ITSA 부회장은 좀 더 근본적인 지점을 건드렸습니다. 현행 국가계약 체계가 여전히 건설·물품·용역 중심으로 짜여 있어, SW나 AI 같은 지식서비스 사업의 특수성을 충분히 담아내지 못한다는 비판입니다. 단순 용역과 고도화된 AI·SW 사업을 같은 틀로 다루는 데는 분명한 한계가 있고, SW진흥법의 취지가 국가계약 체계에 제대로 반영되지 않는다는 지적도 이어졌습니다. 채 부회장은 정부 예산만으로는 AI 전환 수요를 모두 감당하기 어려운 만큼, 정부가 직접 해야 할 영역과 민간이 투자·구축·운영할 수 있는 영역을 좀 더 유연하게 구분할 필요가 있다고도 제안했습니다.

정부는 왜 선뜻 손을 들어주지 못했나

산업계 제안에 대해 정부 측 반응은 신중했습니다. 이빌립 행정안전부 디지털인프라혁신과장은 지침 개정만으로는 관련 상위법을 우회할 수 없다는 점을 분명히 했습니다. 김 교수가 제안한 발주 체계 개선안 상당수가 행정정보 시스템 구축·운영 지침에 관한 것인데, 이 지침 자체가 국가계약법과 SW산업진흥법 같은 상위 법령을 근거로 하고 있어서 지침만 손보는 것으로는 한계가 있다는 설명입니다. PoC 결과만으로 본사업을 수의계약으로 연결하는 방안에 대해서도, 국가계약법과 행정절차법이 요구하는 공정성 원칙과 충돌할 가능성이 있어 추가 검토가 필요하다고 밝혔습니다.

김국현 과기정통부 소프트웨어정책과장은 예산 문제를 짚었습니다. 김 교수가 제안한 방안 대부분이 기획재정부의 예산 편성권과 맞닿아 있어서, 총액계상 제도 같은 방안은 소관 부처가 다른 만큼 관계부처 간 협의가 먼저 이뤄져야 한다는 겁니다. 대가 체계 개편에 대해서는 기업과 공공 모두 참고할 만한 사업 사례가 아직 충분히 쌓이지 않았다며, 업계의 관련 정보 공유를 요청하기도 했습니다. 그는 이렇게 덧붙였습니다. “작년까지는 대가 문제가 지금처럼 이슈가 되지 않았는데, 올해 초 AI 에이전트 서비스가 확산되면서 공공 사업의 대가 체계를 기존 방식대로 유지할 수 있느냐는 문제 제기가 많아졌습니다.” 저는 이 발언에서 정부 실무자들도 문제의식 자체는 공유하고 있다는 인상을 받았습니다. 다만 그 문제의식을 실제 제도 변화로 옮기는 속도가 산업계 기대와는 여전히 차이가 있어 보였습니다.

완전히 새로운 이야기는 아니다

성실실패 인정제도라는 표현만 보면 낯설게 느껴질 수 있지만, 비슷한 발상이 아예 없었던 것은 아닙니다. 행정안전부는 지난 7월 13일 공공시스템의 긴급 보안패치 작업 중 장애가 발생하더라도, 정상적인 절차를 거쳤다면 책임을 묻지 않는 적극행정 사례를 인정한 바 있습니다. 급하게 조치하다 생긴 부작용까지 담당자 개인의 잘못으로 몰지 않겠다는 방향성인데, 김 교수가 제안한 성실실패 인정제도와 문제의식이 맞닿아 있습니다.

공공 SW 과업변경 대가보장을 둘러싼 흐름도 함께 보면 도움이 됩니다. 지난 7월 23일 국회 본회의를 통과한 소프트웨어진흥법 개정안은 발주기관이 과업 범위를 바꾸면 과업심의위원회 개최를 의무화하고, 심의 결과를 이행할 예산까지 확보하도록 못 박았습니다. 이 개정안 역시 ‘발주기관 재량에 맡겨뒀던 관행을 명문 조항으로 바꾼다’는 점에서, 이번 토론회에서 나온 공공 AI 발주체계 개편 논의와 같은 방향을 향하고 있습니다. 다시 말해 성실실패 인정이나 총액계상 예산 같은 개별 제안들이 완전히 새로운 발상이라기보다, 최근 1~2년 사이 공공 조달 제도 전반에서 반복적으로 확인되는 큰 흐름의 연장선에 있다고 보는 게 맞을 겁니다.

여러 부처를 동시에 거쳐야 하는 개정 과제

김 교수가 제시한 개선안을 실제로 뜯어보면, 개정 대상이 한 부처에 머물지 않고 여러 부처에 걸쳐 있다는 게 눈에 띕니다. 예를 들어 성실실패 인정제도 하나만 도입하려 해도, 행정안전부의 정보시스템 구축·운영 지침에 목표 성능 미달 시 정상 종료로 인정하는 조항을 새로 넣어야 하고, 과기정통부의 소프트웨어사업 계약 및 관리감독에 관한 지침에는 과업심의위원회에 성실실패 판정 권한을 부여해야 합니다. 여기에 기획재정부 계약예규에는 지체상금과 부정당업자 제재 예외 조항을, 감사원 감사 운영 규칙에는 예산낭비 감사를 면제하는 적극행정 면책 조항을 각각 두어야 합니다.

이주희 의원은 이 복잡함을 정확히 짚었습니다. “정책으로 구현하려면 국회 차원이 아니라 대통령실과 정부, 여러 부처가 다 같이 모여 머리를 맞대야 하는 과제”라며 “그에 맞게 하위 법규를 점검해야 하는 과제도 있지 않을까 싶다”고 말했습니다. 토론회 말미에는 “하위법규를 손보기 전에 국가계약법 등 상위법에서 무엇이 먼저 바뀌어야 하는지부터 점검하고 그에 맞춰 하위 법규를 정리해 나가는 과정이 필요하다”고도 덧붙였습니다. 공공 AI 발주체계 개편이 단순한 지침 손질이 아니라, 상위법부터 훑어야 하는 범정부 과제라는 점을 정부와 국회 모두 공감하고 있는 셈입니다.

ISP·ISMP 컨설팅 현장에서 지금 챙겨야 할 것

이 논의를 컨설턴트 입장에서 읽으면, 당장 법이 바뀌지 않았다고 손 놓고 있을 사안은 아니라고 생각합니다. 우선 AI가 들어가는 사업을 기획할 때는, 기능 명세서 중심의 요구사항 정의 대신 정확도·신뢰도 같은 품질 지표를 처음부터 RFP에 명시하는 연습이 필요합니다. 김 교수가 지적한 것처럼 AI 품질에 대한 정의가 아직 어디에도 명확히 없는 상황이라, ISP·ISMP 단계에서 발주기관과 함께 품질 목표치를 구체적인 숫자로 합의해두는 작업 자체가 실질적인 리스크 관리가 됩니다.

PoC를 어떻게 설계할지도 미리 고민해둘 만합니다. 정식 제도화 전이라도, 본사업 착수 전에 소규모 검증 단계를 계약 구조에 자체적으로 넣어두면 나중에 본사업 범위나 품질 기준을 조정할 때 근거 자료로 쓸 수 있습니다. 손경자 회장이 지적한 것처럼 3년짜리 구축 사업 도중 기술 요건이 통째로 바뀌는 상황은 앞으로도 반복될 가능성이 큽니다. 이럴 때 사업 초기에 합의해둔 품질 목표와 검증 절차가 명문화돼 있다면, 훗날 소송으로까지 번지는 분쟁을 줄이는 데 도움이 될 겁니다.

유지관리 계약을 설계할 때도 마찬가지입니다. 지금까지는 ‘구축이 끝나면 사업도 끝’이라는 전제로 유지보수 범위를 짰다면, 이제는 재학습과 성능 회복까지 포함하는 ‘AI 고도화’ 개념을 과업 범위에 미리 반영해두는 게 맞습니다. 그래야 나중에 모델 성능이 떨어졌을 때, 이걸 별도 사업으로 새로 발주해야 하는지 아니면 기존 유지관리 계약 범위 안에서 처리할 수 있는지를 두고 다투는 상황을 피할 수 있습니다.

ISP ISMP 컨설팅 현장에서 공공 AI 발주체계 변화에 대응하는 모습을 표현한 이미지

지금 당장 법이 바뀌지 않는다면 어떻게 하나

토론회 말미에 나온 정부 측 답변만 보면, 공공 AI 발주체계가 당장 이번 하반기에 극적으로 바뀔 가능성은 크지 않아 보입니다. 총액계상 예산제도는 기획재정부의 예산 편성권과 맞물려 있고, 성실실패 인정제도는 행안부·과기정통부·기획재정부·감사원까지 네 개 기관의 규정을 동시에 손봐야 하는 사안이니까요. 그렇다고 실무자 입장에서 이 논의를 ‘언젠가 바뀌겠지’하고 미뤄둘 일은 아니라고 생각합니다.

공공 AI 발주체계 개편을 기다리는 동안, 지금 시점에서 할 수 있는 현실적인 대응은 정식 제도화 이전이라도 개별 사업 단위에서 계약서와 과업지시서에 비슷한 안전장치를 자체적으로 넣어두는 것입니다. 예를 들어 PoC 단계와 본사업 단계를 계약서상 명확히 구분하고, PoC 단계의 목표 성능치와 실패 시 처리 방안을 미리 문서화해두면, 나중에 제도가 실제로 도입됐을 때 사업 구조를 훨씬 매끄럽게 전환할 수 있습니다. 저는 이런 선제적 준비가 공공 AI 발주체계가 공식적으로 바뀌기 전까지의 공백을 메우는 가장 현실적인 방법이라고 봅니다.

마무리하며

18개월짜리 계약 절차와 반년마다 바뀌는 AI 모델이라는 이 극단적인 시간차는, 결국 공공 AI 발주체계가 지금 이대로는 AI 시대의 속도를 못 따라간다는 사실을 숫자로 보여주는 장면이었습니다. 김우제 교수가 던진 여섯 가지 처방과, 그에 대한 산업계의 냉소, 정부의 신중함까지 함께 보면 이 문제가 하루아침에 풀리지 않을 거라는 예감이 듭니다. 다만 4월 1차 토론회에 이어 8월 2차 토론회까지 이어졌다는 사실 자체는, 적어도 이 의제가 국회와 정부의 관심 목록에서 밀려나지 않고 있다는 신호로 읽힙니다.

저는 이번 토론회를 지켜보면서, 공공 AI 발주체계 개편이 결국 속도와 안전장치 사이의 균형을 찾는 작업이라는 생각이 들었습니다. PoC를 빨리 돌리자는 요구와, 국가계약법이 지켜온 공정성 원칙을 함부로 흔들 수 없다는 정부의 신중함은 둘 다 나름의 타당성이 있습니다. 이 균형점을 어디서 찾을지가, 앞으로 이어질 3차, 4차 토론회의 핵심 관전 포인트가 될 것 같습니다.

여러분이 몸담은 사업에서는 발주 절차와 AI 기술 변화 속도 사이의 간극을 어떻게 체감하고 계신가요. PoC 제도화나 성실실패 인정제도처럼, 현장에 특히 필요하다고 느끼시는 개선안이 있다면 댓글로 이야기 나눠주시면 좋겠습니다.