AI 에이전트 시대 생존법, 과기정통부가 던진 6가지 정책 과제

Table of Contents

안녕하세요! 성징어의 IT 잉크사이트(IT Ink-Sight) 성징어입니다.

지난 7월 22일, 과학기술정보통신부가 책자 하나를 조용히 내놓았습니다. 제목은 ‘AI 에이전트 시대의 생존 매뉴얼’. 표지만 보면 자기계발서 같지만, 안을 들여다보면 2025년 한 해 동안 진행한 기술영향평가 결과를 정리한 정책 문서입니다. 전문가와 일반 시민이 함께 참여한 시민포럼, 그리고 설문조사 결과까지 근거로 담았다는 점에서 여느 부처 보도자료와는 결이 다릅니다. 이 책자는 7월 23일부터 과기정통부와 한국과학기술기획평가원(KISTEP) 누리집에서 내려받을 수 있는데, 저는 이 문서가 던지는 질문 자체가 흥미롭다고 봅니다. AI 에이전트 시대 생존법이라는 표현을, 정부가 먼저 공식 문서 제목으로 꺼내 든 사례이기 때문입니다.

정책 문서치고는 제목부터 도발적입니다. ‘생존’이라는 단어를 정부 발간물 제목에 쓴다는 것 자체가, 그만큼 변화의 폭을 심각하게 보고 있다는 신호로 읽힙니다. 이 책자가 실제로 무엇을 담고 있는지, 그리고 공공 IT 컨설팅을 업으로 하는 입장에서 어디를 눈여겨봐야 하는지 하나씩 짚어보겠습니다.

왜 지금 정부가 이 책자를 냈나

기술영향평가는 새로운 기술이 사회에 어떤 파장을 몰고 올지 미리 점검하는 제도입니다. 과기정통부는 매년 특정 기술을 골라 이 평가를 진행하는데, 2025년의 대상이 바로 AI 에이전트였습니다. AI 에이전트는 사용자의 지시를 이해하는 수준을 넘어 스스로 계획을 세우고 정보를 탐색하며 다양한 디지털 도구와 서비스를 활용해 목표를 수행하는 자율적 인공지능 시스템을 가리킵니다. 챗봇처럼 묻는 말에 답만 하는 게 아니라, 일정을 짜고 예약을 하고 문서를 작성하는 식으로 실제 행동까지 이어진다는 점이 기존 생성형 AI와 다릅니다.

이번 평가가 특이한 지점은 전문가 리포트로 끝나지 않았다는 데 있습니다. 시민포럼과 설문조사를 병행해 일반 시민의 체감과 우려까지 함께 담았습니다. 정책 문서가 관료적 언어로 끝나기 쉬운데, 이번 책자는 일상어에 가까운 서술로 AI 에이전트 시대 생존법을 풀어냈다는 점이 눈에 띕니다. 홍순정 과기정통부 성과평가정책국장은 “앞으로도 전문가와 시민이 함께 참여하는 기술영향평가를 통해 미래 기술에 대한 사회적 공감대를 형성하고 바람직한 발전 방향을 모색하겠다”고 밝혔습니다. 공감대 형성이라는 표현을 굳이 쓴 이유는, 규제든 지원이든 결국 사회적 동의 없이는 제도가 오래 못 간다는 판단 때문일 겁니다.

기술영향평가라는 제도 자체는 새롭지 않습니다. 다만 평가 대상으로 AI 에이전트가 선정됐다는 사실 자체가 시사하는 바가 있습니다. 생성형 AI가 확산된 지 채 몇 년이 지나지 않은 시점에, 벌써 그다음 단계인 에이전트형 AI를 국가 차원의 평가 대상으로 올렸다는 건 기술 확산 속도가 정책 대응 속도를 계속 앞지르고 있다는 뜻이기도 합니다. 이 격차를 줄이려는 시도 중 하나가 바로 이번 책자, 즉 AI 에이전트 시대 생존법을 정리한 문서라고 볼 수 있습니다.

AI 에이전트 시대의 생존매뉴얼 책자 보러가기

이 책자가 담은 9가지 관점

책자는 AI 에이전트가 가져올 변화를 아홉 가지 렌즈로 나눠 조망했습니다. 인간과의 관계, 노동 변화, 개인정보 보호와 활용, 사회적 수용성과 미래 교육, 융합과 혁신, 주권 및 안보, AI 지속가능성, 책임, 시민사회와 민주주의가 그 아홉 가지입니다.

각 항목을 조금 풀어보면, ‘인간과의 관계’는 사람이 AI 에이전트를 얼마나 신뢰하고 어디까지 권한을 위임할지를 다룹니다. ‘노동 변화’는 직무 구조와 고용 형태가 어떻게 바뀔지를, ‘개인정보 보호와 활용’은 데이터 접근 범위와 통제권을 다룹니다. ‘사회적 수용성과 미래 교육’은 세대별로 AI 에이전트를 받아들이는 속도 차이와 이에 맞춘 교육 체계 개편을, ‘융합과 혁신’은 산업 간 경계가 허물어지는 현상을 짚습니다. ‘주권 및 안보’는 해외 빅테크에 대한 기술 의존도 문제를, ‘AI 지속가능성’은 에너지 소비와 환경 부담을, ‘책임’은 오작동이나 사고 발생 시 귀책 주체를, ‘시민사회와 민주주의’는 허위정보 확산이 여론과 선거에 미칠 영향을 각각 다룹니다.

나열해놓고 보면 항목 하나하나가 이질적으로 느껴질 수도 있는데, 실제로는 서로 얽혀 있습니다. 예를 들어 ‘책임’ 항목과 ‘노동 변화’ 항목은 따로 놀지 않습니다. AI 에이전트가 잘못된 판단으로 업무를 그르쳤을 때 누가 책임을 지는지가 불분명하면, 그 불확실성 자체가 기업이 AI 에이전트 도입을 주저하게 만드는 요인이 되고, 결국 노동시장 변화의 속도에도 영향을 줍니다. 마찬가지로 ‘주권 및 안보’ 항목과 ‘AI 지속가능성’ 항목도 맞닿아 있습니다. 해외 클라우드 인프라에 의존할수록 에너지 소비 데이터나 운영 현황을 국내에서 온전히 파악하기 어려워지기 때문입니다. 아홉 개 관점을 따로따로 읽기보다는, 서로 맞물리는 인과관계로 읽어야 이 문서가 말하려는 AI 에이전트 시대 생존법의 큰 그림이 보입니다.

노동시장 변화라는 가장 첨예한 쟁점

아홉 가지 관점 중에서도 가장 뜨거운 반응을 부르는 건 역시 노동 변화입니다. 책자는 AI 에이전트 확산이 생산성 향상과 새로운 산업 창출이라는 기회를 주는 동시에, 일자리 구조 변화라는 부담도 함께 던진다고 짚었습니다. 이 부분은 사실 새로운 지적은 아닙니다. 생성형 AI가 처음 확산될 때부터 반복돼온 우려니까요. 다만 이번 책자가 다른 점은, 에이전트형 AI는 답변 생성에서 그치지 않고 실행까지 담당한다는 점을 명시했다는 데 있습니다. 보고서 작성을 도와주는 수준과, 보고서를 쓰고 결재까지 상신하는 수준은 노동시장에 미치는 충격의 결이 다릅니다.

특히 반복적인 행정 업무나 정형화된 문서 작업이 많은 공공 부문은 이 변화를 남의 일로 넘기기 어렵습니다. 실제로 행정안전부가 운영 중인 ‘AI 정부 실험실’에서는 예산 자료 검색이나 재난 정보 시각화, 민원 연락처 안내 같은 과제가 이미 공무원들 손으로 직접 시제품 단계까지 만들어지고 있습니다. 업무 담당자가 AI 에이전트를 직접 다뤄보며 자신의 업무 일부가 자동화될 수 있다는 사실을 몸으로 체감하는 단계에 이미 들어섰다는 뜻입니다.

책자는 이런 변화에 대응하려면 인재 양성과 평생교육 체계를 서둘러 정비해야 한다고 제안합니다. 다만 구체적으로 어떤 직군이 얼마나 영향을 받을지에 대한 정량적 전망까지는 이번 문서에 담기지 않았습니다. 이 지점은 앞으로 후속 연구가 채워야 할 공백으로 보입니다. 개인적으로는 이 공백이야말로 다음번 기술영향평가나 관련 용역 사업에서 우선적으로 다뤄져야 할 주제라고 생각합니다. 방향성만 제시된 채 숫자가 빠지면, 정책 설계자 입장에서도 예산이나 인력을 어느 규모로 배정해야 할지 판단하기 어렵기 때문입니다.

개인정보 활용 확대와 책임소재 불명확성이라는 딜레마

책자가 짚은 두 번째 큰 축은 개인정보입니다. AI 에이전트가 제대로 작동하려면 사용자의 일정, 연락처, 결제 정보 같은 민감한 데이터에 접근해야 하는 경우가 많습니다. 자연히 개인정보 활용 범위가 넓어질 수밖에 없는데, 책자는 이 확대와 책임 소재의 불명확성을 한 문장 안에 나란히 배치했습니다. 우연이 아니라고 봅니다. 데이터를 더 많이 쓰게 해줄수록, 문제가 생겼을 때 누구 잘못인지 가려내기가 더 어려워지는 구조이기 때문입니다.

책자는 이 딜레마를 해결할 구체적인 조문이나 기준까지 제시하지는 않았습니다. 대신 ‘개인정보 보호 및 활용 제도 개선’을 6대 정책과제 중 하나로 올려두는 선에서 그쳤습니다. 세부 기준은 앞으로 하위 법령이나 가이드라인을 통해 채워야 할 몫으로 남은 셈입니다. 이 대목에서 저는 개인정보보호위원회가 앞서 발표한 제3차 개인정보 보호 기본계획, 그러니까 AI 학습에 불가피한 경우 안전조치를 전제로 원본 데이터 활용을 허용하는 특례 도입 방침, 그리고 개인이 자신의 정보 활용 여부를 스스로 결정하는 온마이데이터 플랫폼 구상과 이번 책자가 결국 같은 문제의식을 다른 각도에서 다루고 있다는 인상을 받았습니다. 데이터를 열어주는 쪽과, 그 데이터가 남용됐을 때 책임을 묻는 쪽, 이 두 축을 동시에 세우지 않으면 어느 한쪽으로 정책이 기울 수밖에 없습니다.

정부가 제시한 6대 정책과제

책자는 아홉 가지 관점을 분석한 뒤, 실제로 무엇을 해야 하는지를 여섯 가지 정책과제로 압축했습니다.

AI 책임체계 구축: 오작동이나 사고 발생 시 개발사, 운영기관, 사용자 중 누가 어느 범위까지 책임을 지는지 정하는 틀입니다.
개인정보 보호·활용 제도 개선: 데이터 접근 범위를 넓히면서도 오남용을 막을 안전장치를 함께 마련하는 과제입니다.
AI 시대 인재 양성 및 평생교육 강화: 직무 구조 변화에 맞춰 재교육 체계를 정비하는 데 초점을 둡니다.
인간과 AI의 협업 환경 조성: AI 에이전트에게 어디까지 권한을 위임하고 어디서부터 인간이 개입할지를 설계하는 문제입니다.
AI 안전성 및 신뢰성 확보: 오류나 편향, 악용 가능성을 사전에 검증하는 체계를 갖추는 과제입니다.
디지털 주권과 국가 경쟁력 강화: 해외 기술 의존도를 낮추고 자체 역량을 키우는 방향입니다.

이 여섯 항목만 놓고 보면 추상적으로 들릴 수 있습니다. 하지만 앞서 살펴본 아홉 가지 관점과 겹쳐 읽으면 각 과제가 어디서 나왔는지가 분명해집니다. 노동 변화 우려는 3번과 4번으로, 개인정보 딜레마는 1번과 2번으로, 주권·안보 논의는 6번으로 수렴하는 식입니다. 여섯 개 과제가 아홉 개 관점의 요약본이라고 이해하면 문서 전체의 논리 구조가 한결 선명해집니다.

AI 책임체계와 안전성·신뢰성 확보, 왜 핵심 과제인가

여섯 과제 중에서도 저는 1번(책임체계 구축)과 5번(안전성·신뢰성 확보)을 가장 눈여겨봤습니다. 홍순정 국장은 “AI 에이전트는 인간의 삶과 업무를 지원하는 강력한 조력자로 자리 잡을 것으로 예상되지만 기술의 혜택이 사회 전반에 확산되기 위해서는 책임성과 신뢰성 확보가 무엇보다 중요하다”고 말했습니다. 조력자라는 표현과 책임성이라는 표현을 한 문장에 붙여 쓴 게 인상적입니다. AI가 아무리 유능해도, 잘못됐을 때 책임질 주체가 불분명하면 결국 활용도 자체가 위축된다는 뜻으로 읽힙니다.

AI 에이전트가 자율적으로 여러 단계의 판단을 거쳐 행동하는 구조라는 점을 생각하면, 책임 소재를 가리는 문제는 단순 챗봇보다 훨씬 복잡해집니다. 정보 탐색 단계에서 잘못된 자료를 참고했는지, 실행 단계에서 권한을 넘어서는 행동을 했는지, 아니면 애초에 사용자의 지시 자체가 모호했는지에 따라 책임의 소재가 달라질 수 있기 때문입니다. 예를 들어 AI 에이전트가 결재 문서를 자동으로 상신했는데 그 안에 오류가 있었다면, 이 오류가 학습 데이터의 한계 때문인지, 사용자가 준 지시가 불충분했기 때문인지, 아니면 운영기관의 권한 설정이 느슨했기 때문인지에 따라 책임 소재가 완전히 달라집니다. 이번 책자는 이 문제를 정면으로 짚었다는 점에서, AI 에이전트 시대 생존법을 논할 때 가장 먼저 참고할 문서가 됐다고 봅니다.

안전성·신뢰성 확보 과제 역시 비슷한 맥락에서 중요합니다. 사람이 직접 결과물을 검토하고 승인하는 기존 업무 방식과 달리, AI 에이전트는 여러 단계를 자동으로 처리하기 때문에 중간 과정의 오류가 최종 결과에 그대로 반영될 위험이 큽니다. 이 위험을 낮추려면 도입 전 검증, 운영 중 모니터링, 사고 발생 시 신속한 롤백 절차까지 갖춰야 하는데, 이번 책자는 이런 구체적 방법론까지는 제시하지 않았습니다. 방향만 제시하고 세부 방법론은 앞으로의 과제로 남겨둔 셈입니다.

AI기본법·개인정보 정책과 어떻게 맞물리나

이 책자를 단독으로만 읽으면 원론적인 정책 제언 모음으로 보일 수 있습니다. 하지만 지난달 이 블로그에서 다뤘던 AI기본법 고영향 AI 판단기준이나, 개인정보 3차 기본계획과 나란히 놓고 보면 그림이 달라집니다. AI기본법은 이미 일정 수준 이상의 연산량을 쓰는 시스템에 안전성 확보 의무를 지우고 있고, 개인정보 3차 기본계획은 AI 학습용 데이터 활용의 문을 조건부로 열어두는 방향을 잡았습니다. 이번 책자가 제시한 6대 과제는 이 두 제도가 이미 다루기 시작한 문제를, 조금 더 큰 틀에서 재확인하는 역할을 합니다.

다시 말해 이 책자 자체가 새로운 규제를 만드는 문서는 아닙니다. 대신 앞으로 하위 법령이나 가이드라인이 채워야 할 방향을 미리 제시하는 나침반에 가깝습니다. 세 문서를 나란히 놓고 보면 시간순으로도 흥미로운 흐름이 보입니다. AI기본법이 큰 틀의 규제 근거를 마련했고, 개인정보 3차 기본계획이 데이터 활용의 문을 여는 세부 조건을 다뤘다면, 이번 책자는 그 사이에서 아직 법제화되지 않은 노동·책임·주권 문제까지 포괄해 다음 입법의 밑그림을 그린 셈입니다. AI 에이전트 시대 생존법을 실무 차원에서 준비하려는 입장이라면, 이 책자를 AI기본법과 개인정보 정책의 ‘목차’처럼 참고하는 편이 효율적입니다.

공공 IT 컨설팅 현장에서 지금 챙겨야 할 것

공공 정보화 사업을 다루는 입장에서 보면, 이 책자는 당장 법적 구속력을 갖지는 않지만 앞으로 제안요청서나 사업계획에 반영될 가능성이 큰 정책 방향을 미리 보여줍니다. AI 에이전트를 활용한 민원 응대나 업무 자동화를 다루는 ISP·ISMP 사업이라면, 책임체계 구축과 안전성·신뢰성 확보라는 두 과제를 사업 범위에 어떻게 반영할지 미리 고민해두는 편이 좋습니다. 구체적으로는 AI 에이전트의 판단 근거를 남기는 로그 체계, 오작동 시 인간이 개입할 수 있는 단계적 승인 절차, 그리고 개인정보 접근 범위를 최소화하는 권한 설계 같은 항목을 과업지시서에 명문화하는 방식이 실무에서 바로 적용할 수 있는 접근입니다.

또 하나 챙길 부분은 인재 양성입니다. 6대 과제 중 하나로 명시된 만큼, 앞으로 공공기관 대상 AI 교육이나 역량 강화 사업이 늘어날 가능성이 있습니다. 행정안전부가 지난 7월 3일부터 시범 운영 중인 ‘AI 정부 실험실’에서 공무원들이 직접 AI 과제를 개발하고 검증하는 사례가 속속 나오고 있다는 점도 같은 흐름으로 읽힙니다. 이런 사업을 준비하는 입장이라면, 이번 책자가 제시한 여섯 과제를 사업의 이해 섹션에서 근거자료로 인용해두는 것만으로도 제안서의 설득력이 달라질 수 있습니다.

마지막으로 눈여겨볼 부분은 디지털 주권 과제입니다. AI 에이전트 기반 서비스 대부분이 해외 대형 언어모델 API를 활용하는 구조라는 점을 감안하면, 공공기관이 발주하는 AI 에이전트 사업에서는 국내 인프라 활용 비중이나 데이터 국외 반출 여부를 사업 요건에 명시하도록 요구받을 가능성이 있습니다. 지금 단계에서부터 이 요건을 염두에 두고 사업 설계를 준비해두면, 나중에 관련 지침이 구체화됐을 때 뒤늦게 사업 구조를 뜯어고치는 상황을 피할 수 있습니다.

앞으로 지켜봐야 할 지점

이 책자는 어디까지나 정책 방향을 제시하는 문서이지, 구속력 있는 시행령이나 고시가 아닙니다. 그래서 실제로 힘을 가지려면 몇 가지 관문을 더 통과해야 합니다. 첫째는 여섯 과제가 실제 법령 개정으로 이어지는 속도입니다. 방향만 제시된 채 몇 년째 논의만 반복되는 정책이 드물지 않다는 점을 감안하면, 후속 입법 일정을 계속 지켜볼 필요가 있습니다. 둘째는 시민포럼 방식의 정책 설계가 앞으로도 계속될지 여부입니다. 이번처럼 시민 의견을 미리 수렴하는 절차가 관행으로 자리잡는다면, 앞으로 나올 AI 관련 제도 대부분이 비슷한 공론화 과정을 거칠 가능성이 큽니다.

셋째는 이 책자가 다른 부처의 정책과 얼마나 정합성 있게 연결되는지입니다. 개인정보보호위원회, 행정안전부, 국가정보원 등 여러 기관이 저마다 AI 관련 지침을 내놓고 있는 상황에서, 과기정통부의 이번 책자가 제시한 방향과 다른 부처의 세부 지침이 어긋난다면 현장에서는 오히려 혼선이 커질 수 있습니다. 저는 이 세 가지 관문 중에서도 부처 간 정합성 문제를 가장 유심히 지켜보려 합니다. 아무리 좋은 정책 방향이라도, 실제 집행 단계에서 부처마다 다른 기준을 요구하면 결국 현장의 부담만 늘어나기 때문입니다.

넷째로 함께 짚어볼 부분은 예산입니다. 여섯 가지 정책과제 중 상당수는 결국 별도의 사업 예산이 뒷받침돼야 실행 단계로 넘어갈 수 있습니다. 책임체계를 실제로 운영하려면 사고 접수와 조사를 담당할 인력과 체계가 필요하고, 인재 양성 과제 역시 교육 프로그램을 설계하고 운영할 예산 없이는 선언에 그칠 가능성이 큽니다. 내년도 예산안 편성 과정에서 이 여섯 과제 중 어느 항목에 실제로 예산이 배정되는지를 보면, 정부가 어느 쪽을 우선순위로 두고 있는지 가늠할 수 있을 것입니다. 저는 그중에서도 책임체계 구축과 안전성 확보 두 과제에 얼마나 예산이 실릴지를 특히 눈여겨보고 있습니다. 이 두 과제는 다른 네 과제에 비해 당장 눈에 보이는 성과로 이어지기 어려운 성격이라, 뒷순위로 밀리기 쉬운 항목이기도 하기 때문입니다. AI 에이전트 시대 생존법이 진짜 실효성을 가지려면, 결국 이 예산 배정 문제부터 풀어야 한다고 봅니다.

Copilot으로 생성한 정부 정책 브리핑에서 AI 에이전트 관련 논의가 이뤄지는 모습을 표현한 이미지

마무리하며

과기정통부가 내놓은 이 책자 한 권으로 당장 무언가가 바뀌지는 않을 것입니다. 다만 아홉 가지 관점과 여섯 가지 정책과제를 한 문서 안에 정리해뒀다는 사실만으로도, 앞으로 나올 제도들이 어느 방향을 향할지 가늠할 좌표 하나는 생긴 셈입니다. AI 에이전트 시대 생존법이라는 표현이 다소 거창하게 들릴 수도 있지만, 결국 핵심은 단순합니다. 기술이 주는 편리함만큼, 그 편리함을 누가 책임지고 어떻게 신뢰를 쌓을지를 함께 준비해야 한다는 것입니다.

여러분이 계신 조직에서는 AI 에이전트 도입을 검토할 때 책임 소재나 개인정보 활용 범위를 어느 단계에서부터 챙기고 계신가요. 이번 책자가 제시한 여섯 과제 중 어떤 항목이 가장 먼저 제도화될 것 같은지 궁금하신 의견이 있다면 댓글로 남겨주세요.

참고한 글

서울경제 – AI 에이전트 시대 생존법 담았다…과기부, 정책 매뉴얼 발간
더나은경제 – 과기정통부, ‘정부의 AI 시대 대응 방침’ 책자 발간
시선뉴스 – [정책브리핑] 2026년 07월 23일 목요일 주요 정책