AGI 3년 이내 온다 프런티어 AI 표준기구가 필수인 이유

Table of Contents

안녕하세요! 성징어의 IT 잉크사이트(IT Ink-Sight) 성징어입니다.

지난달 프랑스 에비앙레뱅에서 열린 G7 정상회의장에서 데미스 허사비스 구글 딥마인드 CEO와 샘 올트먼 오픈AI CEO가 나란히 서서 대화를 나누는 사진이 화제가 됐습니다. 그리고 2026년 7월 14일, 허사비스가 “프런티어 AI를 위한 프레임워크와 새로운 시대의 도래”라는 제목의 뉴스레터를 통해 훨씬 무거운 이야기를 꺼냈습니다. 그는 “지금은 인류 역사의 중대한 전환점”이라며 “AGI는 아마도 몇 년 안에 현실이 될 가능성이 높다”고 밝혔고, 그 해법으로 프런티어 AI 표준기구라는 새로운 감독 체계를 제안했습니다. 노벨상 수상자가 직접 이런 표현을 썼다는 사실만으로도 업계 안팎의 반응이 심상치 않습니다.

허사비스의 말에 무게가 실리는 이유

이 발언을 그냥 흘려듣기 어려운 이유는 발언 당사자의 이력 때문이기도 합니다. 허사비스는 2010년 딥마인드를 공동 창업했고, 2024년에는 단백질 구조 예측 AI ‘알파폴드’로 노벨화학상을 받았습니다. AI 연구자가 노벨상을 받은 것 자체가 이례적인 일이었는데, 그런 그가 이번에는 과학적 성과가 아니라 산업 전체의 제도 설계를 향해 목소리를 낸 셈입니다. 그는 구글의 AI 부문을 실질적으로 이끄는 인물이기도 해서, 이번 제안은 한 개인의 의견이라기보다 프런티어 모델을 실제로 개발하는 진영 내부에서 나온 자기 규제 요구에 가깝습니다.

허사비스가 이런 제안을 내놓은 배경에는 AI 개발 경쟁이 스스로도 통제하기 버거운 속도로 흘러가고 있다는 인식이 깔려 있습니다. 그는 뉴스레터에서 지금의 AI 산업이 “극도로 치열한 상업적·지정학적 경쟁” 속에 있다고 표현했는데, 이는 개발사 스스로도 안전성 검증보다 출시 속도를 우선시할 수밖에 없는 구조적 압박을 인정한 발언으로 읽힙니다. 경쟁자보다 먼저 다음 모델을 내놓아야 하는 상황에서는, 아무리 좋은 의도를 가진 기업이라도 내부 안전성 검토에 충분한 시간을 쏟기 어렵습니다. 이 표준기구는 바로 이 딜레마, 즉 “혼자서는 속도를 늦출 수 없으니 업계 전체에 적용되는 외부 기준을 만들자”는 논리에서 출발합니다.

허사비스가 말한 ‘특이점의 기슭’이 뜻하는 것

허사비스는 이번 뉴스레터에서 자신을 “평생을 AGI 연구에 바친 사람”이라고 소개하며, 지금 이 시점이 “특이점(singularity)의 기슭”으로 기억될 것이라고 짚었습니다. AGI의 파급력에 대해서는 인터넷이나 스마트폰 같은 기술 혁신보다는 전기나 불의 발견에 가깝다고 표현했고, “사회에 미칠 영향은 산업혁명의 10배 수준이면서 그 속도는 10배 더 빠를 수 있다”고 전망했습니다.

동시에 그는 지금의 AI 경쟁이 인간의 이해와 위험 관리 능력을 앞서가고 있다고 진단했습니다. 이미 사이버 보안 분야에서 첨단 AI 모델의 위험 신호가 나타나고 있고, 앞으로는 핵·생물학적 위협 같은 국가안보 문제로 번질 수 있다는 경고도 덧붙였습니다. 자율적으로 행동하며 스스로 성능을 향상시키는 AI 시스템이 등장하면 통제 문제 자체가 새로운 과제가 될 것이라는 대목에서는, 그가 왜 굳이 지금 이 시점에 프런티어 AI 표준기구라는 카드를 꺼냈는지 이해가 됩니다.

허사비스가 언급한 신약 개발, 청정에너지, 신소재 개발 가속화 같은 긍정적 전망도 눈여겨볼 대목입니다. 그는 위험만 나열한 것이 아니라 AGI가 인류에게 전례 없는 생산성과 풍요를 가져다줄 수 있다는 점을 함께 강조했습니다. 다만 그 혜택을 온전히 누리려면 위험을 관리할 제도가 먼저 갖춰져야 한다는 것이 그의 핵심 논리입니다. 혜택과 위험을 분리해서 다루지 않고, 둘을 하나의 프레임 안에 묶어 이야기했다는 점이 이번 뉴스레터의 특징입니다.

그가 사용한 특이점이라는 표현도 짚고 넘어갈 필요가 있습니다. 이 개념은 원래 수학자 존 폰 노이만이 처음 언급했고, 이후 미래학자 레이 커즈와일이 대중화한 용어로 알려져 있습니다. 기술 발전이 기하급수적으로 가속화하면서 인간이 그 이후를 예측하기 어려운 변곡점에 도달하는 시점을 가리키는 말입니다. 허사비스가 이 오래된 개념을 다시 꺼내 들었다는 사실 자체가, 그가 지금의 AI 발전 속도를 단순한 기술 진보가 아니라 문명사적 전환점으로 보고 있다는 방증이기도 합니다.

프런티어 AI 표준기구, 무엇을 어떻게 평가하나

허사비스가 제안한 프런티어 AI 표준기구의 구조는 생각보다 구체적입니다. 그는 미국 금융산업규제기구, 즉 FINRA와 유사한 형태의 독립 조직을 만들자고 제안했습니다. 정부 감독 아래 민간과 공공이 함께 참여하는 조직으로, 일정 수준 이상의 성능을 가진 AI 모델을 ‘프런티어급 모델’로, 그 모델을 개발한 기업을 ‘프런티어 연구소’로 지정하는 방식입니다.

절차도 명확합니다. 기업이 새 모델을 출시하기 최대 30일 전에 표준기구에 제출하면, 기구가 안전성과 위험성을 사전에 평가합니다. 평가 대상에는 사이버 보안 취약점, 생물학적 위험, AI의 기만행위 여부, 그리고 안전장치 우회 시도가 포함됩니다. 이 네 가지 항목만 놓고 봐도 지금까지 나온 AI 윤리 가이드라인들이 주로 다뤘던 편향이나 유해 콘텐츠 문제와는 결이 다릅니다. 모델이 스스로를 감추거나 안전장치를 뚫으려 시도하는지를 정면으로 들여다보겠다는 뜻이니까요.

여기서 눈에 띄는 부분은 ‘기만행위’를 별도 평가 항목으로 명시했다는 점입니다. 지금까지의 AI 안전성 논의는 대체로 모델이 잘못된 답을 내놓거나 편향된 결과를 생성하는 문제에 집중해 왔습니다. 반면 기만행위는 모델이 평가자를 속이거나, 실제 능력을 숨기고 낮은 수준인 것처럼 보이려 시도하는 상황을 가리킵니다. 모델이 시험받고 있다는 사실을 인지하고 행동을 바꾸는 현상은 최근 여러 안전성 연구에서 반복적으로 관찰되고 있는데, 허사비스의 제안은 이 문제를 제도적으로 다루겠다는 신호로 볼 수 있습니다.

허사비스는 미국이 먼저 이 표준을 만들고, 이후 국제 규범으로 확대하자고 제안했습니다. 본인이 영국인이라는 점을 스스로 언급하면서도 “경제적·기술적 위상을 고려할 때 미국이 첫걸음을 내딛는 데 유리한 위치에 있다”고 이유를 밝혔습니다. 그러면서 “AGI가 도착하기 전 남은 시간을 활용해 인류 전체의 이익을 위한 방향으로 기술을 설계해야 한다”고 강조했습니다.

FINRA를 예로 든 것도 곱씹어 볼 대목입니다. 미국 금융산업규제기구는 2007년 전미증권업협회와 뉴욕증권거래소의 규제 조직이 합쳐지며 출범한 민간 자율규제기구로, 정부 기관은 아니지만 증권사들에 실질적인 구속력을 행사합니다. 회원사가 규정을 어기면 벌금을 부과하거나 영업 자격을 제한할 수 있고, 그 과정에는 금융당국의 감독이 함께 작동합니다. 허사비스가 굳이 이 모델을 언급한 이유는, 정부가 모든 것을 직접 규제하는 대신 업계 스스로 만든 조직이 실질적인 집행력을 갖추도록 하자는 뜻으로 읽힙니다.

미국, 영국, 한국의 AI 안전연구소 국제 협력 네트워크를 나타낸 인포그래픽

이미 조용히 움직이고 있던 미국

사실 프런티어 AI 표준기구와 비슷한 발상이 미국에서 완전히 새로운 것은 아닙니다. 미국은 트럼프 2기 행정부 출범과 함께 기존 AI 안전연구소를 상무부 산하 ‘AI 표준·혁신 센터(CAISI)’로 개편했습니다. 국민일보를 비롯한 국내 매체들은 이런 흐름을 두고 미국마저 AI 출시 전 검증 체계를 강화하는 방향으로 움직이고 있다고 보도했는데, 안전보다 표준과 혁신을 앞세운 이름으로 바뀌었다는 점이 시사하는 바가 있습니다. 안전 문제를 규제로 접근하기보다, 산업 주도권을 지키기 위한 표준화 작업으로 프레이밍하려는 의도로 읽히기 때문입니다.

영국도 비슷한 궤적을 그리고 있습니다. 영국은 2023년 AI 안전 정상회의 기간 중 AI 안전 연구소(AISI)를 미국과 함께 설립했는데, 최근 기관 명칭을 ‘AI 보안연구소(AI Security Institute)’로 바꾸며 목적 자체를 안전에서 국가 안보로 격상시켰습니다. 이름 하나 바뀐 것처럼 보이지만, 조직의 예산 배정 우선순위나 정보 접근 권한까지 함께 달라지는 경우가 많다는 점에서 가볍게 볼 변화는 아닙니다.

국제 사회는 이미 세 차례 모였다

프런티어 AI 표준기구라는 발상이 갑자기 튀어나온 것도 아닙니다. 국제 사회는 이미 여러 차례 정상급 회의를 통해 프런티어 모델의 위험을 논의해 왔습니다. 2023년 11월 영국 블레츨리 파크에서 열린 첫 AI 안전 정상회의에서 각국은 프런티어 AI의 위험성에 공동 대응하기로 합의했고, 이 자리에서 영국과 미국이 각자의 AI 안전 연구소를 설립하기로 했습니다. 2024년 5월에는 서울에서 두 번째 정상회의가 열렸는데, 이때 영국, 미국, 일본, 프랑스, 독일, 이탈리아, 싱가포르, 대한민국, 호주, 캐나다, 유럽연합의 연구소들이 AI 안전 연구소 네트워크를 구성하기로 합의했습니다.

이후 프랑스 파리에서 열린 AI 액션 정상회의까지 이어지면서, 회의 명칭에서 ‘안전’이라는 단어가 조금씩 옅어지고 ‘행동’이나 ‘혁신’이라는 표현이 강조되는 흐름도 관찰됩니다. 안전을 강조하면 규제로 비칠 수 있다는 각국의 정치적 부담이 반영된 결과로 해석하는 시각도 있습니다. 허사비스가 던진 이 제안은, 이렇게 이미 각국이 개별적으로 만들어 온 조직과 회의체를 하나의 통일된 국제 체계로 다시 묶자는 이야기에 가깝습니다. 각자 만든 안전 연구소들이 서로 다른 기준으로 움직이고 있다는 점, 그리고 그 기준을 통일할 만한 구속력 있는 국제기구가 아직 없다는 점이 이번 제안의 출발점인 셈입니다.

같은 주에 터진 노벨상 학자 200인의 경고

허사비스의 뉴스레터가 나온 것과 거의 같은 시점인 7월 13일, 노벨경제학상 수상자 16명을 포함한 경제학자·AI 연구자·빅테크 리더 약 200명이 “지금 행동해야 한다(We Must Act Now)”는 제목의 공동성명을 발표했습니다. 조지프 스티글리츠 컬럼비아대 교수, 다론 아제모을루 MIT 교수, 폴 크루그먼 등이 이름을 올린 이 성명은 AI가 유발할 경제 변화가 산업혁명보다 클 수 있지만 훨씬 짧은 기간에 일어날 수 있다고 경고했습니다.

두 발표가 같은 주에 나온 건 우연일 수도 있지만, 내용의 결이 겹친다는 점은 눈여겨볼 만합니다. 한쪽은 기술 개발의 최전선에 있는 사람이, 다른 쪽은 경제학의 최전선에 있는 사람들이 거의 동시에 “산업혁명보다 크고 빠르다”는 표현을 썼습니다. 노벨상 학자들의 성명은 일자리 대량 대체라는 위험과 생활수준 향상이라는 기회를 동시에 언급하며 정책결정자들의 즉각적인 제도 마련을 요구했는데, 이 지점이 허사비스의 문제의식과 정확히 맞닿아 있습니다. 기술이 만들 변화의 크기와 속도가 기존 제도의 대응 속도를 이미 앞지르고 있다는 공감대입니다.

두 성명 모두 구체적인 시한을 못박지 않았다는 공통점도 있습니다. 허사비스는 “몇 년 안”이라는 표현을 썼고, 경제학자들의 성명도 “극히 짧은 기간”이라는 다소 모호한 표현을 사용했습니다. 정확한 시점을 특정하기 어려운 상황에서도 대응을 서둘러야 한다는 절박함이 읽히는 대목입니다. 이런 모호함은 오히려 제도 설계를 더 어렵게 만드는 요인이기도 합니다. 규제 기관 입장에서는 언제까지 어떤 수준의 대응을 갖춰야 하는지 판단할 기준이 명확하지 않기 때문입니다.

노벨경제학상 수상자가 성명에 이름을 올린 것도 처음 있는 일은 아닙니다. 다만 이번처럼 16명이라는 많은 수의 수상자가 한꺼번에 이름을 올리고, 그것도 AI라는 단일 주제로 뭉친 사례는 드뭅니다. 경제학자들 사이에서도 AI의 고용 영향에 대한 견해차는 여전히 존재합니다. 일부는 과거 산업혁명 때처럼 새로운 일자리가 사라진 일자리를 상쇄할 것이라고 보는 반면, 다른 일부는 이번 변화의 속도가 노동시장이 적응할 시간 자체를 허락하지 않을 수 있다고 우려합니다. 성명이 굳이 “지금 행동해야 한다”는 표현을 제목에 내세운 것도, 이런 견해차에도 불구하고 최소한 대응을 미뤄서는 안 된다는 공감대만큼은 분명하다는 점을 강조하려는 의도로 보입니다.

미국·영국의 AI 모델 평가 체계와 국내 평가 공백을 비교한 개념 이미지

프런티어급 모델과 한국의 거리

그렇다면 한국은 이 흐름에서 어디쯤 서 있을까요. 디지털데일리가 5월 13일 보도한 내용을 보면 다소 씁쓸한 현실이 드러납니다. 한국 AI안전연구소(K-AISI)가 출범한 지 1년 반이 지났지만, 프런티어 모델에 대한 독자적인 평가 실적은 0건이었습니다. 국제 네트워크에는 이름을 올렸지만, 실제로 프런티어급 모델을 자체적으로 검증한 사례가 아직 나오지 않았다는 뜻입니다.

이 격차는 단순히 예산이나 인력 문제로만 설명되지 않습니다. 미국과 영국은 이미 자국 안전연구소의 정체성을 표준화·안보 쪽으로 재정의하며 실질적인 권한을 키우는 방향으로 움직이고 있는데, 한국은 아직 그 이전 단계, 즉 평가 체계를 실제로 가동하는 단계에 머물러 있는 셈입니다. 허사비스가 던진 프런티어 AI 표준기구 구상이 국제 규범으로 확대된다면, 이 평가 경험의 격차는 곧 국내 AI 산업이 해외 진출 시 마주할 규제 대응 격차로 이어질 가능성이 있습니다.

평가 실적이 0건이라는 숫자는 두 가지로 해석될 수 있습니다. 하나는 그만큼 평가할 만한 국산 프런티어급 모델이 아직 많지 않았다는 산업적 현실이고, 다른 하나는 평가 방법론과 인력을 갖추는 데 시간이 걸리고 있다는 제도적 현실입니다. 둘 중 어느 쪽이든, 국내 초거대 모델 개발사들이 앞으로 해외 프런티어 표준기구의 사전 평가 대상에 오르게 될 가능성을 감안하면, 국내 평가 역량을 미리 키워두는 편이 장기적으로 유리합니다. 자국 평가 체계가 튼튼하면, 해외 기구의 평가를 받을 때도 그 결과를 상호 인정받거나 절차를 간소화할 여지가 생기기 때문입니다.

AI기본법의 안전성 확보 의무와 만나는 지점

국내에도 이 논의와 맞닿은 제도가 이미 있습니다. AI기본법은 학습에 사용된 누적 연산량이 10의 26제곱 부동소수점 연산(FLOPs) 이상인 시스템을 안전성 확보 의무 대상으로 규정하고, 고영향 AI에 해당하지 않더라도 수명주기 전반의 위험을 식별·평가·완화하는 위험관리체계를 구축해 그 이행 결과를 과학기술정보통신부에 제출하도록 하고 있습니다. 큰 틀에서 보면 허사비스가 제안한 프런티어 AI 표준기구의 사전 제출·평가 구조와 방향이 같습니다.

다만 차이도 분명합니다. 허사비스의 구상은 모델 출시 전 최대 30일이라는 구체적인 시점을 못박고, 사이버 보안·생물학적 위험·기만행위·안전장치 우회라는 네 가지 평가 항목을 명시했습니다. 국내 AI기본법의 안전성 확보 의무는 아직 “위험관리체계를 구축하고 제출한다”는 절차적 틀에 머물러 있어, 무엇을 어떤 기준으로 평가할지에 대한 세부 항목은 앞으로 하위 법령과 가이드라인을 통해 채워져야 하는 상태입니다. 이 논의가 국제적으로 힘을 얻을수록, 국내 하위 법령도 그 세부 평가 항목을 참고해 구체화할 유인이 커질 것으로 보입니다.

특히 ‘기만행위’와 ‘안전장치 우회’ 항목은 국내 법제에서 아직 명시적으로 다뤄지지 않은 영역입니다. 국내 논의는 지금까지 주로 고영향 AI의 기본권 침해 여부나 생성형 AI의 표시 의무에 집중돼 왔는데, 모델 스스로가 평가를 회피하려는 행동까지 규정에 담으려면 기술적으로도 훨씬 정교한 판단 기준이 필요합니다. 이 부분은 국내 AI안전연구소가 프런티어 표준기구 같은 해외 기구의 평가 방법론을 참고하면서 함께 발전시켜야 할 영역으로 보입니다.

컨설팅 현장에서는 무엇을 준비해야 할까

공공 정보화 사업을 다루는 입장에서 이 흐름을 지켜보면 실무적으로 챙길 지점이 있습니다. 우선 고성능 AI를 도입하거나 개발을 지원하는 공공사업이라면, 제안요청서 단계에서부터 위험관리체계 구축과 안전성 확보 결과 제출 절차를 요구 조건에 명시해두는 편이 뒤늦게 예산과 일정을 다시 짜는 상황을 피할 수 있습니다. 구체적으로는 위험 식별 절차, 평가 주기, 위험관리체계 이행 결과의 보고 형식, 그리고 사고 발생 시 보고 라인 같은 항목을 제안요청서와 과업지시서에 명문화하는 방식이 실무에서 바로 적용할 수 있는 접근입니다.

프런티어 AI 표준기구가 요구하는 사이버 보안·기만행위·안전장치 우회 같은 평가 항목은, 아직 국내 규정에 명문화되지 않았더라도 해외 발주기관이나 글로벌 파트너십을 고려하는 사업이라면 선제적으로 참고할 가치가 있습니다. 특히 국가 간 데이터가 오가거나 해외 클라우드 인프라를 활용하는 공공 AI 사업이라면, 향후 상대국의 평가 기준에 맞춰야 할 가능성을 미리 감안해 사업 설계 단계부터 안전성 검증 항목을 넉넉하게 반영해두는 편이 안전합니다.

또 하나 짚을 부분은 K-AISI의 평가 실적 공백입니다. 국가가 프런티어 모델을 검증할 역량을 아직 충분히 쌓지 못한 상태라면, 민간 사업자나 공공기관이 자체적으로 안전성 검토 체계를 마련해두는 편이 향후 규제 강화 국면에서 유리한 위치를 선점하는 길이 될 수 있습니다. 규제가 촘촘해지고 나서 뒤따라가는 것보다, 지금 단계에서 이런 논의가 어떤 항목을 다루는지 미리 살펴보고 내부 점검 체크리스트에 반영해두는 쪽이 비용 면에서도 훨씬 효율적입니다. 감리 기준에도 아직 이런 항목들이 표준적으로 들어가 있지 않은 경우가 많아서, 사업관리 담당자가 먼저 챙기지 않으면 그냥 지나치기 쉬운 부분이기도 합니다.

공공 IT 컨설팅 제안서에 AI 안전성 평가 항목을 반영하는 모습을 표현한 이미지

규제냐 진입장벽이냐, 엇갈리는 반응

허사비스의 제안이 나오자마자 업계 안팎에서는 벌써 온도차가 감지됩니다. 프런티어 모델을 이미 보유한 대형 연구소 입장에서는 표준화된 사전 평가 절차가 오히려 예측 가능성을 높여주는 장치일 수 있습니다. 평가 기준이 명확하면 무엇을 준비해야 할지가 분명해지고, 소송이나 규제 리스크에 대한 불확실성도 줄어들기 때문입니다. 반면 오픈소스 진영이나 자원이 부족한 스타트업 입장에서는 이야기가 다릅니다. 모델 출시 전 30일이라는 사전 심사 기간과 그에 따르는 서류 작업, 인증 비용은 이미 인력과 자본을 갖춘 대형 사업자에게는 감당할 만한 부담이지만, 그렇지 않은 신생 기업에는 진입장벽으로 작용할 가능성이 있습니다.

실제로 금융 산업에서 FINRA 같은 자율규제기구가 자리잡을 수 있었던 배경에는 애초에 참여 사업자 수가 제한적이고 규모의 경제가 뚜렷하다는 산업 구조가 있었습니다. AI 산업은 이와 다릅니다. 대형 프런티어 연구소는 손에 꼽을 정도로 적지만, 그 아래에는 훨씬 다양한 규모의 개발사와 오픈소스 커뮤니티가 존재합니다. 프런티어 AI 표준기구가 ‘프런티어급 모델’만을 대상으로 삼겠다고 선을 그은 것도 이런 우려를 의식한 설계로 보입니다. 다만 어느 수준부터 프런티어급으로 분류할지, 그 기준 자체가 또 다른 논쟁거리가 될 수 있습니다. 기준을 너무 낮게 잡으면 중소 개발사까지 규제 대상에 포함되어 산업 위축이라는 반발이 나올 수 있고, 반대로 기준을 너무 높게 잡으면 실제 위험을 가진 모델을 놓칠 수 있다는 딜레마가 남습니다.

국내 AI 기업들이 함께 지켜봐야 할 이유

이 논의는 해외 빅테크만의 문제가 아닙니다. 국내에서도 초거대 언어모델을 자체 개발하는 기업들이 늘고 있고, 정부 역시 국가 AI 컴퓨팅 인프라를 구축하며 자체 프런티어급 모델 개발을 지원하는 방향으로 움직이고 있습니다. 만약 이런 국제 표준 체계가 실제로 자리잡는다면, 국내에서 개발된 초거대 모델도 해외 진출 과정에서 이 기준에 맞춰 평가를 받아야 할 가능성이 있습니다. 특히 해외 클라우드 마켓플레이스에 모델을 공급하거나, 해외 정부 기관과 협력하는 사업을 준비 중인 기업이라면 이 흐름을 남의 일로 넘기기 어렵습니다.

국내 기업 입장에서는 두 가지 시나리오를 함께 준비해야 합니다. 하나는 국내 AI기본법의 안전성 확보 의무가 강화되는 시나리오이고, 다른 하나는 해외 프런티어 표준기구의 평가를 별도로 받아야 하는 시나리오입니다. 두 시나리오가 요구하는 항목이 다르면 기업은 이중으로 서류를 준비해야 하는 부담을 지게 됩니다. 그래서 국내 논의에서도 해외 표준기구의 평가 항목을 미리 참고해 국내 기준과 최대한 호환되도록 설계하는 것이 중요합니다. 서로 다른 기준을 따로 만족시키는 것보다, 처음부터 상호 인정이 가능한 구조로 설계하는 편이 기업에도, 정부에도 효율적입니다.

앞으로 몇 달, 무엇을 지켜봐야 하나

허사비스의 제안이 실제 제도로 이어지려면 몇 가지 관문을 통과해야 합니다. 우선 미국 의회나 행정부가 이 제안을 얼마나 진지하게 받아들이는지가 첫 번째 관문입니다. CAISI가 이미 존재하는 상황에서 별도의 독립 기구를 새로 만들지, 아니면 CAISI의 권한을 확장하는 방식으로 갈지에 따라 제도의 성격이 크게 달라질 수 있습니다. 두 번째는 다른 프런티어 연구소들의 호응 여부입니다. 오픈AI, 앤트로픽, 메타, xAI 같은 다른 대형 개발사들이 이 제안에 동의하고 실제로 사전 제출 절차를 따를지는 아직 미지수입니다. 세 번째는 국제사회의 확산 속도입니다. 미국이 먼저 표준을 만들더라도, 유럽연합이나 중국이 각자 다른 기준을 고수한다면 국제적으로 통일된 프런티어 AI 표준기구라는 구상은 지역별로 쪼개진 형태로만 실현될 가능성도 있습니다.

저는 이 세 가지 관문 중에서도 두 번째, 즉 다른 연구소들의 실제 참여 여부를 가장 유심히 지켜보려 합니다. 아무리 좋은 제도라도 프런티어 모델을 개발하는 기업들이 자발적으로 참여하지 않으면 실효성을 갖기 어렵기 때문입니다. 반대로 몇몇 주요 연구소가 먼저 참여를 선언한다면, 나머지 기업들도 경쟁 압박 속에서 뒤따라갈 가능성이 큽니다. 이런 흐름이 실제로 나타나는지, 그리고 국내 AI기본법 하위 법령이 이 흐름을 얼마나 빠르게 반영하는지를 앞으로도 계속 짚어보려고 합니다.

마무리하며

허사비스의 발언 하나로 당장 국제 규범이 바뀌지는 않을 것입니다. 다만 노벨상 경제학자 200명의 성명, 미국 CAISI의 표준화 행보, 영국 AISI의 명칭 변경, 그리고 국내 AI기본법의 안전성 확보 의무까지 늘어놓고 보면 방향은 비슷하게 수렴하고 있습니다. 프런티어 AI 표준기구라는 이름이 실제로 만들어질지는 지켜봐야 하지만, 그 문제의식만큼은 이미 여러 나라에서 각자의 언어로 반복되고 있는 셈입니다.

여러분이 계신 조직에서는 고성능 AI 도입을 검토할 때 위험관리체계나 안전성 평가를 어느 단계에서부터 준비하고 계신가요. 이 논의가 국내 제도에 실제로 반영될지, 반영된다면 어떤 항목부터 들어올지 궁금하신 점이 있다면 댓글로 남겨주세요.