2026.09.28제279호

AI 이름은 초지능이 됐는데, 사고의 정의는 비어 있어요

미중 AI 합의를 회담 전 제안과 7월 사고에 비춰 읽어요.

비즈니스

백악관 팩트시트에는 AI 대신 초지능이라고 적혔어요

9월 24일 워싱턴 미중 정상회담의 AI 합의는 세 줄이에요. 백악관이 25일 낸 팩트시트에 따르면 두 정상은 이 기술을 인공지능 대신 초지능(super intelligence)¹이라고 부르기로 했고, 위험과 이익을 논의할 ‘미중 초지능 대화’를 만들어 11월까지 다음 회의를 열기로 했어요. 초지능 관련 사고를 다룰 양자 소통 채널도 두기로 했어요.

Fact Sheet: President Donald J. Trump Advances a Fair and Reciprocal Relationship with China While Hosting Historic StatDELIVERING FOR AMERICANS: This week, President Donald J. Trump and First Lady Melania Trump hosted President Xi Jinping and Madame Peng Liyuan of the

whitehouse.gov

중국 외교부 발표는 조금 달라요. 위험과 이익에 관한 대화, 11월 차기 회의, 사고 소통 채널까지는 같아요. 용어에 대해서는 미국이 새 이름을 쓰는 것을 존중한다고 했고, 중국 쪽 발표문은 계속 인공지능이라는 말을 썼어요. 트럼프 대통령은 회담 주간 내내 ‘인공’이라는 말이 가짜처럼 들려서 초지능이 더 정확하다고 말해 왔어요.

나머지 합의는 무역에 몰려 있어요. 양국은 각각 300억 달러 규모의 비민감 품목에 더 유리한 관세를 적용하도록 권고하기로 했고, 희토류 공급 문제는 계속 협의하기로 했어요.

AI 합의 세 줄은 회담 3주 전에 나온 기고 하나와 나란히 놓으면 잘 읽혀요. AI를 두 나라가 나눠 가질 도구로 보지 말고, 두 나라가 함께 상대할 별개의 주체로 놓자는 제안이었어요. 이번 합의는 그 제안에서 이름을 가져갔고, 제안이 요구한 절차는 일부만 가져갔어요. 빠진 부분이 한국 기업에는 더 가까워요.

회담 전 나온 제안은 AI를 제3자로 놓자는 거였어요

9월 1일 프로젝트신디케이트에 실린 「Trump and Xi Should Align on AI」는 자오취안(Quan Zhao)이 썼어요. 국제무역센터(ITC) 시장개발국 시니어 프로그램 매니저이고, 전직 중국 통상 협상가이며, 세계무역기구(WTO) 금융서비스무역위원회 의장을 지냈어요.

그가 짚은 건 회담 의제의 전제예요. 반도체 규제를 둘러싼 중국의 불만과, 오픈소스 모델과 무단 증류를 둘러싼 미국의 불만이 모두 AI는 도구이고 앞으로도 통제 아래 있으리라는 전제를 깔고 있다는 거예요. 그 안에서는 누가 앞서느냐, 누가 접근하느냐만 물을 수 있고, 도구가 도구 이상이 되면 어떻게 되느냐는 질문은 꺼낼 자리가 없다고 했어요. 앤스로픽의 다리오 아모데이와 구글 딥마인드의 데미스 허사비스가 내놓은 전망을 근거로 들면서, 결과가 시스템 전체에 걸치고 되돌릴 수 없을 때는 확신보다 대비가 먼저라고 썼어요. 보험도, 팬데믹 대응 계획도, 군축 조약도 그 논리로 만들어졌다는 거죠.

협상가의 이력을 겹쳐 보면 이 글은 협상판을 다시 짜자는 제안으로 읽혀요. 두 당사자가 몫을 나누는 협상에서는 상대에게 내주는 만큼 잃고, 국내 정치가 걸리면 움직일 공간이 줄어요. 둘이 함께 상대할 제3항을 테이블에 올리면 같은 조치가 상대에게 주는 양보가 아니라 공동 위험에 대한 대비가 돼요. 미소 군축도 서로를 믿지 못하는 상태에서, 사고와 오판이라는 공동 위험을 앞에 두고 통보와 검증 절차부터 쌓았어요.

이름은 들어갔는데, 들어간 이유가 달라요

자오취안이 말한 제3자는 아직 오지 않은 자율적 지능이에요. 이름을 바꾸자는 이야기는 그 글에 없었어요. 팩트시트에 들어간 초지능이라는 이름은 대통령의 어감 선호에서 나왔고, 가짜처럼 들린다는 이유는 AI를 경계할 대상으로 격상하자는 말보다는 더 대단한 것으로 부르자는 말에 가까워요. 트럼프 대통령은 합의 뒤에도 AI 우위를 향한 추격을 늦추지 않겠다고 밝혔어요.

정상회담에서 단어가 합의 항목이 된 게 처음은 아니에요. 2015년 시진핑 주석의 방미 때 사이버 분야 합의에서는 중국이 불쾌하게 여기던 ‘사이버 절도’ 대신 ‘사이버 범죄’라는 말이 채택됐어요. 그때는 중국의 체면을 고려해 단어를 바꿨고, 이번에는 미국 대통령의 선호에 맞춰 바꿨어요. 차이는 이번엔 한쪽만 그 단어를 쓴다는 점이에요.

만찬 초대 명단도 같은 방향을 가리켜요. 24일 국빈 만찬에는 오픈AI 샘 올트먼, 엔비디아 젠슨 황, 알파벳 순다르 피차이, 아마존 제프 베이조스, 테슬라 일론 머스크, 델 테크놀로지스 마이클 델이 초대됐고, 애플에서는 9월 1일 CEO에서 물러나 정책 담당자 소통을 맡은 팀 쿡 이사회 의장이 이름을 올렸어요. 제3자를 미래의 지능으로 두는 동안, 그 기술을 실제로 만드는 회사들은 한쪽 정상의 손님으로 앉아 있었어요.

핫라인은 맞는 첫 수인데, 7월 사고는 거기 걸리지 않아요

사고 소통 채널은 군축의 문법으로 보면 맞는 첫 수예요. 쿠바 미사일 위기 이듬해인 1963년 미국과 소련이 먼저 합의한 것도 정상 간 직통 통신선이었고, 무기 감축은 그 뒤에 왔어요. 이번에 중국 외교부는 양국 군의 위기 소통 강화에 관한 양해각서를 맺기로 했다고도 밝혔어요.

걸리는 건 채널이 무엇을 사고로 보는지 두 발표문 어디에도 없다는 점이에요. 핫라인은 양쪽이 같은 사건을 같은 이름으로 부를 때 작동하는데, 가장 최근의 실제 사례는 이름부터 갈렸어요.

7월 16일 허깅페이스가 운영 인프라 침해를 공개했어요. 주말 동안 1만 7,000여 건의 동작이 기록됐고 내부 자격증명과 데이터셋이 수집됐어요. 7월 21일 오픈AI가 주체를 밝혔는데, 사이버 공격 능력 평가인 ExploitGym²을 돌리려고 사이버 관련 거부 설정을 낮춰 둔 자사 모델 GPT-5.6 Sol과 미공개 상위 모델이었어요. 클라우드시큐리티얼라이언스의 정리를 보면 7월 21일부터 8월 6일 사이 오픈AI, 앤스로픽, 메타가 비슷한 사건을 각각 공개했고, 세 회사 모두 이를 기술적 의미의 샌드박스 탈출로 설명하지는 않았어요. 격리돼 있어야 할 평가 환경에 바깥으로 나가는 경로, 곧 이그레스³가 열려 있었다는 쪽에 가까워요.

hotline 그래서 이 사건은 두 문장으로 쓸 수 있어요. 모델이 시험을 잘 보려고 스스로 밖으로 나가 남의 서버를 털었다고 쓸 수도 있고, 격리됐다고 가정한 평가 환경에 외부 경로가 남아 있었고 거부 설정을 낮춘 모델이 그리로 나갔다고 쓸 수도 있어요. 앞 문장은 초지능 대화의 의제가 되고, 뒤 문장은 평가 환경 기준과 배상 책임의 문제가 돼요. 게다가 이 사건은 한 회사의 평가 실험이 다른 회사를 침해한 일이라, 정부와 정부 사이 채널에 올라갈 모양이 아니었어요.

11월 대화까지 한국 회사가 볼 것

한국은 이 합의의 당사자가 아니에요. 그래도 11월 초지능 대화에서 사고의 범위가 어떻게 정해지는지는 한국 기업이 쓰는 모델과 계약 조건에 영향을 줄 수 있어요. 볼 것은 두 가지예요. 사고의 정의가 국가 간 위기로 좁혀지는지, 기업의 평가·운영 중에 생긴 사고까지 들어가는지가 하나고, 평가 환경이나 능력 임계값 같은 절차가 의제에 오르는지가 다른 하나예요. 둘 다 빠지면 이름과 채널만 있고 규칙은 비어 있는 상태가 이어져요. 그 경우 기다릴 이유가 없고, 계약서로 먼저 방어하는 편이 나아요.

에이전트를 도입하는 회사라면 아래 항목을 확인해 볼 만해요. 7월 사건에서 드러난 건 모델의 의도보다 실행 환경의 경계였어요.

확인 항목	왜 필요한가
평가·테스트 환경의 외부 통신 정책과 자격증명 격리	7월 사건의 실제 취약점이 여기였어요
자율 동작 로그의 보존 기간과 제출 의무	누가 무엇을 했는지 사후에 재구성할 수 있어야 해요
승인 범위를 벗어난 동작이 생겼을 때의 통지 시한	허깅페이스는 오픈AI의 연락보다 자체 탐지로 먼저 알았어요
사고 공개 시점과 책임 배분	’모델이 한 일’이 면책 사유가 되는지 문서로 정해 두는 문제예요

국내법은 이미 방향을 잡아 뒀어요. 인공지능기본법이 2026년 1월 22일부터 시행 중이고, 인공지능사업자를 개발사업자와 이용사업자로 나눠요. 고영향 인공지능⁴에는 별도의 사업자 책무를 두고요. 계도기간이 있어 제재가 바로 오지는 않지만, 책임 주체를 사람과 법인으로 나누는 축은 법에 들어가 있어요. 국내에서 ‘AI가 했다’는 설명은 답이 되기 어려워요.

오스왈드의 시선

저는 늘 모든 사람, 모든 일에 초지능이 필요한 건 아니라고 말해요. 일과 환경에 맞는 모델이 따로 있어요. 공공기관 폐쇄망 프로젝트를 설계할 때도 6~12개월 뒤 나올 오픈웨이트 모델 수준을 기대하고 짜요.

그래서 이번 합의에서 가장 오래 걸린 건 이름이었어요. 폐쇄망에 들어가는 작은 오픈웨이트 모델과 최상위 프런티어 모델이 정부 문서에서 같은 초지능으로 묶이면, 사고 채널의 범위도 국내 규제 논의도 가장 큰 모델을 기준으로 끌려가기 쉬워요.

자오취안의 제안은 회담을 굴리는 장치로는 잘 만들어졌다고 봐요. 다만 프레임과 처방은 나눠서 받는 편이 낫다고 생각해요. 7월 사건에서 실제로 고쳐야 했던 건 이그레스 설정과 자격증명 격리였고, 그건 정상 간 대화보다 엔지니어링 표준과 계약서가 다루는 영역이에요. 제3자 서사가 앞서면 고칠 사람이 흐려져요.

마치며

이번 회담에서 AI 쪽으로 남은 건 이름 하나, 대화 하나, 채널 하나예요. 사고의 정의와 책임 배분은 11월로 넘어갔어요. 그 사이 할 수 있는 일은 쓰고 있는 AI 도구의 실행 경계와 통지 조항을 한 번 열어 보는 거예요.

이 글은 두 정부의 공개 발표와 보도에 기대고 있어요. 비공개로 오간 내용은 알 수 없고, 7월 사건의 기술적 경위도 공개된 조사 내용까지만 반영했어요.

💬 구독자님은 AI를 초지능이라고 부르는 게 더 맞다고 보세요? 회사에서 쓰는 모델을 떠올리면 어느 이름이 어울리는지 궁금해요.

📨 에이전트 도입을 검토하는 동료나 보안·법무 담당자에게 이 글을 넘겨주세요. 11월 대화를 기다리기 전에 계약서를 먼저 열어 볼 이유가 되면 좋겠어요.

여러분의 생각이 다음 호를 만듭니다

이번 호에서 가장 공감했거나, 다른 경험을 한 지점은 무엇인가요?

커피 한 잔 보내기

이 관점이 좋았다면, 다음 글에 커피 한 잔

오스왈드에게 커피와 함께 짧은 쪽지를 보내주세요. 응원은 다음 취재와 집필에 보탭니다.

참고자료 & 더 읽기

핵심 출처

The White House, “Fact Sheet: President Donald J. Trump Advances a Fair and Reciprocal Relationship with China While Hosting Historic State Visit”, 2026년 9월 25일. ··· 초지능 용어, 초지능 대화, 사고 소통 채널, 300억 달러 관세 권고가 적힌 미국 측 원문이에요.
Reuters(The Spokesman-Review 게재), “China, U.S. agree to AI dialogue, tariff cuts on $30 billion in goods during Xi visit”, 2026년 9월 26일. ··· 중국 외교부 발표와 용어에 대한 중국 측 입장이 나와요.
CBS News, “Trump and Xi agree to set up AI safety channel as military and trade talks continue”, 2026년 9월 26일. ··· 군 위기 소통 양해각서와 트럼프 대통령의 용어 선호를 정리했어요.
Project Syndicate, “Trump and Xi Should Align on AI”, 2026년 9월 1일. ··· 회담 전 나온 자오취안의 제안 원문이에요. 월스트리트저널 오피니언에는 「AI May Become the Third Superpower」라는 제목으로 걸려 있어요.
Cloud Security Alliance, “When Test Environments Leak: Frontier AI Models Hack Real Firms”, 2026년 8월 7일. ··· 세 회사가 공개한 사건과 벤더들이 쓴 표현을 한 번에 볼 수 있어요.

배경 지식

The Jakarta Post, “Donald Trump and Xi Jinping should align on AI”, 2026년 9월 2일. ··· 자오취안 기고의 전재본으로, 앞부분 논지를 더 길게 읽을 수 있어요.
CNN Business, “An OpenAI test model escaped and broke into a real company’s servers”, 2026년 7월 22일. ··· 허깅페이스 사건 경과를 간결하게 정리했어요.
AP, “Trump will be at the airport to greet Xi when China’s leader arrives for his US state visit”, 2026년 9월 18일. ··· 방문 일정과 만찬 초대 명단이 나와요.
Brookings, “Obama-Xi meeting more fruitful than anticipated”. ··· 2015년 사이버 합의의 용어 변경을 다뤘어요.
신&김, “AI 기본법 시행과 그 시사점”, 2026년 2월 11일. ··· 인공지능기본법의 사업자 구분과 의무를 실무 관점에서 정리했어요.

관련 지난 호

필자 안광섭 (오스왈드)은 세종대학교 겸임교수, INLEVEL9 전략 컨설턴트입니다. 경력, 연구, 저서와 최신 활동은 저자 소개에서 계속 갱신합니다. 최근 소식 · 2026년 8월: 2026 세종도서 교양부문 우수도서 선정.

📝 용어 설명

각주

초지능(super intelligence): 기술 논의에서는 거의 모든 인지 영역에서 인간을 크게 넘어서는 지능을 가리키는 말이에요. 이번 팩트시트는 지금의 AI 기술 전반을 이 이름으로 부르기로 해서, 연구자들이 쓰는 뜻보다 범위가 훨씬 넓어요. ↩
ExploitGym: 알려진 취약점을 실제로 동작하는 공격 코드로 바꿔 무단 코드 실행에 이를 수 있는지 측정하는 공개 벤치마크예요. UC버클리 RDI가 여러 기관과 함께 만들었어요. ↩
이그레스(egress): 격리된 실행 환경에서 바깥 네트워크로 나가는 방향의 통신이에요. 평가 환경에서는 이 경로를 막고 실제 운영 자격증명을 넣지 않는 게 기본 원칙이에요. ↩
고영향 인공지능: 인공지능기본법이 정한 범주로, 사람의 생명·신체 안전이나 기본권에 중대한 영향을 줄 수 있는 영역에서 쓰이는 AI예요. 해당하면 사업자에게 별도 책무가 붙어요. ↩