AI 이름은 초지능이 됐는데, 사고의 정의는 비어 있어요

백악관 팩트시트에는 AI 대신 초지능이라고 적혔어요

9월 24일 워싱턴 미중 정상회담의 AI 합의는 세 줄이에요. 백악관이 25일 낸 팩트시트에 따르면 두 정상은 이 기술을 인공지능 대신 초지능(super intelligence)¹이라고 부르기로 했고, 위험과 이익을 논의할 ‘미중 초지능 대화’를 만들어 11월까지 다음 회의를 열기로 했어요. 초지능 관련 사고를 다룰 양자 소통 채널도 두기로 했어요.

Fact Sheet: President Donald J. Trump Advances a Fair and Reciprocal Relationship with China While Hosting Historic StatDELIVERING FOR AMERICANS: This week, President Donald J. Trump and First Lady Melania Trump hosted President Xi Jinping and Madame Peng Liyuan of thewhitehouse.gov

중국 외교부 발표는 조금 달라요. 위험과 이익에 관한 대화, 11월 차기 회의, 사고 소통 채널까지는 같아요. 용어에 대해서는 미국이 새 이름을 쓰는 것을 존중한다고 했고, 중국 쪽 발표문은 계속 인공지능이라는 말을 썼어요. 트럼프 대통령은 회담 주간 내내 ‘인공’이라는 말이 가짜처럼 들려서 초지능이 더 정확하다고 말해 왔어요.

나머지 합의는 무역에 몰려 있어요. 양국은 각각 300억 달러 규모의 비민감 품목에 더 유리한 관세를 적용하도록 권고하기로 했고, 희토류 공급 문제는 계속 협의하기로 했어요.

AI 합의 세 줄은 회담 3주 전에 나온 기고 하나와 나란히 놓으면 잘 읽혀요. AI를 두 나라가 나눠 가질 도구로 보지 말고, 두 나라가 함께 상대할 별개의 주체로 놓자는 제안이었어요. 이번 합의는 그 제안에서 이름을 가져갔고, 제안이 요구한 절차는 일부만 가져갔어요. 빠진 부분이 한국 기업에는 더 가까워요.

---

회담 전 나온 제안은 AI를 제3자로 놓자는 거였어요

9월 1일 프로젝트신디케이트에 실린 「Trump and Xi Should Align on AI」는 자오취안(Quan Zhao)이 썼어요. 국제무역센터(ITC) 시장개발국 시니어 프로그램 매니저이고, 전직 중국 통상 협상가이며, 세계무역기구(WTO) 금융서비스무역위원회 의장을 지냈어요.

그가 짚은 건 회담 의제의 전제예요. 반도체 규제를 둘러싼 중국의 불만과, 오픈소스 모델과 무단 증류를 둘러싼 미국의 불만이 모두 AI는 도구이고 앞으로도 통제 아래 있으리라는 전제를 깔고 있다는 거예요. 그 안에서는 누가 앞서느냐, 누가 접근하느냐만 물을 수 있고, 도구가 도구 이상이 되면 어떻게 되느냐는 질문은 꺼낼 자리가 없다고 했어요. 앤스로픽의 다리오 아모데이와 구글 딥마인드의 데미스 허사비스가 내놓은 전망을 근거로 들면서, 결과가 시스템 전체에 걸치고 되돌릴 수 없을 때는 확신보다 대비가 먼저라고 썼어요. 보험도, 팬데믹 대응 계획도, 군축 조약도 그 논리로 만들어졌다는 거죠.

협상가의 이력을 겹쳐 보면 이 글은 협상판을 다시 짜자는 제안으로 읽혀요. 두 당사자가 몫을 나누는 협상에서는 상대에게 내주는 만큼 잃고, 국내 정치가 걸리면 움직일 공간이 줄어요. 둘이 함께 상대할 제3항을 테이블에 올리면 같은 조치가 상대에게 주는 양보가 아니라 공동 위험에 대한 대비가 돼요. 미소 군축도 서로를 믿지 못하는 상태에서, 사고와 오판이라는 공동 위험을 앞에 두고 통보와 검증 절차부터 쌓았어요.

---