모두가 AI 안전을 말하는데, 청구서는 남에게 보내요

일주일 사이, ‘안전’의 뜻이 네 번 바뀌었어요

구독자님, 지난 일주일 동안 AI 업계에서 가장 많이 들린 단어는 ‘안전’이었어요. 그런데 말하는 사람이 바뀔 때마다 그 단어가 가리키는 대상도 바뀌었어요.

9월 12일 토요일, 앤스로픽의 다리오 아모데이가 에세이를 냈어요. 프런티어 연구소들이 모델 능력을 끌어올리는 속도를 1~2년 정도 일부러 늦춰서, 안전과 정렬¹ 연구가 따라올 시간을 벌자는 내용이에요. 몇 시간 안에 샘 올트먼이 동의한다는 글을 올렸고, 일론 머스크도 “다리오가 옳다”고 거들었어요. 올트먼을 상대로 소송 중인 머스크가 같은 날 같은 편에 선 거예요.

사흘 뒤인 15일, 세일즈포스의 연례 행사 드림포스 무대에서 젠슨 황은 이 제안을 “잘못된 양자택일”이라고 불렀어요. 안전과 속도는 동시에 가질 수 있고, 새 법도 새 규제도 필요 없다고요. 업계에 건넨 조언은 짧았어요. “최대한 빨리 달리세요.” 같은 날 마크 저커버그는 SNS에 반대 논리를 올렸어요. 자기 말을 듣지 않는 에이전트를 쓰고 싶어 할 사람은 없으니, 연구소들에겐 이미 모델을 안전하게 만들 강한 동기가 있다는 거예요.

그리고 17일 목요일, 팔란티어의 알렉스 카프가 CNBC 생방송에 나왔어요. 그는 이 논쟁이 안전의 문제가 아니라 책임의 문제라고 했고, 한 걸음 더 나가 ‘국유화’라는 단어를 꺼냈어요.

넷 다 안전을 말했어요. 그리고 넷의 주장은 각자 서 있는 사업 위치와 거의 정확하게 겹쳐요. 이번 호에서는 누가 옳은지를 가리기보다, 각자의 주장에 붙은 청구서가 누구 앞으로 가는지를 따라가 볼게요. 속도를 늦추면 그 비용은 누가 내는지, 빨리 가다 사고가 나면 누가 물어내는지요.

아모데이의 제안은 정부 없이 시작할 수 없어요

아모데이의 에세이는 세 가지를 제안했어요. 첫째, 외부의 독립 평가자가 연구소 안에 들어와 직원에 가까운 접근 권한으로 모델을 들여다보게 하자. 둘째, 연구소들이 안전 기준을 함께 맞추자. 셋째, 가장 위험한 능력에 대해서는 결국 정부가 뒷받침하는 국제적 한도를 두자.

여기서 눈여겨볼 대목은 두 번째예요. 경쟁사끼리 “모델을 얼마나 빨리 만들지”를 합의하는 건 법적으로 보면 담합에 가까워요. 그래서 아모데이는 연구소들이 안전 논의를 해도 담합으로 처벌받지 않도록 워싱턴에 좁은 범위의 반독점 면제²를 요청했어요. 에세이 안에서도 속도 조절에 효과적인 조율 가운데 일부는 법적으로 까다롭고 정부의 지원이 필요하다고 적었고요.

한 연구소만 늦추면 그 자리를 다른 연구소가 차지해요. 그러니 이 제안은 구조적으로 혼자 할 수가 없어요. 늦추는 비용은 선두 연구소들이 스스로 치르겠다는 것이지만, 그 약속을 묶어줄 끈은 정부가 쥐고 있어요. 문제는 그 정부의 반응이에요. 트럼프 대통령은 주말 사이에 AI에 필요한 가드레일은 강하고 똑똑한 대통령뿐이라는 글을 올렸어요. 적어도 지금 워싱턴은 이 끈을 쥐어줄 생각이 없어 보여요.

공정하게 덧붙이면, 아모데이는 드림포스에서 자동차 회사의 비유를 들었어요. 경쟁사에 안전 사고가 나면 상대를 공격하기보다 자기 공장을 먼저 점검해야 한다고요. 경쟁자를 두고 “저 사람들은 위험하다”고 말하고 싶은 유혹이 크다는 말도 했어요. 자신의 제안이 경쟁사 견제로 읽힐 수 있다는 걸 본인도 알고 있었던 셈이에요.