ICML 논문 497편 거부, 연구자가 지켜야 할 판단과 책임

심사 규칙 위반으로 거부된 논문 497편

머신러닝 학회 ICML¹ 2026은 3월 18일, 제출 논문 497편을 거부했다고 발표했어요. 해당 논문들의 지정 상호 심사자가 다른 논문을 심사하면서, 자신이 동의한 LLM 사용 금지 규칙을 어겼기 때문이에요. 조직위원회는 논문이나 심사 보고서의 품질을 판단한 조치가 아니라, 합의한 규칙을 위반한 데 따른 조치라고 설명했어요.

이 사건에서는 AI 사용 여부와 함께, 심사자가 맡은 일과 약속을 지켰는지가 중요해요.

적발에는 논문 PDF에 넣은 숨은 지시문을 사용했어요. 일반적으로 PDF를 읽는 사람에게는 보이지 않지만, LLM이 문서를 처리할 때 읽고 심사 보고서에 특정 문구를 넣도록 유도하는 방식이에요. 조직위는 17만 개의 문구 중 논문마다 두 개를 무작위로 골랐고, 해당 문구가 나온 보고서는 사람이 다시 확인했다고 밝혔어요.

저도 예전에 PDF AI SHIELD라는 보호 도구를 만든 적이 있어요. 사람이 보는 문서는 유지하면서 AI가 읽는 과정에 개입하려 했다는 점에서 익숙한 접근이었어요. 비슷한 발상이 학회 심사에 쓰인 건 반가웠지만, 규칙 위반을 잡아내는 데까지 필요해졌다는 점은 씁쓸했어요. ICML은 사용한 탐지 방식의 근거로 라오(Rao) 등의 연구를 명시했어요.

저는 이 사건을 보며 연구 환경도 함께 살펴보고 싶었어요. AI가 문서 읽기와 초안 작성을 쉽게 만드는 상황에서, 연구자가 직접 확인해야 할 일은 무엇일까요. 규칙 위반의 책임을 묻는 일과, 올바른 사용법을 배우는 일 모두 필요해 보여요.

박사과정의 훈련과 학술지 심사에서도 이 문제가 어떻게 나타나는지 살펴볼게요.

ICML이 확인한 위반의 범위

ICML 2026에는 심사 중 LLM을 쓰지 않는 Policy A와, 논문 이해·관련 연구 파악·리뷰 다듬기에 LLM을 허용하는 Policy B가 있었어요. 심사자는 선호를 밝혔고, 저자의 요구와 지원 현황에 따라 배정됐어요. Policy A에는 A를 선택했거나 두 정책 모두 괜찮다고 답한 사람만 배정됐어요.

조직위는 Policy A 심사자 506명의 리뷰 795건에서 LLM 사용을 확인했어요. 이 리뷰들은 전체 리뷰의 약 1%였고 삭제됐어요. 자신이 낸 리뷰 중 절반이 넘는 리뷰에서 위반이 확인된 51명은 모든 리뷰가 삭제되고 심사자 명단에서도 제외됐어요.

논문 거부는 그중 398명을 지정 상호 심사자²로 등록한 제출 논문 497편에 적용됐어요. 적발된 506명 전원이 논문 거부의 직접 대상이었던 것은 아니에요. 또한 이 조치는 리뷰 작성 과정에서 금지된 LLM을 썼다는 판단이지, 리뷰 전체를 AI가 썼다는 판정은 아니에요.

이 방식으로 모든 LLM 사용을 찾을 수는 없어요. 지시문이 제거되거나 모델이 따르지 않으면 놓칠 수 있고, 출력물을 수정해도 탐지가 어려워져요. 조직위도 PDF를 넣고 결과를 그대로 붙이는 식의 일부 위반을 잡는 방법이라고 설명했어요. 따라서 적발된 1%를 전체 AI 사용률로 볼 수는 없어요.

제가 만들었던 PDF 보호 도구도 기술적 제한만으로 사용을 완전히 막기 어려웠어요. 보호 장치를 제거하거나 다른 방식으로 문서를 읽으면 제한이 풀릴 수 있었거든요. 규칙과 교육, 사용자의 책임이 함께 필요하다고 생각하는 이유예요.

학술 출판사 Frontiers의 2025년 설문에도 AI를 쓰는 심사자가 많이 나와요. 전체 연구자 응답은 1,645명이었고, 심사 중 AI 사용 빈도 문항에 답한 909명 중 53%가 사용한다고 답했어요. 경력 5년 이하 응답자의 **심사 중 사용률은 61%**였어요. 보고서에 나오는 87%는 초기 경력 연구자의 AI 사용 전반을 가리키는 별도 수치예요. 이 설문은 활용 현황을 묻는 조사여서, 사용했다는 응답을 규칙 위반으로 볼 수는 없어요.