🧩 모두 ‘동의’했다는데, 무엇에 동의했나

안녕하세요, 디프레임의 오나영입니다👾

지난주 뉴스레터를 보낸 바로 다음 날, 앤트로픽의 다리오 아모데이가 AI 개발 속도를 늦추자는 에세이를 올렸습니다. 그 글을 계기로 AI 개발 속도를 얼마나, 어떻게 조절해야 하는지를 둘러싼 논쟁이 일주일 내내 이어졌습니다.

국내 보도들은 대체로 AI 개발 속도 조절을 찬성이냐 반대냐의 구도로 바라보더군요. 뉴욕타임스는 주요 인물을 ‘늦추자’부터 ‘가속’까지 네 칸에 나눠 담은 지도를 만들었습니다.

그런데 그 지도의 ‘가속’ 칸에 있는 백악관 기술자문위 공동의장 데이비드 색스가 X에 쓴 글의 첫마디는 “go ahead”입니다. 늦추고 싶으면 늦추라는 겁니다. 아모데이에 동의한다던 샘 올트먼(오픈AI)은 하루 뒤, 법이 만들어지길 기다리지 않고 혼자 시작하겠다고 말했고요.

찬성과 반대로만 나누기에는 각자의 글에 담긴 주장이 다양했습니다. 그래서 AI 산업의 주요 인물들이 쓴 글과 발언을 직접 읽으면서, 각자가 구체적으로 무엇에 동의하고 무엇에 반대하는지 정리해봤습니다.

정리하고 보니 두 가지가 눈에 띄었습니다. 반대한다고 보도된 사람들도 AI 발전 속도 조절 자체를 전면 부정한 것은 아니었습니다. 반면 동의한다고 알려진 기업들도 아직 실제 개발 속도를 늦추는 조치를 내놓은 것은 아니었습니다.

🧭 질문을 둘로 나눠보자!

‘속도 조절’이라는 말에는 두 개의 질문이 담겨 있습니다. 무엇을 늦출지, 그리고 누가 그 속도를 정할지.

💡 무엇을 늦춰야 하나

만드는 속도. 모델을 훈련시켜 더 똑똑하게 만드는 단계입니다. 최근에는 AI가 코드 작성이나 실험 설계처럼 AI 연구의 일부를 맡는 사례가 늘고 있습니다. 이 과정이 더 발전하면 AI가 다음 세대 AI의 개발을 가속할 수 있다는 우려가 이번 논쟁의 한 배경입니다.

내놓는 속도. 만든 모델을 제품으로 출시하는 단계입니다.

샘 올트먼도 비슷하게 봅니다. 지금까지의 안전 정책은 ‘출시할 때’만 봤고 ‘만드는 도중’은 다루지 않았다고요.

누가 그 속도를 정하는지는 다섯 가지로 나눠서 볼 수 있습니다.

각 기업이 알아서
기업들끼리 합의해서 (경쟁사끼리 속도를 맞추면 담합이 될 수 있기 때문에, 정부가 예외를 인정해줘야 한다고 주장)
정부가 규제로
미리 막지 않고, 사고가 나면 법정에서 책임을 지게
국가들끼리 약속해서

이번 주 발언들을 두 축에 정리하면 이렇게 됩니다. 본인의 글과 공개 발언으로 확인한 것만 담았습니다.

➡️ 반대했다는 사람들도 표 안에 있습니다.

데이비드 색스는 기업 간 합의도, 정부 승인도 거부했지만 기업 스스로 발전 속도를 늦추는 것은 지지했습니다. 젠슨 황(엔비디아)은 최대한 빨리 AI 발전을 위해 달리라고, 새 법도 규제도 필요 없다고 하면서도, 확신이 없으면 AI 모델을 내놓지 말고 통제를 잃었다고 느끼면 멈추라고 했습니다(엔비디아 블로그, 테크크런치).

두 사람이 문제 삼은 것은 단순히 속도를 늦추는 행위 자체라기보다, 다른 기업이나 정부가 어떤 방식으로 속도를 제한할 것인지에 관한 문제였습니다.

➡️ ‘동의’했다는 기업들은 아직 개발 속도 자체를 늦추지는 않았습니다.

아모데이가 먼저 구체적으로 약속한 조치는 외부 평가자를 기업 안에 상주시키는 것이었습니다. 오픈AI가 16일 내놓은 것은 자사 모델이 지시를 어긴 사례 6건과 앞으로의 공개 기준입니다(WSJ).

둘 다 개발 속도를 직접 낮추는 조치는 아닙니다. 대신 기업 내부에서 벌어지는 일을 외부에서 확인하거나, 안전 문제가 발생했을 때 공개하는 장치입니다. 속도를 줄이는 것과 속도를 통제하는 조건을 만드는 것은 구분해서 볼 필요가 있습니다.

🚪 표 밖에서

표에 들어오지 않는 시각도 있습니다.

트럼프는 미국에 필요한 AI 규제는 “강하고 똑똑한 대통령”뿐이라며 AI가 세상을 장악하는 일은 없을 거라고도 했습니다. 위험 자체를 크게 보지 않으니 ‘무엇을 늦출지’라는 질문이 성립하지 않습니다.

반대편에서 디인포메이션은 유권자가 걱정하는 것은 일자리와 사고력과 아이들이라며, 문제는 속도가 아니라 제품이라고 썼습니다. 지난주 디프레임 뉴스레터에서도 중요하게 짚은 부분입니다.

🤔 그래서

아모데이는 외부 평가자를 기업 안으로 들이는 데서 출발해, 정부가 기업 전체에 적용할 공통의 안전 규칙을 만들어야 한다고 주장했습니다. 올트먼 역시 규제의 필요성은 인정했습니다. 그러나 규제가 만들어질 때까지 기다리지는 않겠다고 했습니다.

차이는 안전 조치가 필요한지에만 있지 않습니다. 누가 규칙을 만들고, 그 규칙이 마련되기 전에는 누가 무엇을 할 것인지에도 있습니다. 아모데이는 공통의 규칙과 외부 검증을 요구했고, 올트먼은 규제를 기다리지 않고 오픈AI가 먼저 안전 검토를 시작하겠다고 했습니다.

이처럼 동의와 반대라는 단어 만으로는 보이지 않는 것들이 있었습니다. 다음 주에도 같은 단어가 쏟아질 텐데, 그 단어가 실제로 무엇을 가리키는지 계속 확인해보겠습니다.

이번 주 디프레임은

AI로 생산성을 올릴 수 있다는 장밋빛 전망을 그대로 받아들여도 되는 건지, 관련하여 전문가와 인터뷰를 진행했습니다. 우리가 함께 고민해볼 내용들이 많습니다. AI를 사용하면서 들었던 답답한 생각들이 떠오르시면 zero@thedeframe.com 으로 메일 보내주셔도 좋아요!