🧩 저널리즘에 AI를 얼마나?

안녕하세요! 디프레임의 오나영입니다 :)

📰 AI와 저널리즘에 대한 단상

지난 8월 2일부터, 제가 매일 사용하는 AI 모델에 새로운 기능이 추가되었습니다. 여러 생성형 AI 중에서 클로드를 메인으로 사용하고 있는데, 클로드가 작성한 글에 인간의 눈에는 보이지 않는 워터마크가 찍히기 시작한 겁니다.

앤트로픽은 워터마크를 EU AI법의 투명성 의무에 맞추기 위한 조치라 설명했습니다. 클로드를 사용하고 있는 지역을 구분할 방법이 아직 없어서(정말인지는 모르겠습니다?) 전 세계 사용자들을 대상으로 일괄적으로 적용한다고 공지했습니다.

이 조치를 보면서 저널리즘 영역에서 AI를 어떻게 접근해야 할지 다시금 생각해보게 되더라고요.

AI 워터마크란?

앤트로픽이 말하는 워터마크는 텍스트에 끼워넣는 특수문자 같은 종류가 아닙니다. 클로드와 같은 생성형 AI 모델은 글을 작성할 때 여러 적합한 단어 중 하나를 선택해서 글에 이어 붙이는 방식을 사용합니다. 이때 단어를 고르는 방식 자체에 일종의 패턴, 즉 워터마크를 새겨 넣겠다는 것이 앤트로픽의 설명입니다.

생성형 AI로 많은 사람들이 글을 비롯한 창작물을 만들어내고 있고, AI로 만들어낸 저품질의 콘텐츠들도 끊임없이 쏟아지면서 ‘AI Slop’이라는 단어도 생겼죠. 그래서 AI가 생성한 결과물인지 여부를 확인할 수 있는 표식의 필요성이 강하게 제기되어 왔습니다. EU AI법에도, 한국의 AI 기본법에도 관련 내용이 들어간 이유입니다.

그런데 사람이 직접 쓴 글이라도 클로드에 넣어 오탈자나 띄어쓰기 등을 수정하기 위한 교정만 시켜도 워터마크가 남을 수 있습니다. 즉, 워터마크는 “AI가 작성했다”와 “AI가 손봤다”는 걸 구분해주지 못합니다.

이러한 경우 뿐만 아니라, AI로 리서치를 하고 아이디어 브레인스토밍을 한 걸 바탕으로 만든 결과물은 어떻게 봐야하는 걸까요? AI가 생성했다고 판단하는 기준은 어떻게 정해야 하는 걸까요?

앤트로픽의 발표는 많은 사람들의 반발을 불렀고, (역시나) 며칠만에 클로드의 워터마크를 지우는 도구들이 쏟아져 나왔습니다. 물론, 이 도구들이 완벽하게 워터마크를 지운다는 보장은 없지만 최소한 사람들의 마음은 편하게 해주고 있죠(AI 워터마크와 관련된 다양한 찬반 의견은 이곳에서 읽어보세요).

워터마크로 신뢰가 만들어질까요

이 논란의 기저에는 ‘AI가 얼마나 관여했는지’를 표시하면 어느 정도의 신뢰 문제가 해결될 거라는 생각이 있다고 봅니다. 워터마크도 그렇고, 언젠가는 ‘AI로 10% 사용’ 같은 표기가 나오게 될 수도 있겠죠?

하지만 이 표기는 참고사항 정도는 될 수 있겠지만, 그 결과물을 신뢰할 수 있느냐를 결정하는 핵심 요인은 되기 어렵지 않나 싶습니다.

AI와 저널리즘, 결국 신뢰와 책임

언론사들도 ‘AI 준칙’을 만드는 등 이 문제를 고민해오고 있습니다.

국경없는 기자회의 헌장부터, AI로 기사 초안 작성을 막는 CBC의 엄격한 준칙, 웬만한 AI 활용은 열어놓은 한국일보의 원칙 등 방향성은 조금씩 차이가 있습니다. 하지만 모든 준칙들에 빠지지 않고 중요하다고 명시한 건 ‘인간 기자의 책임’이에요.

AI 준칙에서 가장 난해한 게 AI를 어디까지 썼다고 공개할 것인가 즉 ‘투명성’이고, 이 부분은 앞서 언급한 AI 워터마크 조치와 이어지는 부분이죠. 하지만 저널리즘의 신뢰를 만드는 건, 기사를 비롯한 콘텐츠와 이것이 사회에서 갖는 의미에 대해 끝까지 책임지는 모습에서 나온다고 생각합니다.

언론의 보도는 단순히 정보를 옮기는 일이 아니라, 사회적인 의미와 책임을 함께 짊어지는 일이니까요. 그래서 AI 시대가 될수록 근본적인 질문을 던지게 됩니다.

AI로 정보를 습득하고 콘텐츠를 만드는 일이 너무나 쉬워지고 있기 때문에, 보도하는 정보가 정확한지, 값어치가 있는지, 그리고 문제가 발생할 경우 누가 책임을 질 것인가가 더 중요해지고 있습니다.

확률적으로 대답하는 AI에게 기대할 수 없는 것

생성형 AI는 기술의 특성상, 확률적으로 가장 그럴듯한 문장을 만들어냅니다. ‘환각’ 현상이 (아무리 낮은 확률이라도) 발생할 수 밖에 없는 시스템입니다.

실제로 법원에 낸 서면에 AI가 만드는 가짜 판례가 실리는 일까지 벌어지기도 하죠. 그 서면에 AI 워터마크가 찍혀있었다고 해도, 가짜 판례가 걸러지진 않을 겁니다. 표시가 ‘검증’이나 ‘책임’을 의미하는 건 아니니까요.

그렇기에 AI 시대의 저널리즘이 해야하는 핵심 고민은 ‘AI를 얼마나 썼다고 표시할까’보다는 ‘무엇에 대해, 어떻게 책임질까’ 아닐까요?

저도 이 글의 리서치와 교정에 AI의 도움을 받았습니다. 하지만 여러분이 디프레임을 신뢰할지를 판단하는 건 AI 사용 여부를 몇 퍼센트로 표시하느냐가 아니라, 디프레임의 대표이자 기자인 제가 이 글의 내용에 대해 끝까지 책임지느냐일 겁니다. 워터마크가 붙든 안 붙든 말입니다.

🌟 디프레임 소식 - 후원 시스템 구축

오래 걸렸습니다. 각종 행정 절차 끝에 8월 중순에서야 후원 시스템을 갖추게 되었습니다. 비영리 독립언론인 디프레임이 우리 사회에 필요한 것들을 계속 취재하고 보도할 수 있도록 힘을 모아주세요!

후원

디프레임은 광고 없이 운영되는 독립 언론입니다. 후원은 디프레임이 외부 영향 없이 취재를 이어가는 데 가장 직접적인 힘이 됩니다. 후원하러 가기 혹은 아래 계좌로 직접 후원도 가능합니다. 신한은행 140-016-449079 디프레임 오나영 기타 후원 문의 : zero@thedeframe.com

디프레임오나영

👀 취재 메모 - AI와 노동현장의 이야기

지난 8월 13일에 진행된 김용균 포럼 <AI가 노동현장과 노동안전에 미치는 영향> 에 다녀왔습니다. 공공기관의 콜센터, 보건의료 현장, 배달 플랫폼, 유통업계 등 다양한 노동 현장에서 AI가 어떻게 도입되고 일하는 사람들에게 어떤 영향을 끼치고 있는지 생생한 이야기를 들을 수 있던 자리였습니다.

현장의 목소리를 디프레임의 눈으로 최대한 생생하게 전달하려 했습니다. 이후에는 각 분야의 현장의 이야기를 좀 더 깊이있게 취재해서 보도하려 합니다!

AI는 쉬운 일만 가져갔고, 위험은 사람에게 남겼다

지난 8월 13일에 진행된 김용균 포럼 <AI가 노동현장과 노동안전에 미치는 영향> 에 다녀왔습니다. AI가 실제 한국의 노동현장에 어떻게 도입되고 있는지 생생한 이야기를 들을 수 있는 시간이었습니다. 디프레임의 관점으로 포럼의 내용을 풀어봅니다.

디프레임오나영