AI는 훔쳐 읽는가, 배워 읽는가: 저작권 논란의 진짜 속살

며칠 전, 동료 개발자 하나가 챗GPT에게 제 옛날 블로그 글 스타일로 파이썬 코드를 짜달라고 시켰더군요. 결과는 썩 그럴싸했습니다. 중괄호 대신 들여쓰기를 쓰는 파이썬의 특징을 설명하며, 간결한 코드를 선호하는 제 말투까지 제법 흉내 냈습니다. 칭찬으로 들어야 할지, 멱살이라도 잡아야 할지 순간 애매했습니다.

웃어넘길 수 있는 이 작은 해프닝이, 지금 전 세계 창작자와 거대 기술 기업 사이에서 벌어지는 수조 원대 소송전의 축소판입니다. 소설가, 언론사, 예술가들이 "내 허락도 없이 내 작품을 AI 학습에 썼다"며 소송을 겁니다. AI 기업들은 "인간이 책 읽고 배우는 것과 같은 '공정 이용'"이라며 맞섭니다. 양쪽 다 일리가 있어 보입니다. 과연 누구 말이 맞을까요? 이 지루한 법정 다툼의 본질을 알려면, 과장과 선동을 걷어내고 기술의 속살부터 들여다봐야 합니다. 이게 실제로 어떻게 작동하는지 말입니다.

AI는 책을 어떻게 '읽는'가: 믹서기와 도서관의 차이

우선 AI가 책을 '읽는다'는 표현부터 바로잡아야 합니다. 우리가 도서관에서 책을 빌려 밑줄 그으며 읽고, 감명받은 구절을 되새기며 지식을 쌓는 과정과는 완전히 다릅니다. AI의 학습은 차라리 세상의 모든 책을 거대한 믹서기에 넣고 갈아버린 뒤, 그 걸쭉한 죽에서 단어와 단어 사이의 '관계'에 대한 통계적 패턴만 추출하는 것에 가깝습니다.

여기서 등장하는 전문용어가 바로 'LLM(Large Language Model)', 우리말로 옮기면 '대규모 언어 모델'입니다. 쉽게 말해, 사람 말을 흉내 내 문장을 만들어내는 AI 프로그램입니다. 이 LLM은 단어를 글자로 보지 않습니다. 예를 들어 '사랑'이라는 단어를 'ㅅㅏㄹㅏㅇ'으로 인식하는 게 아니라, 수백 개의 숫자로 이루어진 고유한 좌표값, 즉 '벡터(vector)'로 바꿔버립니다. 이 가상의 다차원 공간에서 '사랑'이라는 좌표 옆에는 '연인', '이별', '설렘' 같은 단어들의 좌표가 가깝게 위치합니다. 반면 '트랙터'나 '반도체' 같은 뜬금없는 단어들은 아주 멀리 떨어져 있겠죠.

AI의 '학습'이란, 수십만 권의 책과 수십억 개의 웹페이지를 모조리 이 숫자 좌표로 바꾸고, 어떤 단어 뒤에 어떤 단어가 올 확률이 높은지를 계산해 이 거대한 좌표 지도를 만드는 과정 전체를 뜻합니다. '로미오와' 다음에는 '줄리엣'이 올 확률이 압도적으로 높다는 것을, 수많은 텍스트를 통해 통계적으로 배우는 겁니다. 그래서 우리가 "옛날 옛적에"라고 말을 걸면 AI는 학습된 확률에 따라 "호랑이가 담배 피우던 시절" 같은 그럴싸한 뒷말을 이어 붙일 수 있게 됩니다. 원본 텍스트를 통째로 외우는 게 아니라, 단어들의 연결망에 대한 확률 분포를 저장하는 셈입니다. 바로 이 지점에서 AI 기업들은 "이건 복제가 아니라 새로운 지도를 그린 '변형적 사용(transformative use)'"이라고 주장하는 근거가 나옵니다.

데자뷔: 4세대 언어와 CASE 도구의 망령

이런 논쟁을 보고 있으면 기시감이 듭니다. 기술이 기존 직업을 완전히 대체할 것이라는 흥분과 공포가 뒤섞인 분위기는 이번이 처음이 아닙니다. 저 같은 오래된 엔지니어들은 비슷한 장면을 몇 번이나 목격했습니다.

1980년대에는 '4세대 언어(4GL)'라는 것이 있었습니다. 코볼이나 포트란 같은 복잡한 3세대 언어 대신, 사람이 쓰는 말에 가깝게 명령하면 프로그램이 뚝딱 나온다는 개념이었습니다. 'PRINT ALL CUSTOMERS WITH BALANCE > 1000'라고 쓰면 정말 조건에 맞는 고객 목록이 출력됐습니다. 당시 업계에서는 이제 복잡한 코딩을 하는 프로그래머는 모두 사라질 것이라고들 했습니다.

90년대에는 'CASE(Computer-Aided Software Engineering) 도구'가 그 자리를 대신했습니다. 마치 설계도를 그리듯 화면에 네모와 화살표를 그리면, 컴퓨터가 알아서 데이터베이스 구조와 프로그램 코드를 자동으로 생성해준다는 꿈의 기술이었습니다. 이때도 마찬가지로 프로그래머의 종말이 예견됐습니다. 코딩의 시대는 가고 설계의 시대가 온다는 말이 유행처럼 번졌죠.

결과는 어땠습니까? 4세대 언어와 CASE 도구는 결국 '장난감' 취급을 받으며 사라졌습니다. 왜였을까요? 정해진 틀 안의 단순하고 반복적인 작업은 잘 해냈지만, 현실 세계의 비즈니스가 던지는 복잡한 예외 처리나, 미세한 성능 개선, 기존 시스템과의 지저분한 연동 같은 '진짜 문제' 앞에서는 무력했기 때문입니다. 프로그래머는 사라지지 않았습니다. 오히려 이 도구들을 '부릴 줄 아는' 프로그래머, 즉 도구가 생성한 코드의 한계를 이해하고 핵심적인 부분을 직접 수정할 줄 아는 프로그래머의 몸값이 더 올랐습니다. 단순 코더는 위협받았지만, 문제 해결 능력을 갖춘 엔지니어의 가치는 오히려 부각된 셈입니다.

생성 AI를 둘러싼 오늘의 소동도 결국 비슷한 길을 가지 않을까, 저는 조심스럽게 예측합니다. AI가 그럴싸한 초안은 얼마든지 만들어낼 겁니다. 하지만 그게 진짜인지, 표절은 아닌지, 우리 서비스의 방향과 맞는지 '판단'하는 일의 가치는 오히려 더 높아질 겁니다.

그래서, 법은 누구 편인가: '공정 이용'이라는 고무줄 잣대

역사 얘기는 그만하고, 다시 현실의 법정 다툼으로 돌아와 봅시다. 이 싸움의 가장 큰 쟁점은 '공정 이용(Fair Use)'이라는 네 글자입니다. 미국 저작권법에 있는 조항인데, 저작권자의 허락 없이도 저작물을 제한적으로 사용할 수 있는 경우를 말합니다. 비평, 보도, 연구, 교육 등이 대표적이죠. AI 기업들은 자신들의 학습 과정이 여기에 해당한다고 주장합니다.

문제는 '공정 이용'이 칼로 무 자르듯 명확한 기준이 아니라는 점입니다. 법원은 보통 네 가지 요소를 저울질해 종합적으로 판단하는데, 마치 고무줄 잣대처럼 사건마다 해석이 달라집니다.

1. 사용 목적과 성격: 상업적 목적으로 쓸수록 공정 이용으로 인정받기 어렵습니다. AI 기업들은 대부분 영리 기업이니 이 점에선 불리합니다. 하지만 이들은 '상업적'이지만 원본을 그대로 베낀 게 아니라 새로운 목적의 창작물을 만든 '변형적 사용'이라 괜찮다고 맞섭니다.
2. 저작물의 성격: 사실을 담은 보도자료보다는 상상력이 가미된 소설이나 시 같은 창작물일수록 저작권이 강하게 보호됩니다. AI가 학습한 데이터에 소설책이 대거 포함됐다면, 이 역시 AI 기업에 불리한 요소입니다.
3. 사용한 부분의 양과 중요도: 책 한 권에서 한두 문장을 인용하는 것과 책 전체를 통째로 학습 데이터로 쓰는 것은 차원이 다릅니다. AI는 말 그대로 '전부'를 사용하니 압도적으로 불리해 보입니다. 하지만 AI 기업들은 책 전체를 '복사'한 게 아니라, 거기서 '통계적 패턴'만 추출했으니 괜찮다는 논리를 폅니다.
4. 저작물의 시장 가치에 미치는 영향: 이것이 사실상 가장 중요한 판단 기준입니다. AI가 생성한 결과물이 원본 저작물의 시장을 갉아먹고 대체하는 효과가 있다면, 공정 이용으로 인정받기 거의 불가능합니다. 뉴욕타임스가 챗GPT를 상대로 낸 소송의 핵심도 이 부분입니다. "사람들이 이제 우리 웹사이트에 와서 기사를 읽는 대신, 챗GPT에게 요약해달라고 물어본다. 이건 명백히 우리 시장을 잠식하는 행위다"라는 주장입니다.

이처럼 양측의 주장은 아래 표와 같이 팽팽하게 맞섭니다.

판결이 어떻게 나올지는 아무도 모릅니다. 하지만 최근 뉴욕타임스가 OpenAI 모델이 자사 기사를 거의 토씨 하나 안 틀리고 뱉어내는 '앵무새 현상(regurgitation)'의 증거를 다수 제출하면서, 창작자 측에 유리한 분위기가 조성되는 모양새입니다. AI가 단순히 패턴만 학습한 게 아니라, 특정 데이터를 과하게 학습해 사실상 외워버렸다는 강력한 증거이기 때문입니다.

흔한 오해 깨부수기: 두 가지 착각

이 논쟁을 둘러싸고 퍼져있는 흔한 오해 두 가지를 짚고 넘어가야겠습니다. 이 착각들이 논의를 엉뚱한 방향으로 끌고 가기 때문입니다.

오해 1: "AI는 그냥 인터넷에 공개된 것만 학습하는 거 아니냐?"

천만에요. 인터넷에 널린 '공짜' 데이터만으로는 양질의 AI를 만들기 어렵습니다. 누구나 글을 쓸 수 있는 웹 공간에는 욕설, 비문, 음모론, 광고글이 넘쳐납니다. 이런 '오염된' 데이터로 AI를 학습시키면, AI 역시 이상한 말을 내뱉는 '사이버 망령'이 되기 십상입니다. 그래서 AI 기업들은 전문가들이 여러 번 다듬고 교정한, 세상에서 가장 정제된 텍스트인 '책' 데이터에 목을 맵니다.

'The Pile'이라는 유명한 공개 데이터셋의 구성을 보면, 'Books3'라는 항목이 전체의 16%를 차지합니다. 이 'Books3'의 실체가 바로 저작권이 살아있는 도서 19만 6천여 권을 불법으로 긁어모은 것이라는 사실은 공공연한 비밀입니다. 최근에는 한 언론사가 위치추적 장치를 숨긴 희귀 도서 한 상자를 온라인으로 주문해, 그 종착지가 아마존의 AI 학습용 데이터 스캔 시설이었다는 사실을 폭로하기도 했습니다. 그들은 책의 제본을 뜯어내고, 내용을 스캔한 뒤, 책은 파기하는 것으로 알려졌습니다. AI는 결코 이슬만 먹고 자라지 않습니다. 막대한 양의 '훔친 지식'을 먹고 자랐다는 비판에서 자유롭기 어렵습니다.

오해 2: "학습 데이터 사용료를 내게 하면 AI 혁신이 멈출 것이다."

이 역시 기술 기업들이 즐겨 사용하는 과장 섞인 엄살입니다. 음악 스트리밍 서비스를 생각해보면 쉽습니다. 스포티파이나 멜론이 음원 저작권자에게 스트리밍 횟수만큼 돈을 지불한다고 해서 음악 산업이 멈췄습니까? 아닙니다. CD와 MP3 불법 다운로드로 고사 직전이던 음악 시장은 오히려 거대한 스트리밍 산업으로 재편되며 부활했습니다.

물론 AI 학습 데이터는 음악보다 훨씬 방대하고 복잡해서, 스트리밍처럼 사용 횟수당 요금을 매기는 단순한 모델을 적용하기는 어려울 겁니다. 하지만 '비용 지불 = 혁신 중단'이라는 극단적인 이분법은 곤란합니다. 오히려 '데이터 사용권(라이선스)'이라는 새로운 시장이 열리고, 창작자들에게 정당한 보상이 돌아가는 새로운 산업 생태계가 만들어질 가능성도 충분합니다. 이미 어도비(Adobe) 같은 회사는 자신들의 스톡 이미지 판매 사이트에서 구매한 이미지로만 AI를 학습시켜 '저작권 걱정 없는 AI'를 팔기 시작했습니다. 비용이 들더라도, 법적 리스크가 없는 깨끗한 데이터에 대한 수요는 분명히 존재합니다.

결국 '판단의 값'이 비싸진다

다시 4세대 언어와 CASE 도구 이야기로 돌아가 봅시다. 그 도구들이 그랬듯, 생성 AI 역시 '그럴싸한 초안'을 대량 생산하는 데는 탁월한 능력을 보일 겁니다. 코딩, 글쓰기, 디자인, 기획안 작성 등 많은 영역에서 '백지' 상태에서 시작하는 고통을 덜어줄 강력한 조수가 될 겁니다.

하지만 바로 그 때문에, AI가 내놓은 결과물을 최종적으로 검토하고 세상에 내보낼지 말지를 결정하는 '판단'의 가치와 책임은 이전과 비교할 수 없을 정도로 무거워집니다. 판단의 값은 오히려 더 비싸질 겁니다.

예를 들어보겠습니다. 과거에는 신입사원이 서툰 솜씨로 보고서 초안을 써오면, 선배는 그 내용의 논리가 맞는지, 오탈자는 없는지만 검토하면 됐습니다. 하지만 이제 챗GPT가 30초 만에 써낸 유려한 보고서 초안을 검토하는 선배는 전혀 다른 종류의 일을 해야 합니다.

• '이 보고서에 인용된 통계 수치는 진짜인가? 출처가 어디지?'
• '이 문장이 혹시 뉴욕타임스 최근 기사를 그대로 베낀 건 아닐까?'
• '이 분석은 그럴싸해 보이지만, 우리 회사의 실제 상황과는 맞지 않는 뜬구름 잡는 소리는 아닐까?'

단순히 글의 완성도를 높이는 수준을 넘어, 사실 검증, 저작권 필터링, 비즈니스 맥락 적용 등 훨씬 고차원적인 '판단 노동'을 수행해야 합니다. AI가 초안 작성이라는 단순 노동의 값을 '0'에 가깝게 떨어뜨리는 만큼, 그 결과물에 최종 책임을 지는 인간의 판단 노동의 값을 폭등시키고 있는 셈입니다. 결국 AI 시대에 살아남는 것은 AI를 잘 '부리는' 사람이 아니라, AI의 결과물을 잘 '판단하는' 사람이 될 것입니다.

독자가 던질 법한 질문들

Q. 제 블로그 글이나 제가 쓴 책도 AI가 학습했을까요? 어떻게 확인할 수 있나요? A. 솔직히 말해, 개인이 확인할 방법은 거의 없습니다. AI 기업들은 학습에 사용한 데이터 목록을 '영업비밀'이라며 공개하지 않기 때문입니다. 다만 인터넷에 한 번이라도 공개된 글이라면, 이미 어떤 형태로든 학습에 쓰였다고 가정하는 편이 마음 편합니다. 현재 진행 중인 소송들을 통해 일부 데이터셋의 내용이 공개되기도 하지만, 내 글이 포함되었는지 일일이 확인하는 것은 현실적으로 불가능에 가깝습니다.

Q. AI로 그림이나 글을 만들어 돈을 벌어도 괜찮은가요? 저작권 문제는 없나요? A. 현재로서는 상황이 매우 유동적입니다. 미국 저작권청은 '인간의 창작적 기여가 거의 없는' 순수 AI 생성물에는 저작권을 인정하지 않는다는 입장을 보이고 있습니다. 즉, 프롬프트(명령어)만 입력해서 얻은 결과물은 내 것이라고 주장하기 어렵다는 뜻입니다. 다만 AI를 '붓이나 펜 같은 도구'로 사용해 사람이 상당한 추가 작업을 했다면 창작성을 인정받을 여지가 있습니다. 상업적으로 사용할 때는 내가 만든 AI 그림이 특정 작가의 화풍을 너무 빼닮았거나, 유명 캐릭터와 흡사하다면 추후 소송에 휘말릴 위험이 있습니다. 일부 AI 서비스는 이런 문제 발생 시 회사가 책임져주는 '면책(indemnity)' 조항을 제공하기도 하니 약관을 잘 살펴볼 필요가 있습니다.

Q. 이 저작권 논쟁, 결국 어떻게 결론 날 것으로 보시나요? 창작자들은 무엇을 준비해야 할까요? A. 아마도 거대 기술 기업과 창작자 집단 간의 대타협, 혹은 법원의 최종 판결을 통해 일종의 '데이터 라이선스' 시장이 열리는 방향으로 갈 가능성이 높습니다. 음악 저작권료처럼, AI 학습에 데이터를 제공하는 대신 수익의 일부를 분배받거나, 데이터 사용량에 따라 이용료를 내는 모델이 될 겁니다. 창작자들은 더 이상 '내 창작물은 AI 학습 절대 금지' 같은 소극적 방어에만 머물러서는 안 됩니다. 오히려 '내 것을 쓰려면 정당한 대가를 내라'고 적극적으로 요구하고, 관련 단체를 통해 연대하며 새로운 규칙을 만드는 데 목소리를 내야 합니다. 기술을 막을 수는 없지만, 기술이 작동하는 규칙은 우리가 만들 수 있습니다.