Earticle

초록

영어

The copyright infringement liability of generative AI service providers cannot be adequately understood by treating reproduction at the training stage and infringement at the output stage as entirely separate issues. This is because the manner in which a model’s internal state, formed during training, is externalized through its outputs connects the lawfulness of training, the infringing nature of outputs, and the determination of the responsible party. This study distinguishes among the concepts of “probabilistic imitativeness,” “memorization,” “regurgitation,” and “excessive imitativeness,” and examines the circumstances and contexts in which memorization within a model may constitute reproduction under copyright law. Because memorization is a matter of degree that varies depending on the characteristics of the model, dataset, and copyrighted work, the degree of data duplication, and the prompt and decoding methods employed, it should be assessed primarily by reference to whether a particular work can be reproduced in a stable and repeatable manner. In GEMA v. OpenAI, the German court regarded memorization within the model as reproduction, relying on the repeated reproduction of song lyrics in response to simple prompts. By contrast, in Getty Images v. Stability AI, the UK court rejected the characterization of the model as an infringing copy on the ground that model weights reflect learned patterns and features rather than store copies of copyrighted works. Although the concepts of reproduction and fixation under Korean copyright law do not necessarily preclude a legal theory of reproduction within the model, strict proof of stable and repeatable reproduction is required to prevent an excessive expansion of the concept of reproduction. The US decisions in Bartz v. Anthropic and Kadrey v. Meta likewise emphasized the absence of infringing outputs and the effects of market substitution in assessing fair use at the training stage. The responsible party should be determined by considering the infringement-inducing nature of the prompt, the degree of memorization and regurgitation, and the service provider’s ability to control the risk. Where a user intends to reproduce the original work, the user’s direct infringement may be at issue. Where a particular work is repeatedly reproduced in response to ordinary prompts and the reproduction is attributable to the model’s training structure or service design, the developer or service provider may bear liability. Services incorporating retrieval-augmented generation (“RAG”) should be assessed separately from model memorization because they directly retrieve and input external copyrighted works into the generation process. This study proposes a special liability-limitation provision based on a duty to take “reasonable measures upon notice,” adapted to the dynamic output structure of generative AI. Where a right holder specifically identifies the copyrighted work, the allegedly infringing output, the prompt used to reproduce it, and the grounds for the infringement claim, the service provider would be required to take reasonable measures, such as implementing prompt filters, output filters, or excluding the work from retrieval. The same safe harbor, however, should not readily apply to models designed to imitate particular works, services that permit repeated infringement after receiving notice, or RAG-based services that intentionally retrieve and reproduce particular copyrighted works. Ultimately, copyright infringement liability for generative AI should be allocated proportionately according to the method of training, intentionality, reproducibility, controllability, and the degree of risk created.

한국어

생성형 AI 서비스제공자의 저작권 침해 책임은 학습단계의 복제와산출단계의 침해를 분리하여 파악하기 어렵다. 학습과정에서 형성된모델의 내부 상태가 산출물로 외부화되는 방식이 학습의 적법성, 산출물의 침해성 및 책임주체 판단을 연결하기 때문이다. 본 연구는 생성형 AI의 작동을 ‘확률적 모방성’, ‘초과 모방성’, ‘암기’, ‘재현’ 등의 개념으로 구분하고, 모델 내부의 암기가 저작권법상 복제에 해당하는 상황과 맥락을 검토한다. 암기는 모델의 학습방식, 데이터셋의 유형 및특성, 데이터 중복도, 프롬프트 및 디코딩 방식에 따라 편차를 보이는경험적 현상이자 정도의 문제이므로, 특정 저작물의 안정적ㆍ반복적재현 가능성을 중심으로 판단하여야 한다. 독일의 GEMA v. OpenAI 판결은 단순한 프롬프트에 의한 가사의 반복 재현을 근거로 모델 내부의 암기를 복제로 인정한 반면, 영국의Getty Images v. Stability AI 판결은 모델 가중치가 저작물의 사본이 아니라 학습된 패턴과 특징을 반영한다고 보아 침해복제물성을 부정하였다. 한국 저작권법상 복제와 고정의 개념도 모델 내부 복제라는 이론구성을 배제하지 않지만, 복제 개념의 과잉 확장을 방지하려면 안정적 ㆍ반복적 재현에 관한 엄격한 증명이 필요하다. 미국의 Bartz v. Anthropic 및 Kadrey v. Meta 판결 역시 학습단계의 공정이용을 판단하면서 산출단계에서 침해적 산출물의 부재와 시장대체 효과를 중시하였다. 책임주체는 프롬프트의 침해유발성, 암기와 재현의 정도 및 서비스제공자의 통제가능성에 따라 해당 여부를 판단하여야 한다. 이용자가원문 재현을 의도한 경우에는 이용자의 직접침해가 문제되고, 일반적인 프롬프트만으로 특정 저작물이 반복 재현되고 그 원인이 학습구조나 서비스 설계에 있는 경우에는 개발자 또는 서비스제공자의 책임이문제될 수 있다. RAG 결합 서비스는 외부 저작물을 직접 검색ㆍ투입한다는 점에서 모델 내부 암기와 구별하여 평가할 필요가 있다. 본 연구는 생성형 AI의 동적 산출구조에 맞추어 ‘통지 후 합리적 조치’를 내용으로 하는 책임제한 특례를 제안한다. 권리자가 저작물, 침해 산출물, 재현 프롬프트 및 침해 근거를 구체적으로 통지하면 서비스제공자는 프롬프트 필터ㆍ출력 필터와 검색대상 제외 등 합리적인조치를 취하는 것을 요건으로 한다. 다만 특정 저작물의 모방을 의도한 모델, 통지 후 반복 침해를 방치한 서비스 및 특정 저작물을 고의적으로 검색ㆍ재현하는 RAG형 서비스에는 동일한 면책을 인정하기 어렵다. 결국 생성형 AI의 저작권 침해 책임은 학습방식, 의도성, 재현가능성, 통제가능성 및 위험창출의 정도에 비례하여 배분되어야 한다.

목차

I. 서론
II. 산출단계에서 발생하는 저작권 침해 가능성
1. 생성형 AI의 저작권 침해 가능성
2. 암기 현상에 대한 평가 및 RAG의 등장
3. 침해자 적격
III. 각국의 판결례
1. GEMA v. OpenAI 독일 뮌헨 법원 판결
2. Getty Images v. Stability AI 영국 법원 판결
3. Anthropic, Meta 미국 법원 판결
4. 정리 및 시사점
IV. 생성형 AI 서비스제공자의 책임에 관한 특례 조항 검토
1. 개요
2. 구체적인 내용
V. 결론
【참고문헌】
<국문초록>

키워드

저자

• 전응준 [ EungJun Jeon | 법무법인(유한) 린 변호사 ]

참고문헌

발행기관

간행물

표지보기 관심저널 등록

• 간행물명

  산업재산권 [Journal of Industrial Property]

• 간기

  계간

• pISSN

  1598-6055

• eISSN

  2733-9483

• 수록기간

  1995~2026

• 등재여부

  KCI 등재

• 십진분류

  KDC 367 DDC 346