LAION-5B
더 많은 작업
LAION-5B(Large-scale Artificial Intelligence Open Network 5 Billion)는 비영리 인공지능 연구단체 LAION이 2022년 공개한 약 58억 5,000만 개의 이미지·텍스트 쌍으로 구성된 대규모 공개 멀티모달 데이터셋으로, 이미지와 언어의 관계를 학습하는 생성형 인공지능 및 비전 언어 모델의 개발과 연구에 활용된다.
LAION-5B는 인터넷에서 수집한 이미지와 관련 텍스트를 연결한 대규모 학습용 데이터셋이다. 2022년 3월 31일 공개되었으며, 기존 LAION-400M보다 약 14배 큰 규모로 구축되었다.[1]
당시 대규모 이미지·언어 모델을 학습하기 위한 수십억 건 규모의 데이터셋은 주로 대형 기술기업이 독점적으로 보유하고 있었다. LAION-5B는 연구기관과 개발자에게 공개된 대규모 데이터셋을 제공함으로써 이러한 기술적 진입장벽을 낮추는 데 기여했다.
특히 스테이블 디퓨전(Stable Diffusion)을 비롯한 이미지 생성 인공지능의 발전에 중요한 역할을 했다. 다만 데이터 수집 과정에서 저작권, 개인정보 보호, 불법 콘텐츠 등의 문제가 제기되었으며, 2023년 배포가 일시 중단된 뒤 2024년 정제된 후속 데이터셋인 Re-LAION-5B가 공개되었다.
| 항목 | 내용 |
|---|---|
| 명칭 | LAION-5B |
| 개발 | LAION |
| 최초 공개 | 2022년 3월 31일 |
| 데이터 규모 | 약 58억 5,000만 개 이미지·텍스트 쌍 |
| 데이터 유형 | 이미지 URL, 설명 텍스트, 이미지 메타데이터, 임베딩 등 |
| 수집 기반 | Common Crawl 등 공개 웹 데이터 |
| 주요 기술 | CLIP, 임베딩, 코사인 유사도 |
| 활용 분야 | 이미지 생성, 이미지·텍스트 검색, 멀티모달 학습 |
| 메타데이터 라이선스 | CC BY 4.0 |
| 후속 데이터셋 | Re-LAION-5B |
| 공식 웹사이트 | https://laion.ai/ |
LAION-5B는 이미지 자체를 일괄적으로 배포하는 방식이 아니라, 이미지가 있는 위치와 관련 메타데이터를 제공하는 구조를 기본으로 한다.
주요 정보는 다음과 같다.[1]
- 이미지 URL: 이미지가 위치한 인터넷 주소
- 텍스트(TEXT): 이미지와 연결된 설명문, 대체 텍스트 등
- 이미지 크기: 가로 및 세로 해상도
- 언어 정보: 이미지 설명에 사용된 언어
- CLIP 임베딩: 이미지 또는 텍스트의 의미적 특징을 나타내는 벡터
- 유사도 점수: 이미지와 설명 텍스트 사이의 의미적 관련성
- 안전성 점수: 부적절한 콘텐츠일 가능성에 대한 모델의 추정값
- 워터마크 점수: 이미지에 워터마크가 포함되어 있을 가능성
LAION-5B는 영어뿐 아니라 다수의 언어를 포함하는 다국어 데이터셋이다.
2022년 발표된 연구에 따르면 전체 데이터는 다음과 같이 구분된다.[2]
| 구분 | 규모 | 설명 |
|---|---|---|
| laion2B-en | 약 23억 2,000만 건 | 영어 텍스트가 포함된 이미지·텍스트 쌍 |
| laion2B-multi | 약 22억 건 | 영어 이외의 다양한 언어를 포함하는 데이터 |
| laion1B-nolang | 약 12억 건 | 언어를 명확하게 판별하기 어려운 데이터 |
영어 데이터의 비중이 크지만, 100개 이상의 언어가 포함되어 있어 다국어 이미지 검색 및 모델 학습에도 활용할 수 있다.
LAION-5B는 웹 크롤링을 통해 수집된 대규모 인터넷 데이터를 기반으로 구축되었다.
주요 데이터 출처 중 하나는 공개 웹 크롤링 프로젝트인 Common Crawl이다. 웹페이지에 포함된 이미지 주소와 관련 텍스트를 추출하여 이미지·텍스트 쌍을 생성한다.
예를 들어 웹페이지에 다음과 같은 이미지 태그가 있다면 이미지 URL과 설명 텍스트를 학습 후보로 추출할 수 있다.
<img src="cat.jpg" alt="A cat sitting on a sofa">
이 경우 이미지 주소와 'A cat sitting on a sofa'라는 설명이 하나의 데이터 쌍을 구성한다.
단, 인터넷에 공개되어 있다는 사실만으로 해당 이미지의 저작권이 소멸하거나 자유로운 재사용이 허용되는 것은 아니다.
LAION-5B의 핵심적인 기술적 특징은 CLIP을 이용한 데이터 필터링이다.
CLIP(Contrastive Language-Image Pre-training)은 이미지와 텍스트를 공통된 의미 공간의 벡터로 표현할 수 있는 모델이다.
LAION은 이를 이용해 이미지와 텍스트의 의미적 유사도를 측정하고, 일정 기준에 부합하는 데이터 쌍을 선별했다.
- 이미지와 관련 텍스트를 수집한다.
- CLIP 모델을 이용해 이미지와 텍스트를 각각 벡터로 변환한다.
- 코사인 유사도 등을 이용해 두 벡터의 의미적 관련성을 계산한다.
- 설정된 기준에 따라 관련성이 낮은 데이터 쌍을 제외한다.
- 최종적으로 선별된 데이터와 메타데이터를 저장한다.
이러한 절차를 통해 수십억 개의 데이터를 자동으로 처리할 수 있었다.
그러나 CLIP 기반 필터링은 이미지와 텍스트의 의미적 관련성을 판단하는 기술이지, 이미지의 저작권 상태나 불법성까지 검증하는 기술은 아니다.
2023년 12월 미국 스탠퍼드 인터넷 관측소(Stanford Internet Observatory)의 연구에서 LAION-5B 데이터셋에 아동 성착취물(CSAM)로 의심되는 이미지의 링크가 포함되어 있다는 사실이 보고되었다.
연구진은 3,226건의 의심 사례를 식별했으며, 그중 1,008건은 외부 기관의 검증을 받았다.[3]
이 문제는 웹 규모의 학습 데이터셋에 자동화된 필터링만 적용할 경우 불법 콘텐츠가 포함될 수 있다는 위험을 보여주었다.
LAION은 2023년 12월 19일 관련 보고에 대응하여 LAION-5B와 LAION-400M의 배포를 일시 중단하고 안전성 검토를 시작했다.[4]
Re-LAION-5B는 기존 LAION-5B에서 확인된 안전성 문제를 개선하여 2024년 8월 공개한 후속 데이터셋이다.
LAION은 Internet Watch Foundation(IWF), Canadian Centre for Child Protection(C3P) 등 관련 기관과 협력하여 알려진 아동 성착취물의 이미지 해시 및 링크 정보를 기반으로 데이터를 재검토했다.[6]
LAION의 발표에 따르면 추가 검토를 통해 총 2,236개의 의심 링크가 확인되었으며, 이 수치에는 2023년 스탠퍼드 연구에서 제시된 1,008개의 링크도 포함된다.
| 구분 | Re-LAION-5B-research | Re-LAION-5B-research-safe |
|---|---|---|
| 목적 | 연구용 데이터 제공 | 보다 강화된 안전성 필터링 |
| 필터링 기준 | 알려진 불법 콘텐츠 및 높은 위험 점수의 데이터 제거 | 추가적인 NSFW 콘텐츠 제거 |
| 제거 비율 | 원본의 약 1.121% | 원본의 약 3.044% |
| 제거 건수 | 약 6,500만 건 | 약 1억 7,600만 건 |
| 데이터 관계 | 원본 LAION-5B의 부분집합 | research 버전의 부분집합 |
두 버전 모두 허깅 페이스(Hugging Face)를 통해 접근할 수 있도록 공개되었으며, 소속 정보 제출 등 접근 조건이 적용된다.[6]
LAION은 기존 LAION-5B를 사용하는 연구기관에 Re-LAION-5B로의 전환을 권고했다.
다만 이러한 정제는 2024년 7월까지 협력기관이 파악한 의심 콘텐츠를 기준으로 수행된 것이므로, 모든 불법 콘텐츠나 개인정보 문제가 완전히 제거되었다는 의미는 아니다.
LAION-5B는 대규모 이미지·텍스트 데이터를 공개함으로써 멀티모달 인공지능 연구의 진입장벽을 낮춘 대표적인 데이터셋이다.
특히 CLIP 기반의 데이터 선별과 대규모 웹 데이터 활용 방식은 이후의 공개 AI 학습 데이터 구축에 중요한 선례가 되었다.
반면 웹에서 자동 수집한 데이터가 규모만으로 품질과 안전성을 보장받을 수 없다는 한계도 드러냈다.
- 연구 접근성: 대규모 비전·언어 모델 연구에 필요한 데이터 접근성을 확대했다.
- 기술적 확장성: 수십억 건의 이미지·텍스트 쌍을 자동으로 수집하고 필터링하는 방식을 제시했다.
- 데이터 품질: 웹페이지의 설명문이 이미지 내용을 정확하게 반영하지 않을 수 있다.
- 법적 위험: 저작권 및 개인정보 관련 권리관계가 개별 데이터마다 다를 수 있다.
- 안전성 문제: 자동화된 콘텐츠 필터만으로는 모든 불법·유해 데이터를 제거하기 어렵다.
- 재현성과 유지관리: 원본 이미지가 외부 웹사이트에 존재하므로 링크 만료, 이미지 교체, 접근 차단 등에 영향을 받는다.
LAION-5B와 Re-LAION-5B의 사례는 대규모 AI 학습 데이터셋의 공개뿐 아니라 데이터 출처 관리, 유해 콘텐츠 제거, 사후 정정 및 재배포 절차가 중요하다는 점을 보여준다.
- ↑ 1.0 1.1 1.2 1.3 LAION, 「LAION-5B: A New Era of Open Large-Scale Multi-Modal Datasets」, https://laion.ai/blog/laion-5b/, 확인: 2026-10-22.
- ↑ Christoph Schuhmann et al., 「LAION-5B: An Open Large-Scale Dataset for Training Next Generation Image-Text Models」, NeurIPS 2022, https://arxiv.org/abs/2210.08402, 확인: 2026-10-22.
- ↑ 404 Media, 「Largest Dataset Powering AI Images Removed After Discovery of Child Sexual Abuse Material」, https://www.404media.co/laion-datasets-removed-stanford-csam-child-abuse/, 확인: 2026-10-22.
- ↑ LAION, 「Safety Review for LAION 5B」, https://laion.ai/notes/laion-maintenance/, 확인: 2026-10-22.
- ↑ Ars Technica, 「AI trained on photos from kids’ entire childhood without their consent」, https://arstechnica.com/tech-policy/2024/06/ai-trained-on-photos-from-kids-entire-childhood-without-their-consent/, 확인: 2026-10-22.
- ↑ 6.0 6.1 LAION, 「Releasing Re-LAION-5B: Transparent Iteration on LAION-5B with Additional Safety Fixes」, https://laion.ai/blog/relaion-5b/, 확인: 2026-10-22.