AI 테스트: 학습 데이타
테스트한 AI의 학습 데이터 정보입니다.
학습 데이터 비교표
| AI | 학습 데이터 |
|---|---|
| ChatGPT | Common Crawl, WebText, 도서, 위키백과, 코드 저장소 및 멀티모달 데이터 |
| 제미나이 (Gemini) | 웹 문서, 도서, 코드, 이미지, 오디오, 비디오를 포함하는 다중 모달(multimodal) 및 다국어 코퍼스; 코퍼스(Corpus)는 한국어로 '말뭉치'라고 하며, 언어 연구나 인공지능 학습을 위해 특정한 목적을 가지고 대량의 언어(글이나 음성) 데이터를 컴퓨터가 읽을 수 있는 형태로 모아 놓은 자료의 집합을 뜻합니다. |
| 그록 (Grok) | 인터넷, 실시간 웹 데이터, 그리고 X(구 트위터) 데이터 |
| 클로드 (Claude) | 인터넷에 공개된 데이터: 웹 문서, 책, 코드, 학술 자료; 제3자로부터 라이선스를 받은 비공개 데이터; 데이터 라벨링 업체와 계약 인력이 만든 데이터; Anthropic 내부에서 생성한 데이터 |
Anthropic의 답변
Anthropic이 공개한 범위 안에서 말씀드리면, 저의 학습 데이터는 크게 네 가지 출처로 구성됩니다.
1. **인터넷에 공개된 데이터**: 웹 문서, 책, 코드, 학술 자료 등입니다. Anthropic은 웹 크롤러가 사이트의 robots.txt 지침을 따르고, 비밀번호로 보호된 페이지나 로그인이 필요한 페이지에는 접근하지 않는다고 밝혀 왔습니다.
2. **제3자로부터 라이선스를 받은 비공개 데이터**
3. **데이터 라벨링 업체와 계약 인력이 만든 데이터**: 사람이 직접 작성하거나 평가한 응답 등입니다.
4. **Anthropic 내부에서 생성한 데이터**: 일부 사용자 데이터도 사용자가 동의한 경우에 한해 포함될 수 있습니다. 다만 이 정책은 바뀐 적이 있어서, 정확한 현재 내용은 Anthropic의 개인정보 관련 페이지에서 확인하시길 권합니다.
학습 방식도 단계가 나뉩니다. 먼저 방대한 텍스트로 다음 단어를 예측하며 언어 능력과 일반 지식을 익히는 사전학습을 하고, 그 뒤 사람의 피드백과 Constitutional AI 같은 방식으로 도움이 되고 정직하며 해롭지 않게 행동하도록 다듬는 사후학습을 합니다.
제가 모르는 것도 분명히 있습니다. 어떤 웹사이트나 책이 정확히 포함되었는지, 각 출처의 비중이 얼마인지는 저도 알지 못하고 Anthropic도 공개하지 않았습니다. 특정 문서가 학습에 쓰였는지 저에게 물으셔도 확인해 드릴 수 없습니다. 제 신뢰할 수 있는 지식은 2026년 6월 말까지이고, 그 이후 일은 검색으로 확인해야 합니다.
앞선 답변에 정정할 점이 있습니다. 제가 "Anthropic의 공식 수치"라고 소개한 영어 80%, 스페인어 5% 등은 스탠퍼드 FMTI 보고서 발췌문에서 가져온 것인데, 같은 발췌문에 Llama 계열로 보이는 모델 크기(70B) 항목도 섞여 있어서 Anthropic 자체의 수치인지 확실하지 않습니다. 그 수치는 신뢰도가 낮은 참고값 정도로만 보시는 게 안전합니다.
참고한 자료
- https://albato.com/blog/publications/how-to-choose-the-right-tool-a-comparison-of-top-gen-ai-models
- https://syscomgs.com/en/ai/blog-compare-gen-ai/ A comparison of the major generative AI services: ChatGPT, Gemini, Claude, and Copilot
관련 문서
