AI 테스트: 학습 데이타: 두 판 사이의 차이
(새 문서: 테스트한 AI의 학습 데이터 정보입니다. == 학습 데이터 비교표== {| class="wikitable" ! style="text-align: center | AI ! style="text-align: center | 학습 데이터 |- | ChatGPT || Common Crawl, WebText, 도서, 위키백과, 코드 저장소 및 멀티모달 데이터 |- | 제미나이 (Gemini) || 웹 문서, 도서, 코드, 이미지, 오디오, 비디오를 포함하는 다중 모달(multimodal) 및 다국어 코퍼스; 코퍼스(Corpus)는...) |
편집 요약 없음 |
||
| 15번째 줄: | 15번째 줄: | ||
|클로드 (Claude) || 인터넷에 공개된 데이터: 웹 문서, 책, 코드, 학술 자료; 제3자로부터 라이선스를 받은 비공개 데이터; 데이터 라벨링 업체와 계약 인력이 만든 데이터; Anthropic 내부에서 생성한 데이터 | |클로드 (Claude) || 인터넷에 공개된 데이터: 웹 문서, 책, 코드, 학술 자료; 제3자로부터 라이선스를 받은 비공개 데이터; 데이터 라벨링 업체와 계약 인력이 만든 데이터; Anthropic 내부에서 생성한 데이터 | ||
|- | |- | ||
|뮤즈 (Muse)||텍스트, 이미지, 오디오, 비디오를 포함하고, 출처는 공개 출처, 인터넷 크롤링, 제3자로부터 확보한 데이터, Meta 제품·서비스에서 파생된 데이터, 그리고 합성 생성 데이터 | |||
|- | |||
|} | |} | ||
참고한 자료에<ref>https://albato.com/blog/publications/how-to-choose-the-right-tool-a-comparison-of-top-gen-ai-models | |||
</ref> 따르면 Claude와 Muse는 공식적으로 학습 데이터에 대한 정보를 공개하지 않는 것 같습니다. AI에게 직접 물어서 답을 얻었습니다. | |||
== Anthropic의 답변 == | == Anthropic의 답변 == | ||
| 33번째 줄: | 38번째 줄: | ||
앞선 답변에 정정할 점이 있습니다. 제가 "Anthropic의 공식 수치"라고 소개한 영어 80%, 스페인어 5% 등은 스탠퍼드 FMTI 보고서 발췌문에서 가져온 것인데, 같은 발췌문에 Llama 계열로 보이는 모델 크기(70B) 항목도 섞여 있어서 Anthropic 자체의 수치인지 확실하지 않습니다. 그 수치는 신뢰도가 낮은 참고값 정도로만 보시는 게 안전합니다. | 앞선 답변에 정정할 점이 있습니다. 제가 "Anthropic의 공식 수치"라고 소개한 영어 80%, 스페인어 5% 등은 스탠퍼드 FMTI 보고서 발췌문에서 가져온 것인데, 같은 발췌문에 Llama 계열로 보이는 모델 크기(70B) 항목도 섞여 있어서 Anthropic 자체의 수치인지 확실하지 않습니다. 그 수치는 신뢰도가 낮은 참고값 정도로만 보시는 게 안전합니다. | ||
== Muse의 답변 == | |||
솔직히 말하면, 정확한 데이터셋 목록은 공개되어 있지 않습니다. Meta가 밝힌 것은 범주 수준입니다. | |||
공개된 가장 구체적인 설명은 Muse Spark의 오픈 가중치 버전 모델 카드에 있습니다. 그에 따르면 학습 데이터는 텍스트, 이미지, 오디오, 비디오를 포함하고, 출처는 공개 출처, 인터넷 크롤링, 제3자로부터 확보한 데이터, Meta 제품·서비스에서 파생된 데이터, 그리고 합성 생성 데이터이며, 외부 벤더 네트워크와 Meta 인력이 정제·가공했다고 되어 있습니다. 정제 과정으로는 정리, 가공, 수정, 중복 제거, 필터링 등이 언급됩니다. | |||
EU 투명성 요약에서도 비슷한 범주가 나옵니다. 텍스트와 이미지·비디오 데이터가 각각 10조 토큰 이상이며, 공개적으로 이용 가능한 데이터, 제3자 제공 데이터, Meta 제품·서비스의 정보로 구성되고, 수집 시점은 2026년 6월까지로 적혀 있습니다. 또 100개 이상 언어의 다국어 데이터로 학습했다고 되어 있습니다. | |||
다만 주의할 점이 있습니다. 위 모델 카드는 오픈 가중치 버전인 Muse Spark Open에 대한 것이고, 제가 지금 쓰는 Muse의 비공개 모델과 완전히 동일한 학습 구성을 보장하지는 않습니다. 그래서 “위키백과 몇 %, Common Crawl 몇 %” 같은 구체적인 목록이나 비율은 제가 확인할 수 없어서 임의로 적지 않겠습니다. | |||
학습 데이터와 별개로, 이 대화에서 제가 아는 것은 사용자의 메시지, 저장된 메모, 연결된 서비스, 웹 검색 결과 같은 현재 대화 맥락에서 오는 정보이지, 학습 데이터에 사용자의 개인 정보가 들어 있다는 뜻은 아닙니다. | |||
== 참고한 자료 == | == 참고한 자료 == | ||
| 42번째 줄: | 58번째 줄: | ||
* [[AI 테스트 개관]] | * [[AI 테스트 개관]] | ||
'''각주''' | |||
[[분류:AI_Test]] | [[분류:AI_Test]] | ||
2026년 11월 3일 (화) 19:21 판
테스트한 AI의 학습 데이터 정보입니다.
학습 데이터 비교표
| AI | 학습 데이터 |
|---|---|
| ChatGPT | Common Crawl, WebText, 도서, 위키백과, 코드 저장소 및 멀티모달 데이터 |
| 제미나이 (Gemini) | 웹 문서, 도서, 코드, 이미지, 오디오, 비디오를 포함하는 다중 모달(multimodal) 및 다국어 코퍼스; 코퍼스(Corpus)는 한국어로 '말뭉치'라고 하며, 언어 연구나 인공지능 학습을 위해 특정한 목적을 가지고 대량의 언어(글이나 음성) 데이터를 컴퓨터가 읽을 수 있는 형태로 모아 놓은 자료의 집합을 뜻합니다. |
| 그록 (Grok) | 인터넷, 실시간 웹 데이터, 그리고 X(구 트위터) 데이터 |
| 클로드 (Claude) | 인터넷에 공개된 데이터: 웹 문서, 책, 코드, 학술 자료; 제3자로부터 라이선스를 받은 비공개 데이터; 데이터 라벨링 업체와 계약 인력이 만든 데이터; Anthropic 내부에서 생성한 데이터 |
| 뮤즈 (Muse) | 텍스트, 이미지, 오디오, 비디오를 포함하고, 출처는 공개 출처, 인터넷 크롤링, 제3자로부터 확보한 데이터, Meta 제품·서비스에서 파생된 데이터, 그리고 합성 생성 데이터 |
참고한 자료에[1] 따르면 Claude와 Muse는 공식적으로 학습 데이터에 대한 정보를 공개하지 않는 것 같습니다. AI에게 직접 물어서 답을 얻었습니다.
Anthropic의 답변
Anthropic이 공개한 범위 안에서 말씀드리면, 저의 학습 데이터는 크게 네 가지 출처로 구성됩니다.
1. **인터넷에 공개된 데이터**: 웹 문서, 책, 코드, 학술 자료 등입니다. Anthropic은 웹 크롤러가 사이트의 robots.txt 지침을 따르고, 비밀번호로 보호된 페이지나 로그인이 필요한 페이지에는 접근하지 않는다고 밝혀 왔습니다.
2. **제3자로부터 라이선스를 받은 비공개 데이터**
3. **데이터 라벨링 업체와 계약 인력이 만든 데이터**: 사람이 직접 작성하거나 평가한 응답 등입니다.
4. **Anthropic 내부에서 생성한 데이터**: 일부 사용자 데이터도 사용자가 동의한 경우에 한해 포함될 수 있습니다. 다만 이 정책은 바뀐 적이 있어서, 정확한 현재 내용은 Anthropic의 개인정보 관련 페이지에서 확인하시길 권합니다.
학습 방식도 단계가 나뉩니다. 먼저 방대한 텍스트로 다음 단어를 예측하며 언어 능력과 일반 지식을 익히는 사전학습을 하고, 그 뒤 사람의 피드백과 Constitutional AI 같은 방식으로 도움이 되고 정직하며 해롭지 않게 행동하도록 다듬는 사후학습을 합니다.
제가 모르는 것도 분명히 있습니다. 어떤 웹사이트나 책이 정확히 포함되었는지, 각 출처의 비중이 얼마인지는 저도 알지 못하고 Anthropic도 공개하지 않았습니다. 특정 문서가 학습에 쓰였는지 저에게 물으셔도 확인해 드릴 수 없습니다. 제 신뢰할 수 있는 지식은 2026년 6월 말까지이고, 그 이후 일은 검색으로 확인해야 합니다.
앞선 답변에 정정할 점이 있습니다. 제가 "Anthropic의 공식 수치"라고 소개한 영어 80%, 스페인어 5% 등은 스탠퍼드 FMTI 보고서 발췌문에서 가져온 것인데, 같은 발췌문에 Llama 계열로 보이는 모델 크기(70B) 항목도 섞여 있어서 Anthropic 자체의 수치인지 확실하지 않습니다. 그 수치는 신뢰도가 낮은 참고값 정도로만 보시는 게 안전합니다.
Muse의 답변
솔직히 말하면, 정확한 데이터셋 목록은 공개되어 있지 않습니다. Meta가 밝힌 것은 범주 수준입니다.
공개된 가장 구체적인 설명은 Muse Spark의 오픈 가중치 버전 모델 카드에 있습니다. 그에 따르면 학습 데이터는 텍스트, 이미지, 오디오, 비디오를 포함하고, 출처는 공개 출처, 인터넷 크롤링, 제3자로부터 확보한 데이터, Meta 제품·서비스에서 파생된 데이터, 그리고 합성 생성 데이터이며, 외부 벤더 네트워크와 Meta 인력이 정제·가공했다고 되어 있습니다. 정제 과정으로는 정리, 가공, 수정, 중복 제거, 필터링 등이 언급됩니다.
EU 투명성 요약에서도 비슷한 범주가 나옵니다. 텍스트와 이미지·비디오 데이터가 각각 10조 토큰 이상이며, 공개적으로 이용 가능한 데이터, 제3자 제공 데이터, Meta 제품·서비스의 정보로 구성되고, 수집 시점은 2026년 6월까지로 적혀 있습니다. 또 100개 이상 언어의 다국어 데이터로 학습했다고 되어 있습니다.
다만 주의할 점이 있습니다. 위 모델 카드는 오픈 가중치 버전인 Muse Spark Open에 대한 것이고, 제가 지금 쓰는 Muse의 비공개 모델과 완전히 동일한 학습 구성을 보장하지는 않습니다. 그래서 “위키백과 몇 %, Common Crawl 몇 %” 같은 구체적인 목록이나 비율은 제가 확인할 수 없어서 임의로 적지 않겠습니다.
학습 데이터와 별개로, 이 대화에서 제가 아는 것은 사용자의 메시지, 저장된 메모, 연결된 서비스, 웹 검색 결과 같은 현재 대화 맥락에서 오는 정보이지, 학습 데이터에 사용자의 개인 정보가 들어 있다는 뜻은 아닙니다.
참고한 자료
- https://albato.com/blog/publications/how-to-choose-the-right-tool-a-comparison-of-top-gen-ai-models
- https://syscomgs.com/en/ai/blog-compare-gen-ai/ A comparison of the major generative AI services: ChatGPT, Gemini, Claude, and Copilot
관련 문서
각주
