Claude Sonnet 3.7에서의 인용Claude Sonnet 3.7은 사용자의 명시적인 지시 없이는 다른 Claude 모델에 비해 인용을 덜 할 가능성이 있습니다. Claude Sonnet 3.7에서 인용을 사용할 때는
user 턴에 "답변을 뒷받침하기 위해 인용을 사용하세요."와 같은 추가 지시사항을 포함하는 것을 권장합니다.또한 모델이 응답을 구조화하도록 요청받을 때, 해당 형식 내에서 인용을 사용하라고 명시적으로 지시하지 않으면 인용을 사용할 가능성이 낮다는 것을 관찰했습니다. 예를 들어, 모델이 응답에서 <result> 태그를 사용하도록 요청받은 경우, "<result> 태그 내에서도 항상 답변에 인용을 사용하세요."와 같은 내용을 추가해야 합니다.이 양식을 사용하여 인용 기능에 대한 피드백과 제안을 공유해 주세요.
프롬프트 기반 접근법과의 비교프롬프트 기반 인용 솔루션과 비교했을 때, 인용 기능은 다음과 같은 장점이 있습니다:
- 비용 절약: 프롬프트 기반 접근법이 Claude에게 직접 인용문을 출력하도록 요청하는 경우,
cited_text가 출력 토큰에 포함되지 않기 때문에 비용 절약을 볼 수 있습니다. - 더 나은 인용 신뢰성: 위에서 언급한 각각의 응답 형식으로 인용을 파싱하고
cited_text를 추출하기 때문에, 인용이 제공된 문서에 대한 유효한 포인터를 포함하는 것이 보장됩니다. - 향상된 인용 품질: 우리의 평가에서 인용 기능이 순수한 프롬프트 기반 접근법에 비해 문서에서 가장 관련성 높은 인용문을 인용할 가능성이 현저히 높다는 것을 발견했습니다.
인용 작동 방식
다음 단계에 따라 Claude와 인용을 통합하세요:1
문서 제공 및 인용 활성화
- 지원되는 형식 중 하나로 문서를 포함하세요: PDF, 일반 텍스트, 또는 사용자 정의 콘텐츠 문서
- 각 문서에서
citations.enabled=true로 설정하세요. 현재 인용은 요청 내의 모든 문서에서 활성화되거나 모든 문서에서 비활성화되어야 합니다. - 현재 텍스트 인용만 지원되며 이미지 인용은 아직 불가능합니다.
2
문서 처리
- 문서 내용이 가능한 인용의 최소 세분성을 정의하기 위해 “청크”로 나뉩니다. 예를 들어, 문장 청킹은 Claude가 단일 문장을 인용하거나 여러 연속 문장을 연결하여 단락(또는 더 긴 내용)을 인용할 수 있게 합니다!
- PDF의 경우: PDF 지원에서 설명한 대로 텍스트가 추출되고 내용이 문장으로 청크됩니다. PDF에서 이미지 인용은 현재 지원되지 않습니다.
- 일반 텍스트 문서의 경우: 내용이 인용 가능한 문장으로 청크됩니다.
- 사용자 정의 콘텐츠 문서의 경우: 제공된 콘텐츠 블록이 그대로 사용되며 추가 청킹은 수행되지 않습니다.
3
Claude가 인용된 응답 제공
- 응답에는 이제 여러 텍스트 블록이 포함될 수 있으며, 각 텍스트 블록은 Claude가 주장하는 내용과 그 주장을 뒷받침하는 인용 목록을 포함할 수 있습니다.
- 인용은 소스 문서의 특정 위치를 참조합니다. 이러한 인용의 형식은 인용되는 문서 유형에 따라 달라집니다.
- PDF의 경우: 인용에는 페이지 번호 범위(1부터 시작)가 포함됩니다.
- 일반 텍스트 문서의 경우: 인용에는 문자 인덱스 범위(0부터 시작)가 포함됩니다.
- 사용자 정의 콘텐츠 문서의 경우: 인용에는 제공된 원본 콘텐츠 목록에 해당하는 콘텐츠 블록 인덱스 범위(0부터 시작)가 포함됩니다.
- 문서 인덱스는 참조 소스를 나타내기 위해 제공되며, 원본 요청의 모든 문서 목록에 따라 0부터 시작합니다.
자동 청킹 vs 사용자 정의 콘텐츠기본적으로 일반 텍스트와 PDF 문서는 자동으로 문장으로 청크됩니다. 인용 세분성에 대한 더 많은 제어가 필요한 경우(예: 글머리 기호나 대화록의 경우), 대신 사용자 정의 콘텐츠 문서를 사용하세요. 자세한 내용은 문서 유형을 참조하세요.예를 들어, Claude가 RAG 청크에서 특정 문장을 인용할 수 있기를 원한다면, 각 RAG 청크를 일반 텍스트 문서에 넣어야 합니다. 그렇지 않고 추가 청킹을 원하지 않거나 사용자 정의 청킹을 원한다면, RAG 청크를 사용자 정의 콘텐츠 문서에 넣을 수 있습니다.
인용 가능한 콘텐츠 vs 인용 불가능한 콘텐츠
- 문서의
source콘텐츠 내에서 발견된 텍스트는 인용할 수 있습니다. title과context는 모델에 전달되지만 인용된 콘텐츠로는 사용되지 않는 선택적 필드입니다.title은 길이가 제한되어 있으므로 문서 메타데이터를 텍스트나 문자열화된 json으로 저장하는 데context필드가 유용할 수 있습니다.
인용 인덱스
- 문서 인덱스는 요청의 모든 문서 콘텐츠 블록 목록(모든 메시지에 걸쳐)에서 0부터 시작합니다.
- 문자 인덱스는 0부터 시작하며 끝 인덱스는 포함되지 않습니다.
- 페이지 번호는 1부터 시작하며 끝 페이지 번호는 포함되지 않습니다.
- 콘텐츠 블록 인덱스는 사용자 정의 콘텐츠 문서에서 제공된
content목록에서 0부터 시작하며 끝 인덱스는 포함되지 않습니다.
토큰 비용
- 인용 활성화는 시스템 프롬프트 추가와 문서 청킹으로 인해 입력 토큰이 약간 증가합니다.
- 그러나 인용 기능은 출력 토큰에서 매우 효율적입니다. 내부적으로 모델은 표준화된 형식으로 인용을 출력하고, 이것이 인용된 텍스트와 문서 위치 인덱스로 파싱됩니다.
cited_text필드는 편의를 위해 제공되며 출력 토큰에 포함되지 않습니다. - 후속 대화 턴에서 다시 전달될 때,
cited_text도 입력 토큰에 포함되지 않습니다.
기능 호환성
인용은 프롬프트 캐싱, 토큰 카운팅, 배치 처리를 포함한 다른 API 기능과 함께 작동합니다.인용과 함께 프롬프트 캐싱 사용
인용과 프롬프트 캐싱은 함께 효과적으로 사용할 수 있습니다. 응답에서 생성된 인용 블록은 직접 캐시할 수 없지만, 참조하는 소스 문서는 캐시할 수 있습니다. 성능을 최적화하려면 최상위 문서 콘텐츠 블록에cache_control을 적용하세요.
- 문서 콘텐츠는 문서 블록의
cache_control을 사용하여 캐시됩니다 - 문서에서 인용이 활성화됩니다
- Claude는 캐시된 문서 콘텐츠의 이점을 누리면서 인용과 함께 응답을 생성할 수 있습니다
- 동일한 문서를 사용하는 후속 요청은 캐시된 콘텐츠의 이점을 누릴 것입니다
문서 유형
문서 유형 선택
인용을 위해 세 가지 문서 유형을 지원합니다. 문서는 메시지에 직접 제공하거나(base64, 텍스트, 또는 URL) Files API를 통해 업로드하고file_id로 참조할 수 있습니다:
| 유형 | 최적 용도 | 청킹 | 인용 형식 |
|---|---|---|---|
| 일반 텍스트 | 간단한 텍스트 문서, 산문 | 문장 | 문자 인덱스 (0부터 시작) |
| 텍스트 콘텐츠가 있는 PDF 파일 | 문장 | 페이지 번호 (1부터 시작) | |
| 사용자 정의 콘텐츠 | 목록, 대화록, 특수 형식, 더 세분화된 인용 | 추가 청킹 없음 | 블록 인덱스 (0부터 시작) |
.csv, .xlsx, .docx, .md, .txt 파일은 문서 블록으로 지원되지 않습니다. 이들을 일반 텍스트로 변환하여 메시지 콘텐츠에 직접 포함하세요. 다른 파일 형식 작업을 참조하세요.
일반 텍스트 문서
일반 텍스트 문서는 자동으로 문장으로 청크됩니다. 인라인으로 제공하거나file_id로 참조할 수 있습니다:
일반 텍스트 인용 예시
일반 텍스트 인용 예시
PDF 문서
PDF 문서는 base64로 인코딩된 데이터나file_id로 제공할 수 있습니다. PDF 텍스트가 추출되고 문장으로 청크됩니다. 이미지 인용은 아직 지원되지 않으므로, 문서를 스캔한 PDF이고 추출 가능한 텍스트가 없는 경우 인용할 수 없습니다.
PDF 인용 예시
PDF 인용 예시
사용자 정의 콘텐츠 문서
사용자 정의 콘텐츠 문서는 인용 세분성에 대한 제어권을 제공합니다. 추가 청킹은 수행되지 않으며 제공된 콘텐츠 블록에 따라 모델에 청크가 제공됩니다.인용 예시
인용 예시
응답 구조
인용이 활성화되면 응답에는 인용과 함께 여러 텍스트 블록이 포함됩니다:스트리밍 지원
스트리밍 응답의 경우, 현재text 콘텐츠 블록의 citations 목록에 추가할 단일 인용을 포함하는 citations_delta 유형을 추가했습니다.
스트리밍 이벤트 예시
스트리밍 이벤트 예시