Claudeのような最も高度な言語モデルでも、与えられた文脈と矛盾する、または事実に反するテキストを生成することがあります。この現象は「幻覚」として知られており、AIを活用したソリューションの信頼性を損なう可能性があります。 このガイドでは、幻覚を最小限に抑え、Claudeの出力の正確性と信頼性を確保するための技術を探ります。

​
基本的な幻覚最小化戦略

  • Claudeに「わからない」と言わせる: Claudeに不確実性を認めることを明示的に許可します。この単純な技術で誤った情報を大幅に減らすことができます。
役割内容
ユーザーM&Aアドバイザーとして、ExampleCorpによるAcmeCoの潜在的な買収に関するこのレポートを分析してください。

<report>
{{REPORT}}
</report>

財務予測、統合リスク、規制上の障壁に焦点を当ててください。不確かな点がある場合や、レポートに必要な情報が不足している場合は、「これを確実に評価するための十分な情報がありません」と言ってください。
  • 事実の根拠付けに直接引用を使用する: 長文書（20Kトークン以上）に関するタスクでは、タスクを実行する前にClaudeに逐語的な引用を抽出するよう依頼します。これにより、実際のテキストに基づいた応答が可能となり、幻覚が減少します。
役割内容
ユーザーデータ保護責任者として、このプライバシーポリシーの更新版をGDPRとCCPAのコンプライアンスについて確認してください。
<policy>
{{POLICY}}
</policy>

1. GDPRとCCPAのコンプライアンスに最も関連するポリシーからの正確な引用を抽出してください。関連する引用が見つからない場合は、「関連する引用が見つかりません」と記述してください。

2. 引用を使用してこれらのポリシーセクションのコンプライアンスを分析し、引用番号を参照してください。抽出した引用のみに基づいて分析を行ってください。
  • 引用による検証: Claudeの各主張に対して引用と出典を示させることで、応答を監査可能にします。また、応答を生成した後にClaudeに各主張を裏付ける引用を探させることもできます。引用が見つからない場合は、その主張を撤回する必要があります。
役割内容
ユーザーこれらの製品概要と市場レポートの情報のみを使用して、新しいサイバーセキュリティ製品AcmeSecurity Proのプレスリリースを作成してください。
<documents>
{{DOCUMENTS}}
</documents>

作成後、プレスリリースの各主張を確認してください。各主張について、それを裏付ける文書からの直接引用を見つけてください。主張を裏付ける引用が見つからない場合は、その主張をプレスリリースから削除し、削除された箇所を空の[]括弧で示してください。

​
高度な技術

  • 思考連鎖による検証: 最終的な回答を出す前に、Claudeに段階的な推論を説明させます。これにより、誤った論理や仮定を明らかにすることができます。
  • N回検証の最適化: 同じプロンプトを複数回実行し、出力を比較します。出力間の不一致は幻覚を示している可能性があります。
  • 反復的な改善: Claudeの出力を後続のプロンプトの入力として使用し、以前の記述の検証や拡張を依頼します。これにより、不一致を発見して修正することができます。
  • 外部知識の制限: 提供された文書のみを使用し、一般的な知識を使用しないようClaudeに明示的に指示します。
これらの技術は幻覚を大幅に減少させますが、完全に排除することはできません。特に重要な決定に関する情報は、常に検証してください。