Cleanlab
LLMの幻覚（ハルシネーション）を検出・修正し、AIの回答品質を高める信頼性スコアリングツール
paid API提供あり LLM
Cleanlab の基本情報
| 開発元 | Cleanlab |
|---|---|
| 料金 | paid |
| API提供 | あり |
| 対応プラットフォーム | web |
Cleanlab の詳細
Cleanlabは、大規模言語モデル（LLM）が生成する回答の信頼性をスコアリングし、ハルシネーション（誤った情報の生成）を検出・抑制するためのAI品質管理ツールです。TLM（Trustworthy Language Model）と呼ばれるコア機能を中心に、LLMの出力に対して「どの程度信頼できるか」を定量的に評価します。
AIを業務活用しているエンジニア、データサイエンティスト、MLエンジニア、そしてLLMを製品に組み込む開発チームに特に適しています。
LLMの回答精度に不安を感じている時、あるいはRAGシステムや社内チャットボットの回答品質を保証したい時に大きな効果を発揮します。また、医療・法務・金融など誤情報のリスクが高い業界で、AIの出力を人間がレビューする前の一次フィルタとして活用することも想定されています。信頼スコアを付与することで、低品質な回答を自動的にフラグ立てし、QAコストの削減と安全なAI運用を両立できます。
主な機能
LLM回答の信頼スコアリング（TLM） / ハルシネーション（幻覚）の自動検出 / 回答品質の定量的評価・フラグ付け / RAGパイプラインへの組み込み対応 / 低信頼回答の自動アラート・フィルタリング / APIによる既存LLMワークフローへの統合 / データ品質評価・ラベルエラー検出
