ブラウザで試す  /  インストール不要

モデルが自信を持てなかったのはどの単語?

AI が書く単語には、どれにも確率が付いています。低いところは当て推量だった場所です。下の実際の回答を選んでしきい値をドラッグするか、さらに下で自分の質問をしてみてください。

自信のない単語と、モデルが検討した候補

サンプルは examples/logprobs/ にある Llama 3.1 8B Instruct の実際のレスポンスです。単語のどれかひとつのピースの確率(p = elogprob)がしきい値を下回ると、その単語にフラグが付きます。CLI とまったく同じ判定です。単語にカーソルを合わせるかタップすると、確率と候補が表示されます。

自分の質問

自分の API キーでモデルに質問。

使えるのはトークン確率を返す API だけです。プロバイダーを選び、キーを貼り付けて質問すると、自信のない単語に印が付いた回答が上に表示されます。

キーはブラウザの中にとどまります。このページにはサーバーがありません。キーは質問のリクエストに含めて、ブラウザから選んだプロバイダーへ直接送られるだけです。

「記憶する」にチェックを入れない限りどこにも保存されず、入れた場合もこのブラウザ内だけです。

ブラウザから使えるプロバイダー

プロバイダーブラウザから
OpenAI可。このサイトからのクロスオリジンリクエストに応答します。gpt-4o-mini など logprobs を返すモデルを使ってください。
OpenRouter可。どのサイトからでも使えます。logprobs を返す上流プロバイダーは一部だけなので、すべてのパラメータに対応したプロバイダーへ振り分けるよう OpenRouter に指示しています。
Together AI可。どのサイトからでも使えます。Together 独自の "logprobs": 3 形式でリクエストします。
ローカルの Ollamaデフォルトでは不可。Ollama は他のウェブサイトからのリクエストを拒否します。OLLAMA_ORIGINS=https://hallucination-highlighter.vercel.app を付けて起動し、「カスタム」で http://localhost:11434/v1 を指定してください。サイトが自分の PC にアクセスする前に、ブラウザが確認してくることもあります。この制限がない CLI を使う手もあります。
Anthropic不可。API がトークン確率を返さないため、ハイライトするものがありません。

ブラウザからのアクセス可否は、2026-09-30 にこのサイトのアドレスから CORS プリフライトで確認しました。プロバイダー側で変わる可能性があります。

ターミナルでも同じことができます

CLI でも同じことができます。同じプロバイダーに加えて vLLM と Ollama のプリセットがあり、ブラウザの制限もありません。

llm-token-visualizer --live "Who painted The Night Watch?" --provider openrouter
llm-token-visualizer --live "Who painted The Night Watch?" --provider ollama --model qwen2.5-coder:14b