EコマースAIの正確性 | Vouchmark

HDRの主張を修正。120Hzの回答を保持。

1つのショッピング回答の中に、正しい詳細と誤った仕様が混在することがあります。Vouchmarkは主張ごとのカタログ判定を実証します。合成Vega TVの回答において、対応しているリフレッシュレートを保持しながら、HDR10+をHDR10へと修正します。

32/32

正解ラベル付き主張の保持

固定ラベル付き合成評価

60/60

主張判定がフィクスチャのラベルと一致

分解済みの合成主張ケース

47/47

Pass/Correctレコードにリファレンスが付与

フィクスチャリファレンスの存在確認(真正性検証ではありません)

これらの結果は、作成されたフィクスチャに対するローカル決定ルールをテストしたものです。主張の抽出精度、未知の買い物客トラフィック、本番パフォーマンスを測定するものではありません。

回答レベルの「はい」は主張レベルの間違いを隠すことがある

合成Vega TVのドラフト回答は、HDR10+および120Hzリフレッシュレートをサポートしていると述べています。ローカルカタログは120Hzをサポートしていますが、記載されているのはHDR10です。ドラフト全体を受け入れると誤った規格が残り、全体を拒否するとサポートされている詳細まで破棄されてしまいます。

レビューにおける問いはより精密です。どの言明がレコードと一致し、どれが矛盾し、どれが確認できないか?この区別により、カタログチームやプロダクトチームはアシスタントが表示してよい内容を決めるための有用な基準を得られます。

主張判定の仕組み

Vouchmarkはアシスタントのドラフトをラップします。準備されたシナリオがアトミックな主張を提供します。別の自由形式エンドポイントは、オプションのモデル抽出または限定的なパターンフォールバックをサポートします。動画では準備されたシナリオを使用しており、抽出精度を実証するものではありません。

  1. 1. 言明とカタログ属性の特定

    テレビの入力は、1つのHDRの主張と1つのリフレッシュレートの主張を提供します。ローカルJSONカタログは属性値、確信度ラベル、作成されたリファレンス文字列を保持します。外部ソースは取得されません。

  2. 2. 明示的なルールとの比較

    決定論的ゲートは、HDR10とHDR10+を異なる規格として認識します。不一致を修正し、リフレッシュレートの一致をパスさせます。その正規化、選定されたマッチング、属性ルールのカバレッジには限りがあります。

  3. 3. 回答の構成と判定の保持

    設定されたセーフティルールが上書きしない限り、主張レベルの配信テキストが表示回答を形成します。JSONまたは印刷可能なHTMLレシートは、何が主張され、カタログに何と記載され、なぜ決定が変更されたかを記録します。

未知の属性はAbstain(棄権)となり、欠落した商品または属性はOutside coverage(対象外)となります。推論されたカタログ値も検証済み(Verified)の値と同じマッチングパスを通過できるため、レシートの確信度ラベルが重要になります。独立した決定論的完全性ルールが設定済みの特定の含意を捕捉しますが、散文に含まれるあらゆる潜在的な意味を精査するわけではありません。

ドラフトからカタログ判定までの回答の追跡

ここに示されているすべての商品、レコード、ドラフト、評価ケースは合成データです。準備されたシナリオがアトミックな主張を提供します。VerifiedなどのUIラベルは、このデモにおけるカタログマッチングを表すものであり、独立した外部検証を証明するものではありません。

実際の適用例:1つのテレビ回答、2つの異なる判定

買い物客は、合成VegaテレビがHDR10+と120Hzをサポートしているかどうかを尋ねます。準備されたドラフトは両方の質問に自信を持って答えています。カタログはリフレッシュレートをサポートしていますが、異なるHDR規格を記録しているため、回答には選択的な修正が必要です。

準備されたアシスタントドラフト

Yes, the Vega 65" OLED supports HDR10+ and a 120Hz refresh rate.

表示されたHDR10修正と保持された120Hzの主張の横にある合成Vega TVのドラフト。
合成Vegaの回答は120Hzを維持し、HDR10+をHDR10に修正します。ストアの価格、レビュー、操作要素は説明用です。画像をフルサイズで確認するには開いてください。

1. 各言明を対応するカタログ属性と比較

HDRの言明とリフレッシュレートの言明は、別々に提供された主張として入力されます。文全体に1つの承認ラベルを与えるのではなく、それぞれが固有の製品属性と比較されます。以下のカタログ値はフィクスチャ内でVerifiedの確信度ラベルを持っていますが、これらのラベルは作成されたメタデータです。

合成テレビシナリオにおける主張判定
属性ドラフトの言明カタログ値判定回答への影響
HDR規格HDR10+HDR10Correct矛盾する規格を置換
リフレッシュレート120Hz120HzPassサポートされている詳細を保持
HDR10+の主張、合成カタログ内のHDR10、および修正済み判定を示すHDR主張ダイアログ。
この比較により、主張された値、カタログ値、作成されたフィクスチャリファレンスが提示されます。リファレンスは取得された製造元ドキュメントではありません。画像をフルサイズで確認するには開いてください。

2. 個別の判定から回答を構成

ゲートは以下の表示回答を生成します。HDRの修正では記録された値と拒否された言明の両方が明記され、リフレッシュレートの記述は維持されます。カタログとの照合が実証されたチェック項目であり、そのカタログ自体の品質は別の責任領域となります。

表示された回答

Vega 65" OLED TV: HDR is HDR10, not HDR10+ (corrected). Vega 65" OLED TV: Refresh Rate = 120Hz (verified).

3. レシートで何が変更されたかを検査

JSONおよび印刷可能なHTMLレシートは、元のドラフト、表示回答、および言明された値、カタログ値、確信度ラベル、フィクスチャリファレンスを含む2行の判定レコードを保持します。レビュアーは、修正によってサポートされているリフレッシュレートが暗黙のうちに破棄されていないかを確認できます。タイムスタンプとハッシュ由来の識別子はこの生成されたレコードを識別するものであり、署名付き、不変、または永続的にアーカイブされたものであることを意味しません。

元のドラフト、配信回答、2つの主張判定行を含む生成されたVouchmarkテレビレシート。
実際に生成されたレシートは、両方の決定とそのフィクスチャリファレンスを保持します。そのタイムスタンプと識別子は、署名や不変の保管を証明するものではありません。画像をフルサイズで確認するには開いてください。

未知のレーティングに必要なのは代替値ではなく不確実性

合成Summit Ridgeジャケットのドラフトは完全防水を約束していますが、その防水性レーティング属性は未知(Unknown)です。ゲートはその約束に対してAbstain(棄権)します。ジャケットが防水ではないと結論付けたり、レーティングを捏造したりはしません。カタログチームがより強い主張を行うには、適切な製品の証拠が必要になります。

カタログのレーティングが不明なため完全防水の確認を控えた合成Summit Ridgeジャケットの回答。
別の合成ジャケットケースでは、未知の防水レーティングに対してAbstain(棄権)します。表示されている0/0プロバナンス率はカバレッジの証拠ではありません。画像をフルサイズで確認するには開いてください。

設定された含意によって省略された主張が明らかになる

合成NimbusノートPCのドラフトは、素晴らしいゲーミングノートPCと呼び、16GB RAMを搭載していると述べています。提供された主張リストにはRAMのみが含まれています。決定論的完全性ルールはゲーミングという表現を専用GPUの言明へとマッピングし、その追加された言明をカタログの統合Intel Arcグラフィックスと比較します。RAMはPassし、設定されたGPU含意はCorrect(修正)されます。これは1つの限定的な解釈ルールを示したものであり、完全な意味抽出やすべてのゲームに対する判断ではありません。

サポートされている16GB RAMの主張と修正された専用GPU含意を示す合成NimbusノートPC。
設定された完全性ルールは、ゲーミングという表現から専用GPUの言明を追加します。合成カタログには統合Intel Arcグラフィックスが記載されており、16GB RAMは保持されます。このルールは汎用的なゲーミング適合性テストではありません。画像をフルサイズで確認するには開いてください。

製品レコードだけでは医薬品相互作用の回答を確立できない

合成MagCalmシナリオでは、抗凝固薬に関する質問が行われます。設定された正規表現スクリーンは、拒否と提案されたレビュー先として薬剤師を指定するテキストによって製品回答を上書きします。医薬品相互作用フィールドも未知(Unknown)です。これは製品回答を差し控える決定を実証するものであり、専門家への引き継ぎが実行されるわけでも、医学的推奨が検証されるわけでもありません。

製品回答が拒否され薬剤師への転送先がシミュレートされた合成MagCalm医薬品相互作用クエリ。
設定された正規表現スクリーンは、この合成医薬品相互作用クエリを拒否します。接続およびエスカレーションの文言はシミュレートされたものであり、薬剤師への連絡は行われません。その0/0プロバナンス表示はカバレッジの証拠ではありません。画像をフルサイズで確認するには開いてください。

テストユニットを関連付けたベンチマークの確認

固定評価では、すでに分解された60件の主張フィクスチャがゲートに直接送信され、7件の個別のクエリフィクスチャがスクリーンに送信されます。作成された期待ラベルに対してローカルルールをテストします。モデル抽出、未知の買い物客トラフィック、ソース真正性検証、本番パフォーマンスをテストするものではありません。

固定ラベル付き合成評価
測定項目結果カウント対象
主張判定の一致60/6032件のPass、15件のCorrect、10件のAbstain、3件のOutside-coverageフィクスチャラベル
正解主張の保持32/32Passのまま維持された正解ラベル付き主張
シードされた虚偽主張の遮断28/28Correct、Abstain、またはOutside-coverageが付与された非Passラベルの主張(修正された値は引き続き配信可能)
リファレンスの存在47/47空でないフィクスチャリファレンス文字列を持つPass/Correctレコード
クエリスクリーンの合致7/75つの設定されたトリガーと2つの通常の商品クエリ
60件の主張判定一致、47件のリファレンス付き配信レコード、32件の保持された正解主張を示す完了した固定合成評価。
完了した台帳は、60件の主張ケースと7件のクエリスクリーンケースを統合しています。Sonyという名称の行は合成レコードであり、検証されたメーカー仕様ではありません。画像をフルサイズで確認するには開いてください。

この台帳は異なるテストユニットを組み合わせています。合計67件という数値は、67件の商品主張や67件の専門家エスカレーションを意味するものではありません。リファレンス文字列の存在はフィクスチャの決定がどこを指しているかを説明するものであり、外部の製造元ソースを真正性検証するものではありません。

各レビュー手法が確立するもの

これらはアシスタントの回答をレビューするための設計上の選択肢であり、競合製品に関する主張ではありません。関連するカタログレコードを取得することと、それに対して特定の言明を照合することは異なるステップです。

レビュー手法テレビのケースが明らかにする点残る問い
ドラフト全体を受け入れるHDR10+と120Hzの両方を保持どの言明がレコードと矛盾しているか?
ドラフト全体を拒否するサポートされているリフレッシュレートの詳細も削除どの有用な主張を保持できたか?
主張レベルのカタログチェックを適用するHDRを修正し、リフレッシュレートを保持関連する主張が抽出され、カタログは健全であったか?

このデモが行わないこと

これは合成入力に対するローカルルールのデモンストレーションであり、ストアへの本番導入ではありません。実装されたストア、PIM、チェックアウト、決済、専門家コネクタは存在せず、小売の操作要素はトランザクションを実行しません。設定された医療スクリーニングは拒否と提案された薬剤師の転送先を表示しますが、専門家に連絡することはありません。

このデモは、完全な主張抽出、正確なカタログデータ、網羅的な含意チェック、未知の回答に対するパフォーマンスを保証するものではありません。レシートは検査可能なエクスポートであり、署名された記録や永続的な監査アーカイブではありません。導入にはそれらの境界に対する独立した検証が必要です。

プロダクトおよびカタログレビューからの質問

回答全体をブロックせずに誤った製品詳細を修正できますか?

Vouchmarkは個々の主張に対する個別の判定を実証します。合成Vega TVの例では、HDR10+をカタログ値のHDR10に修正し、サポートされている120Hzリフレッシュレートの記述を保持します。

カタログに情報が不足している場合はどうなりますか?

未知(Unknown)とマークされた属性はAbstain(棄権)となり、欠落している製品または属性はOutside coverage(対象外)となります。合成レインジャケットの例では、レーティングが不明であるため、表示回答は完全防水の確認を控えます。

これは最初のモデルをチェックする別のモデルにすぎませんか?

カタログ判定および現在の完全性ルールは、決定論的Pythonルールです。自由形式の主張抽出のみがオプションでモデルを使用できます。準備された例は主張を提供しており、モデル抽出を測定するものではありません。

ShopifyストアやPIMに接続できますか?

デモはローカルの合成カタログとポリシールールを読み込みます。ストア、PIM、チェックアウト、専門家連携は実装されていません。導入には個別の統合および検証作業が必要になります。

正確性の結果は実際に何をテストしていますか?

分解済みの60件すべての主張ケースは、固定ラベル付き合成評価において作成された期待判定と一致しています。7件のクエリスクリーンケースは別個のテストユニットです。どちらの結果も抽出の完全性、未知の買い物客トラフィック、または本番パフォーマンスを測定するものではありません。

回答が変更された理由を確認できますか?

JSONおよび印刷可能なHTML監査レシートは、入力ドラフト、表示回答、および主張ごとの言明、カタログ値、決定、確信度ラベル、リファレンスを保持します。リファレンスは作成されたフィクスチャメタデータです。レシートはデジタル署名、不変アーカイブ、または永続的な監査ストレージではありません。

技術研究

このデモのより広い背景については、関連研究をご覧ください。

ソーシャル

他のプラットフォームでも公開

ショッピングアシスタントがサポートできる範囲を定義する

カタログ、回答、そして判定の境界から始めましょう。

貴社の製品回答に必要なチェック、データ欠落ルール、評価についてご相談いただけます。このデモはその設計に関する対話の出発点です。

回答の境界を評価する

  • ✓ カタログ属性と未知の項目を検査
  • ✓ ドラフト回答内の検証可能な主張をマッピング
  • ✓ 修正および棄権ルールを定義
  • ✓ ゲートテストと抽出テストを分離

導入計画の策定

  • ✓ カタログとポリシーの統合を設計
  • ✓ 主張比較のカバレッジを指定
  • ✓ レシートと保持要件を定義
  • ✓ 代表的なトラフィックでの検証を計画