Klarnaは700人をAIに置き換え、そして全員を呼び戻した。すべての企業が学ぶべき教訓とは
Klarnaのニュースが飛び込んできたとき、私は見込み客である銀行との電話中だった。2025年半ばのことだ。携帯が震えた——同僚が一行だけ添えて記事を転送してきていた。「これ、まさにあなたがずっと言ってきたことだ」
その顧客は話の途中で、GPT-4の上にカスタマーサービス用チャットボットを構築した経緯と、それが「とてもうまくいっている」ことを説明していた。私はCSATスコアがどうなっているか尋ねた。長い沈黙。「まだ計測していません」
その沈黙がすべてを物語っていた。なぜならKlarnaは実際にそれを追跡していたからだ。そして彼らが見つけたものは、フィンテック史上最も喧伝されたAI導入の一つを撤回させるほど破滅的だった。
手短に言おう。企業価値146億ドルのスウェーデン発BNPL大手Klarnaは、約700人のカスタマーサービス担当者を、OpenAI上に構築したAIアシスタントで置き換えた。同社はそれを勝ち誇るように発表した——AIは35言語にわたり全顧客チャットの75%を処理していた。取引あたりのコストは40%下がった。ウォール街はこれに熱狂した。その後、顧客満足度スコアが22%低下した。同社は2025年第1四半期に9,900万ドルの純損失を計上した。そしてCEOのセバスチャン・シェミアトコフスキーは、効率の追求がサービス品質を空洞化させ、彼自身が「ありきたり」と呼ぶアウトプットしか生まず、実際の判断を要する事柄には一切対応できなかったと公に認めた。
同社は再雇用を始めた。ソフトウェアエンジニアやマーケターを電話対応に回しさえした。
私はVeriprajnaでニューロシンボリックAIシステムを何年も構築してきたが、その間、企業が次々と同じ罠に足を踏み入れるのを見てきた。技術が悪いからではない——大規模言語モデルは本当に驚くべきものだ。そうではなく、根本的な取り違えがあるからだ——正しく聞こえることと実際に正しいことの混同だ。規制産業では、その混同はいずれすべてを失う結果を招く。
「十分に良い」では足りないと気づいた夜
アーキテクチャの話に入る前に、この問題に対する私の考え方を変えたある瞬間について話しておきたい。
私たちは法務コンプライアンスシステムのパイロットを走らせていた——カスタマーサービスではなく、文書解析だ。規制当局への提出書類を解析し、社内ポリシーを外部の規制要件と突き合わせるような仕事である。私たちは標準的な検索拡張生成の構成を使ったプロトタイプを持っていた。ベクトル検索、top-k検索、そしてGPTが要約を生成する。速かった。アウトプットは実に美しく読めた。
エンジニアの一人——プリヤ——が遅くまで残ってエッジケースを試していた。午後11時ごろ、彼女はスクリーンショットを添えてSlackチャンネルに投稿してきた。システムは、特定の規制条項を引用した完璧に流暢な段落を生成していた。その条項は存在しなかった。誤引用でもなければ言い換えでもない——完全な捏造だ。しかもあまりに説得力をもって読めるため、その特定の規制の専門家でなければ、決して見抜けない。
机に座ってそのスクリーンショットを見つめながら、こう考えたのを覚えている——これが、私たちがまさに出荷しようとしているプロダクトなのだ。法律事務所のシニアパートナーさながらの自信をもって嘘をつくシステムである。
私たちはパイロットを中止した。アーキテクチャをゼロから作り直した。3か月を失った。それは、私たちが下した中で最良の決断だった。
AIシステムが完璧な自信をもって法的引用を捏造するとき、問題はバグではない——アーキテクチャそのものだ。根本的に確率論的な土台から、プロンプトエンジニアリングで抜け出すことはできない。
「ラッパーの罠」とは何か、そしてなぜ賢い企業ほど繰り返し嵌まるのか？
Klarnaに実際に何が起きたのかを技術的な言葉で説明させてほしい。ビジネス系メディアはこの点をほぼ取り違えたからだ。彼らはこれを「AIはまだ実用に耐えない」という話として枠づけた。だが、それは論点ではない。論点は、どの種類のAIか、そしてそれがどのように展開されたか。
「ラッパー」とは、サードパーティの大規模言語モデルの上に載る薄いソフトウェア層のことだ。フォーマットを整え、API呼び出しを管理し、場合によっては構造化出力のパースを少し加える。だが、実際の思考——推論、判断、意思決定——は完全にLLMに外注されている。ラッパーがプロンプトを送り、モデルが最も確からしい次のトークンを予測し、答えらしく聞こえる何かが返ってくる。
これはデモでは見事に機能する。リスクの低いタスクならそれなりに機能する。そして壊滅的に失敗するのは、次のものを必要とするあらゆる領域だ——確実性。
これらのモデルを動かしているTransformerアーキテクチャは、自己注意機構を使ってシーケンス内のトークンの関連度を重み付けし、次に来るものを予測する。それはパターンマッチングだ——並外れて洗練されたパターンマッチングではあるが、それでもパターンマッチングにすぎない。外部の真実の源に照らして事実を検証する内部機構は存在しない。モデルは物事を知っているわけではない。モデルが予測しているのは、知識に裏打ちされた回答がどのようなものに見えるか。
KlarnaのAIはパスワードのリセットなら完璧にこなせた。だが、部分返金、加盟店との見解の相違、そして二つの法域にまたがる消費者保護規制が絡む複雑な紛争を顧客が抱えていたら？モデルは、私が「スロップ・スピニング」と呼ぶものに逃げ込んだ——もっともらしく聞こえる応答を生成しては堂々巡りし、何も解決せず、あるアナリストが「カフカ的なループ」と評した状態へと顧客を追い込んだのだ。
そして、あらゆる企業のリーダーが震え上がるべきなのはここだ——コスト指標は素晴らしく見えていた。顧客体験が劣化し続けていた間、ずっとだ。取引あたりのコストは0.32ドルから0.19ドルへ下がった。チャットの解決時間は11分から2分未満になった。ダッシュボードだけを見ていれば、勝っていると思っただろう——顧客が去り始める、その瞬間まで。
LLMにもっと優れたガードレールを追加すればいいのでは？
これは最もよく受ける質問であり、核心的な誤解を露呈している。人々は、解決策はより良いプロンプト、より多くのfew-shot例、より厳格なシステム指示だと考える。「ハルシネーションを起こすな、とモデルに言えばいい」というわけだ。
それは、天気予報モデルに「外すな」と言うようなものだ。確率論的な性質はパッチを当てるべき欠陥ではない——それこそが、システムの動作原理そのものなのだ。
ある投資家に、面と向かってこう言われたことがある。「GPTを使って、その上にルールを足せばいいじゃないか」。私は彼に、95%の確率で正解する電卓を信用するかと尋ねた。彼は笑った。私は言った。「あなたが銀行のコンプライアンスに提案しているのは、それですよ」。彼は笑うのをやめた。
技術的な失敗モードは、ハルシネーションよりさらに深いところにある。ラッパーには、私が「状態スキーマの永続性」と呼ぶものが欠けている。会話が進むにつれ、コンテキストウィンドウは埋まっていく。会話の初期の情報は圧縮されるか、捨てられる。モデルは単一のセッション内で自己矛盾を起こしうるし、それに気づく術がない。カスタマーサービスにおいてこれは、エージェントが3ターン目で本人確認をしたのに15ターン目で再び確認を求める——あるいはもっと悪いことに、会話の流れに「説得されて」本人確認がすでに済んだことになり、確認自体を丸ごと飛ばす——ということを意味する。
これが、私が「無限の自由の誤謬」と呼ぶ脆弱性だ。LLMには、何を言い、何をしてよいかについての硬い構造的制約がないため、十分に賢いユーザー——あるいは十分に複雑な状況——は、それを業務ルールや規制要件、あるいは基本的な論理に反する状態へと押しやることができる。これはプロンプトでは解決できない。まったく別種のアーキテクチャが必要になる。
この問題については、私たちの研究のインタラクティブ版で詳しく書いた。だが、核心となる洞察はシンプルだ——声と頭脳を切り離す必要がある。
すべてを壊す20%
私たちが関わるあらゆる業界で見てきたパターンがある。それが、これほど多くのAI導入がKlarnaと同じ軌跡をたどる理由を説明していると思う。
2025年のAIは、定型的で高頻度なやり取りの約80%をそつなくこなせる。パスワードのリセット、注文状況の確認、基本的なFAQへの応答——これらは解決済みの問題だ。残る20%のやり取りこそが、実際に重要なものである。複雑な紛争、エッジケース、顧客が苛立ち、混乱し、あるいは怯えている瞬間。そしてそれらこそが、ブランド評判と財務上の責任の主要な決定要因なのだ。
Klarnaは80%に最適化し、20%を無視した。計算は自明に見えた。簡単な部分を自動化して、数百万ドルを節約する。だが、信頼が築かれるのも壊されるのも20%の側だ。スムーズにパスワードをリセットできた顧客は、誰にもそのことを話さない。請求の誤りを解決しようとAIのループに45分間閉じ込められた顧客は、それを話す。相手は全員だ。
AIがうまく処理する80%のやり取りは、ブランドから見えない。うまく処理できない20%こそが、誰もが記憶している唯一のものだ。
皮肉なのは、人員削減によるKlarnaの当初1,000万ドルの節約が、劣化した体験によって破壊した顧客生涯価値にほぼ確実に霞んでしまったことだ。IPOを準備している146億ドル規模の企業にとって、顧客満足度の22%低下は指標の問題ではない——存亡に関わる問題である。
「決定論的AI」とは実際に何を意味するのか？
では、ラッパーが問題なのだとしたら、解決策は何か。ここからは少し技術的な話になるが、地に足のついた説明を心がける。
Veriprajnaでは、ニューロシンボリックAIと呼ばれるものを構築している。名前は学術的に響くが、コンセプトは直感的だ。ニューラルネットワークの言語的な流暢さを、シンボリック推論エンジンの厳格な論理の内側に閉じ込めるのである。ニューラルネットは「柔らかい」仕事を担う——自然言語の理解、人間が読める応答の生成、曖昧なクエリの解釈。シンボリックエンジンは「硬い」仕事を担う——ルールの強制、論理の検証、そしてあらゆる出力が検証済みのソースまで追跡可能であることの保証だ。
私たちはこれを「ニューロシンボリック・サンドイッチ」と呼んでいる。クエリがLLMに届く前に、意図検証層がそれをポリシー制約に照らして確認し、敵対的入力をスクリーニングする。LLMが応答を生成した後は、検証エンジン——典型的には有限状態機械か論理ソルバー——が、あらゆる主張をナレッジグラフに照らし、あらゆるアクションを業務ルールに照らして検査する。応答がいずれかの制約に違反していれば、それは通らない。以上だ。
私たちが使っている手法に「制約付きデコーディング」——トークンマスキングとも呼ばれる——があり、これが特にエレガントだと私は感じている。モデルに自由に生成させてから出力を検査するのではなく、そもそも特定のトークンが生成されること自体を物理的に阻止するのだ。モデルが税務コンプライアンス報告書を作成しているなら、シンボリック層はあらゆる数値が検証済みの計算に対応していることを保証する。モデルは文字どおり、数値をハルシネーションすることができない。ハルシネーションされるトークンは、生成が起こる前に確率分布からマスクアウトされているからだ。
これは「ガードレールを追加する」ことではない。これは根本的に異なるアーキテクチャであり、そこではLLMが声、シンボリックエンジンが頭脳であって、声は頭脳の承認なしに発話することを決して許されない。
ナレッジグラフが200万ドルのミスから私たちを救ったとき
標準的なRAG——検索拡張生成——には、ほとんどの人が語らない問題がある。関連文書を見つけるためにベクトル類似度に依存しているのだ。しかし、ベクトル類似度は方向性を理解しない。「A社がB社を訴えた」と「B社がA社を訴えた」はほぼ同一のベクトル埋め込みを持ちうるが、両者はまったく正反対の法的状況を記述している。
私たちはこれを、ある法務パイロットで身をもって思い知らされた。私たちのシステムはある企業クライアントの訴訟履歴を分析していたのだが、標準的なRAG構成は原告と被告の役割を取り違え続けた。アウトプットは流暢で、よく構造化されていて、そして危険なほど間違っていた。
そこで私たちが移行したのが、「引用強制型GraphRAG」と呼んでいるものだ。文書をベクトルストアに放り込む代わりに、それらをナレッジグラフへとパースする——型付きの、方向を持つ関係で結ばれたエンティティ群である。システムが何かを主張するときには、その主張をグラフ内の特定のノードとエッジまで遡って辿らなければならない。グラフがその主張を支持できないなら、システムはそれを口にしない。
精度の向上は劇的だった——複雑なマルチホップ推論タスクにおいて、標準的なRAGより30〜35%高い。だがそれ以上に重要なのは、どれだけプロンプトエンジニアリングを重ねても得られないものが手に入ったことだ。監査証跡である。あらゆる出力は、エンティティからエンティティへ、関係から関係へと、正確な推論経路を遡って辿ることができる。コンプライアンス担当者は、システムがなぜその結論に至ったのかを確認できる。単に何を結論づけたかだけではなく。
このアーキテクチャが銀行、法務、製造といった異なる領域でどのように機能するかの完全な技術的解説については、こちらを参照してほしい——私たちの技術ディープダイブ。
チームを分裂させかけた議論
一つ正直に言っておきたい。この方法で構築するのは、より難しい。格段に難しい。そして1年半ほど前だろうか、私たちが過剰設計をしているのではないかという本物の議論がチーム内で起きた時点があった。
私たちは会議室にいた——ホワイトボードはアーキテクチャ図で埋め尽くされていた——そこでシニアエンジニアの一人が、ある製造業のクライアント向けにラッパーベースのMVPを出荷すべきだと主張した。「まず売上を立てて、コンセプトを証明し、アーキテクチャの堅牢化は後回しにすればいい」。それは筋の通った主張だった。クライアントは乗り気だった。スケジュールは厳しかった。そして、私たちの領域の競合はどこもラッパー製品を出荷して案件を獲得していた。
彼が話し終えたあとの沈黙を覚えている。それからプリヤ——幻の引用を見つけたのと同じエンジニアだ——が、温めていたスライドを表示した。そこには前四半期の三つの実例が示されていた。ラッパーベースのAIシステムが生成した出力は、もしそのとおりに実行されていれば規制要件に違反していたであろうものだった。仮定上の違反ではない。実際の違反であり、たまたま人間がループに入っていたからこそ捕捉できたものだ。
私は路線を維持する判断を下した。私たちはその案件を、より速く出荷した競合に奪われた。6か月後、その競合のシステムはコンプライアンス違反を起こし、クライアントに7桁の是正費用を負わせた。そのクライアントは、私たちのところへやって来た。
正しさを伴わないスピードは、競争優位ではない。導火線の長い負債だ。
この話をしているのは、先見の明を誇りたいからではない。速く出荷して後から改善せよという圧力は途方もなく大きく、たいていのソフトウェアの文脈ではそれが正しい本能だからこそ話している。だが規制産業——銀行、医療、法務、製造——において「後から改善」は「違反が起きてから直す」を意味する。そしてこれらの領域における違反には、猶予期間などない。
なぜ2026年がツケを払う年になるのか
マクロな絵を示そう。マッキンゼーの調査によれば、組織の88%がAIを利用している一方で、全社レベルで利益へのプラスの影響を示せているのはわずか39%だ。このギャップは、まもなく維持できないものになる。
AI導入の「投資して学ぶ」フェーズは終わった。CFOはもう「うちはAIを使っているのか？」とは訊かない。訊いているのは「EBITへのインパクトは？」だ。そしてほとんどの組織にとって、正直な答えはこうだ。「管理業務の時間をいくらか節約できました」
それでは不十分だ。メールやスライド作成の時間を節約するのは「プロダクティビティAI」——有用だが、あくまで漸進的なものにすぎない。企業が本当に必要としているのは「オペレーショナルAI」——実体経済のなかで、真水のコストを生む摩擦を取り除くシステムだ。欠品を防ぐこと。コンプライアンス違反を、起きる前に捕まえること。見た目は素晴らしくても布が人体にどう垂れるかを反映しないAI生成のファンタジー画像ではなく、正確なバーチャル試着を提供することで、年間8,900億ドルにのぼる小売返品コストを削減すること。
Klarnaの物語がここで教訓的なのは、彼らの指標がそう見えたからだ——ROIのように、だ。取引あたりのコストが40%減！だが、彼らは間違ったものを測っていた。彼らが測ったのは、節約した時間と削減した人員だ。侵食された信頼と失った顧客は測らなかった。再雇用のコスト、ブランドの毀損、そして第1四半期の9,900万ドルの損失を勘定に入れれば、「節約」は蒸発する。
2026年に勝つ企業は、節約した時間ではなく、防いだオペレーション上の損失を測っている企業だ。一晩でサプライチェーン混乱の1万通りのシナリオをシミュレートし、人間のチームなら10年かけても作れない危機回復のプレイブックを構築できるAIを展開している企業だ。そして、説得力のある段落を出力するだけでなく、規制当局に対して自らの推論を証明できるAIシステムを持つ企業だ。
では、人間はどうなるのか？
この枠組みに対しては、いつも反論が来る。「AIがそこまで良くなったら、人はどうなるんですか？」
答えは、多くの人が予想するのとは正反対だと私は思う。アーキテクチャ的に健全で深いAIを展開する組織に必要なのは、より少ない人材ではない——必要なのは異なる人材だ。ジュニアアナリストがデータの統合や資料作成を担う巨大な裾野を持つ、従来型のコンサルティングのピラミッドは崩れつつある。AIはその仕事をより速く、より上手にこなす。だが、シニアの判断力、戦略的思考、倫理的な監督、そして本物の人間的共感への需要は、生き延びているどころではない——強まっている。
いま立ち現れているのは、業界が「オベリスク」モデルと呼ぶものだ。より無駄がなく、専門家の比重が高いチームであり、キャリア初期の人材はAIワークフローを設計・管理する「AIファシリテーター」となり、中堅は解くに値する問題を定義する「エンゲージメント・アーキテクト」となり、シニアリーダーは信頼を築き曖昧さを乗りこなすという、きわめて人間的な仕事に集中する。
マッキンゼーの社内AIアシスタント「Lilli」は従業員の72%に使われ、リサーチ時間を30%削減した。BCGの「Deckster」はプレゼン資料の作成を自動化する。だが、どちらのファームも縮小してはいない。彼らは再構築しているのだ——量を精度に、請求時間を提供する成果に置き換えている。
Klarnaの間違いは、AIを使ったことではない。間違いは、AIを人間の代替として使い、人間の能力の増幅装置として使わなかったことだ。この区別は些細に聞こえる。だが、そうではない。それは1,000万ドルの節約と9,900万ドルの損失を分ける違いなのだ。
信頼のアーキテクチャ
プリヤがあの幻の引用を見つけた深夜以来、ずっと心に引っかかっていることで締めくくりたい。
私たちは、AIシステムが専門家の仕事と見分けのつかない出力を生み出しながら、同時に完全に、そして自信満々に間違っていられる時代を生きている。これはGPT-6やGPT-7が解決してくれる一時的な制約ではない。確率論的な言語モデルがどう機能するかという、その本質的な性質なのだ。それらは真実ではなく、もっともらしさに最適化している。そして真実が重要な領域——誤答がコンプライアンス違反、誤診、あるいは捏造された法的判例を意味する領域——において、もっともらしさは世界で最も危険なものだ。
解決策はAIを捨てることではない。解決策は、真実が確率的に期待されるのではなく、アーキテクチャによって強制されるAIシステムを構築することだ。あらゆる主張が検証済みのソースまで遡れるシステム。そのシステムが動作する領域のルールに違反する出力を、文字どおり生成できないシステム。監査証跡が機能の一つではなく、土台そのものであるシステムだ。
これが、私たちがVeriprajnaで構築しているものだ。決定論的AIのほうが簡単だからではない——むしろ格段に難しい。デモ映えするからでもない——ラッパーのデモは実に美しい。そうではなく、当て推量が許されない産業においては、持続可能な唯一のアーキテクチャとは、当て推量を不可能にするアーキテクチャだからだ。
Klarnaはこの教訓を、700の雇用、22%のCSAT低下、そして9,900万ドルの四半期損失という代償を払って学んだ。これを読んでいるすべての企業リーダーへの問いはシンプルだ。あなたはそれを彼らの物語から学びたいのか、それとも自分自身の物語から学びたいのか？
エンタープライズAIの未来は、言語モデルをより賢くすることではない。それらを説明責任あるものにすること——アーキテクチャ的に、証明可能な形で、揺るぎなく説明責任を負わせることだ。
ラッパーの時代は終わった。次に来るものは、構築がより難しく、出荷はより遅く、そして余分にかかるエンジニアリングの一か月一か月に見合う価値がある。結局のところ、展開する価値のある唯一のAIシステムとは、自社を賭けられるシステムだからだ。そして、自らの仕事の過程を示せないシステムに、決して会社を賭けてはならない。