評価を設計する

11-1「使ってみて良さそう」では判断できない

AIを試しに使ってみると、最初の数件は驚くほどうまくいくことがよくあります。そこで「良さそうだから本格的に使おう」と決めると、後になって、特定の種類の案件ではいつも誤る、月末の複雑な案件に弱い、といった問題が見つかります。

AIの出来を判断するには、あらかじめ決めた方法で、十分な数の案件で、数字として測る必要があります。これを評価と呼びます。評価が必要な場面は、導入を決めるときだけではありません。

• 導入を決めるとき：業務に使える水準に達しているか
• 任せ方の段階を上げるとき：レベル2からレベル3へ進めてよいか（第3章）
• 何かを変えたとき：指示、知識、AIの版を変えて、悪くなっていないか（第8・10章）
• 運用している間：少しずつ悪くなっていないか

この章では、評価を「後から考えること」ではなく、最初から設計しておくこととして扱います。

11-2何を測るか：2つの物差し

評価には、2つの物差しがあります。

	業務の物差し	AIの工程の物差し
何を測るか	業務全体が良くなったか	AIが担う工程の出来
例	1件あたりの処理時間、支払い遅延の件数、問い合わせの解決までの日数	読み取りの正確さ、分類の正しさ、根拠の正しさ、判断できないものを正しく返せたか
どこで決めたか	要件の「成功の物差し」（第5章）	要件の「正確さの水準」（第5章 5-4）
いつ測るか	導入前と導入後	導入前の試験、変更のたび、運用中の定期点検

両方が必要です。AIの正確さが高くても、業務全体が良くならなければ導入の意味がありません（第1章のボトルネック）。逆に、業務全体の数字だけを見ていると、AIの誤りが人の確認で吸収されていて、確認の負担が増えていることを見落とします。

11-3正確さを測る：誤りには2種類ある

AIが「問題あり」「問題なし」を判定する工程を考えます。たとえば、経費申請のうち規程に違反しているものを見つける工程です。AIの判定と、実際の正解を組み合わせると、結果は4通りに分かれます。

	実際は「違反あり」	実際は「違反なし」
AIが「違反あり」と判定	正しく見つけた	空振り　問題ない申請を止めてしまった
AIが「違反なし」と判定	見逃し　違反を通してしまった	正しく通した

誤りには、見逃しと空振りの2種類があります。そして、業務によってどちらが重いかが違います。

• 経費の規程違反のチェックでは、見逃しが重い。違反した支出がそのまま通ってしまう。空振りは、人が確かめて通せばよい
• 問い合わせの緊急度の判定でも、見逃し（緊急なのに通常扱い）が重い
• 迷惑メールの振り分けでは、空振り（大事なメールを迷惑メール扱い）が重いこともある

「正確さ95%」という一つの数字だけでは、どちらの誤りがどれだけあるかが分かりません。見逃しと空振りを分けて数え、重いほうに厳しい合格ラインを設けるのが、業務に合った評価です。

読み取りの工程なら、項目ごとに正確さを数えます。取引先名は99%正しくても、支払期日が85%なら、支払期日の読み取りに課題があると分かります。全項目をまとめた数字では、この違いが隠れます。

11-4例題集をつくる

評価には、正解の分かっている案件の集まりが必要です。これを例題集と呼びます。例題集の質が、評価の質を決めます。

例題集の作り方

1. 過去の実際の案件から集める：作った例ではなく、実際に処理した案件を使う。業務の実態に近い評価ができる
2. 件数の目安は50〜200件：少なすぎると偶然に左右され、多すぎると正解を付けるのが大変になる。まず50件で始め、増やしていく
3. 種類のバランスをとる：典型的な案件だけでなく、境目の案件、例外、AIが「判断できない」と返すべき案件も入れる
4. 正解を2人で付ける：2人の正解が食い違った案件は、基準そのものが曖昧なしるし。基準を見直す（第2・7章）
5. 個人情報や取引先名は伏せる：必要に応じて置き換え、渡してよい情報の範囲（第7章）を守る

種類	割合の目安	例（経費の規程確認）
典型的な案件	5割	通常の交通費、上限内の会食
境目の案件	2〜3割	上限ちょうどの金額、取引先かどうか迷う参加者
違反・例外	1〜2割	上限超え、領収書の宛名なし、期限切れ
判断できないもの	1割	規程に記載のない種類の支出

11-5合格ラインを決める

測った結果を「使える」「使えない」と判断するには、測る前に合格ラインを決めておきます。測った後に決めると、結果に合わせて甘いラインを引きがちだからです。

合格ラインを決めるときの手がかりは3つあります。

• 人のいまの水準と比べる：人が処理しても一定の誤りはあります。同じ例題集を人が処理したときの正確さを測れば、比べる基準になります。AIに人以上の完璧さを求めると、いつまでも導入できません
• 誤りの影響と、後ろの確認で決める：後ろに人の全件確認があるなら、AIの合格ラインはある程度低くてもよい。確認を抜き取りにするなら、高くする必要がある
• 重い誤りに厳しく：見逃しが重い業務なら、「見逃しは2%以下、空振りは15%以下」のように分けて決める

任せ方	合格ラインの例（経費の規程確認）
レベル2で始める	見逃し5%以下、空振り20%以下（人が全件確認するので、確認の負担が許容範囲かを見る）
レベル3に上げる	見逃し1%以下、空振り10%以下、判断できないものを正しく人に回せた割合95%以上

11-6文章の出来を評価する

回答文の下書きや要約のように、正解が一つに決まらない出力は、「正しい・誤り」で数えられません。そこで、観点ごとの採点表を作って評価します。

観点	2点	1点	0点
根拠の正しさ	回答の内容がすべて参照資料と一致	一部に資料にない内容がある	資料と食い違う内容がある
必要な事項	お客様が次にすべきことが分かる	一部が欠けている	質問に答えていない
約束の範囲	会社が約束できないことを書いていない	—	返金・期日など、権限のない約束をしている
言葉づかい	そのまま送れる	少し直せば送れる	書き直しが必要

「約束の範囲」のように、1つでも0点があれば不合格とする観点を決めておくと、重大な誤りを平均点で見逃すことを防げます。採点は2人で行い、点数が食い違ったら観点の書き方を見直します。

11-7導入した後も測り続ける

導入時に合格したからといって、その水準が続くとは限りません。次のような理由で、AIの出来は少しずつ変わります。

• 扱う案件の傾向が変わる（新商品、新しい取引先、制度の変更）
• 知識が古くなる（第7章）
• AIの提供会社がAIを更新する（第12章）

そこで、運用中は次の3つで見守ります。

方法	頻度の例	見るもの
確認の記録を集計する	毎週	人が修正・差し戻した割合（第4章 4-7の記録から）。急に増えたら原因を調べる
抜き取りで確かめる	毎週〜毎月	レベル3の工程で、人が確認していない案件の正しさ
例題集で測り直す	四半期ごと、変更のたび	導入時と同じ例題集で、正確さが下がっていないか

運用中に見つかった新しい種類の誤りは、例題集に加えます。例題集は、運用とともに育てていくものです。

11-8評価計画を1枚にまとめる