トップ / 第2部 設計編 / 第13章
第13章

よくある失敗パターン

AIを業務に組み込む取り組みがうまくいかない理由は、会社や業務が違っても驚くほど似ています。この章では、第2部までの内容を失敗のパターンという裏側から見直し、早く気づき、始める前に防ぐ方法を学びます。

この章で分かること
  • 企画から運用までの各段階で起きる14の失敗パターン
  • 失敗の兆しと、まず確かめること
  • 始める前に失敗を想像する「事前の振り返り」の進め方
読む目安:約20分確認クイズ:6問

13-1失敗には型がある

AIを業務に組み込む取り組みがうまくいかない理由は、会社や業務が違っても驚くほど似ています。この章では、第1章から第12章までの内容を、失敗のパターンという裏側から見直します。

各パターンは、症状(現場で見えること)、原因(設計のどこが欠けていたか)、予防(どう設計すればよかったか)の順に整理しています。自分の取り組みに当てはまるものがないか、確かめながら読んでください。

段階パターン
企画1. 道具から始める 2. 物差しがない 3. 範囲が膨らみ続ける
分解と任せ分け4. 部分だけ速くなる 5. 何でもAIに 6. 責任者がいない
材料7. 知識が古くなる 8. 写しを参照する
組み込みと統制9. 推測で埋める 10. 確認が形だけになる 11. 一つに全部を任せる
評価と運用12. 変更を確かめない 13. 戻れなくなる 14. 作った人しか分からない
表13-1 この章で扱う14の失敗パターン

13-2企画の段階の失敗

パターン1 道具から始める

症状:「話題のAIツールを導入した。さて何に使おうか」から始まり、使い道が定まらないまま利用率が下がっていく。

原因:解決したい困りごとと、業務の工程を確かめる前に、道具を決めた。

予防:目的と業務の分解を先に行い、道具はその後に選ぶ(第1・2章)。

パターン2 物差しがない

症状:導入から半年たっても、効果があったのか誰も説明できない。続けるか、広げるか、やめるかを決められない。

原因:成功の物差しを決めず、導入前の数字も測っていなかった。

予防:要件メモに成功の物差しを数字で書き、導入前に測っておく(第5・11章)。

パターン3 範囲が膨らみ続ける

症状:作っている途中で「ついでにこれも」と要望が増え、期限と予算を超える。最初の目的もぼやける。

原因:やらないことを決めず、要件に優先度を付けていなかった。

予防:やらないことを書き、必須の要件だけで最初の版を作る(第5章)。

13-3分解と任せ分けの段階の失敗

パターン4 部分だけ速くなる

症状:AIが担う工程は速くなったのに、業務全体の日数や残業はほとんど変わらない。

原因:業務全体のボトルネックを見ずに、AIを入れやすい工程を選んだ。AIの後ろに確認の手間が増えた。

予防:業務分解表で待ちと時間を書き出し、全体の物差しで効果を測る(第1・2章)。

パターン5 何でもAIに

症状:決まった計算や集計までAIにさせ、結果がぶれる。確認の手間と利用料が増える。

原因:従来のシステムで確実にできることを、AIに任せた。

予防:「不要な工程をなくす → システム → AI → 人」の順で担い手を考える(第3章)。

パターン6 責任者がいない

症状:AIが誤った案内をしたとき、業務部門は「AIの問題」、システム部門は「業務の問題」と言い、誰も原因を調べない。

原因:工程ごとの結果の責任者を決めていなかった。

予防:任せ分け表に、業務の結果の責任者を業務側の役割で書く(第3章)。

13-4材料の段階の失敗

パターン7 知識が古くなる

症状:導入当初は正しかった回答が、規程の改定や新商品の発売の後、誤り始める。

原因:知識の持ち主と更新の流れを決めていなかった。プロジェクトが終わって誰も手入れしなくなった。

予防:知識ごとに、業務で使い続ける部署の持ち主と、更新のきっかけを決める(第7章)。

パターン8 写しを参照する

症状:AIが古い取引先情報や、下書きの規程をもとに処理している。

原因:正本を決めず、使いやすい写しや共有フォルダ全体をAIの参照先にした。

予防:情報ごとに正本を決め、参照先は正本として承認された資料だけにする(第6・8章)。

13-5組み込みと統制の段階の失敗

パターン9 推測で埋める

症状:読み取れない項目や、資料にない質問に、AIがもっともらしい値や答えを作る。

原因:判断できないときの扱いを、要件にも指示にも書いていなかった。

予防:「分からないときは分からないと返し、人に回す」を要件・指示・流れに組み込む(第4・5・8章)。

パターン10 確認が形だけになる

症状:担当者が数秒で承認ボタンを押し、AIの誤りがそのまま社外に出る。

原因:確認の観点が決まっておらず、根拠も示されず、件数も多すぎた。

予防:観点を決め、根拠を示させ、重点的に見るものを分けて表示する(第4・10章)。

パターン11 一つに全部を任せる

症状:AIが登録から支払いまでを担い、偽の請求書が誰の目にも触れずに支払われる。

原因:AIが職務分掌をまたぎ、AIの判断だけで重要な状態に進めた。

予防:AIの権限を最小限にし、重要な状態に進めるのは人だけにする(第6・10章)。

13-6評価と運用の段階の失敗

パターン12 変更を確かめない

症状:指示を少し書き換えた、AIの版が変わった、その翌週から別の種類の案件で誤りが増える。

原因:変更のたびに確かめ直す手順がなかった。

予防:指示・知識・AIの版を変えたら、例題集で測り直してから使う(第8・11・12章)。

パターン13 戻れなくなる

症状:AIが止まったとき、手作業で業務を回せる人がいない。

原因:代わりの手順を残さず、人の技能も保っていなかった。

予防:代わりの手順を文書に残し、定期的に手作業で回してみる(第12章)。

パターン14 作った人しか分からない

症状:導入を担当した人が異動すると、指示の意図も、連携の仕組みも、誰も説明できなくなる。

原因:設計の内容が文書になっておらず、担当者の頭の中にしかなかった。

予防:業務分解表、任せ分け表、要件メモ、項目定義表、指示、連携一覧、評価計画を、運用の担当者が引き継げる形で残す(第18・19章)。

ポイント

14のパターンのうち、AIの性能が原因のものは一つもありません。どれも、設計で決めておくべきことが決まっていなかったことが原因です。逆に言えば、設計で防げる失敗だということです。

13-7失敗の兆しに早く気づく

失敗は、ある日突然起きるのではなく、多くの場合、事前に兆しがあります。次のような兆しに気づいたら、対応する章に立ち戻ってください。

兆し疑われるパターンまず確かめること
利用者が「結局自分でやり直している」と言う4、10確認にかかる時間、確かめやすい出力になっているか
人による修正の割合がじわじわ増えている7、12知識の更新状況、最近の変更
AIを使わずに処理する人が増えている1、4、9使わない理由を直接聞く
承認にかかる時間が極端に短い10承認画面の表示と、確認の観点
「誰に聞けばいいか分からない」という声6、14責任者と持ち主の一覧、設計の文書
利用料が予定より大きく増えている3、5件数の増加、使い方の広がり
表13-2 失敗の兆しと、確かめること

13-8始める前に「失敗した未来」を想像する

失敗を防ぐ簡単で効果的な方法があります。取り組みを始める前に、関係者で集まり、「1年後、この取り組みは失敗に終わった。何が起きたのだろう」と想像して、理由を書き出すのです。これを事前の振り返り(プレモーテム)と呼びます。

「成功させるには何が必要か」と聞くと前向きな意見ばかりが出ますが、「なぜ失敗したのか」と聞くと、気になっていたのに言い出しにくかった懸念が出てきます。書き出した理由を、この章の14のパターンと照らし合わせ、予防策を設計に組み込みます。

テンプレート:事前の振り返りの進め方(30分)
5分
「1年後、この取り組みは失敗に終わった」と全員で想定する
10分
各自が失敗の理由を、思いつく限り付せんなどに書く(話し合わずに個人で)
10分
理由を読み上げ、似たものをまとめ、14のパターンのどれに当たるかを確かめる
5分
起きやすく影響の大きいものを3つ選び、予防策と担当を決める

この章のまとめ

  • AIの取り組みの失敗には型があり、企画・分解と任せ分け・材料・組み込みと統制・評価と運用の各段階で起きる
  • 14のパターンのどれも、AIの性能ではなく、設計で決めるべきことが決まっていなかったことが原因
  • 修正の割合の増加、自分でやり直す声、極端に短い承認時間などの兆しに早く気づく
  • 始める前に「失敗した未来」を想像して理由を書き出し、予防策を設計に組み込む
やってみよう
  1. 選んだ業務の取り組みについて、14のパターンのうち起きそうなものを3つ選んでください
  2. それぞれについて、いまの設計で予防できているかを確かめ、できていなければ対応する章を読み直してください