自動化の失敗：数百万かけて構築したAIをクライアントが「削除したい」と言った理由
- 課題: 著者は多額を投じて自動化を作ったが、役に立つどころか不満を生み、顧客に「消したい」と言われた。
- 解決策: 4つの実際の失敗を分解する。人を忘れる、価値を測らない、変更管理を飛ばす、代替手段がない。
- 成果: 成功する自動化は一度きりの納品物ではなく、長期的なパートナーシップである。
自動化の失敗：数百万かけて構築したAIをクライアントが「削除したい」と言った理由
今日は、私が**「自分の足を撃ってしまった」**経験についてお話しします。自分では「素晴らしい発明だ」と思っていた自動化プロジェクトが、クライアントから「チャウさん、これ消して。手動でやるよりひどいよ」と言われてしまった話です。
これらは笑い話のようですが、非常に高くついた教訓です。皆さんが同じようなミスを避けるための助けになれば幸いです。
TL;DR (Executive Summary)
- '課題: 著者は多額を投じて自動化を作ったが、役に立つどころか不満を生み、顧客に「消したい」と言われた。' - '解決策: 4つの実際の失敗を分解する。人を忘れる、価値を測らない、変更管理を飛ばす、代替手段がない。' - '成果: 成功する自動化は一度きりの納品物ではなく、長期的なパートナーシップである。'
失敗 #1：「人を忘れた自動化」 — 初めての文書処理システム
2019年、私は小規模な保険会社のプロジェクトに参加しました。クライアントは言いました。「チャウさん、毎日社員が手書きの請求書をパソコンに打ち込んでいるんです。とても大変なので、何か自動化できませんか？」
私は張り切って答えました。「もちろんです！OCRを構築して、請求書を自動認識し、データベースに自動登録します。もう手入力は不要です！」
結果は？
システムは技術的に正しく構築され、OCRは99%の精度で動作しました。しかし、実際に導入すると社員から猛反発を受けました。「ソフトはいいかもしれないけど、間違いを直すのが私たちの仕事になっている。以前よりチェック項目が増えて、手入力より疲れるよ！」
私のミス:
- ❌ AIの精度（99%）の向上だけに集中してしまった
- ❌ **「AIが間違えた時、どのような修正プロセスになるか」**を確認していなかった
- ❌ エラー発生時のUXを設計せず、「ハッピーパス（正常系）」のみを設計してしまった
修正方法:
私は現場に戻り、2週間かけて詳細をヒアリングしました。
- 「OCRが読み取れなかった時、どうしていますか？」
- 「最も多い間違いのパターンは何ですか？」
- 「AIが95%正解だとしたら、残りの5%を直すのにどれくらい時間がかかりますか？」
その結果、UXを再設計しました。
- AIが情報を推測し、社員は確認するだけ（打ち直しは不要）
- AIが自信がない箇所をハイライトし、社員が重点的に確認できるようにした
- 標準的な請求書用の「ファストトラック」と、特殊な請求書用の「スロートラック」を分けた
今度は、社員たちは大喜びでした。「チャウさん、これすごく助かるよ！」と言われ、会社全体で30%の時間を削減できました。100%の自動化ではなく、**「スマートなアシスタント」**を目指した結果です。
失敗 #2：「価値を測定しない自動化」 — 役に立たないメールボット
あるクライアントが言いました。「チャウさん、似たような問い合わせメールが多いんです。AIで自動返信できませんか？」
私はまた張り切りました。「いいですね！LLMを使い、過去のメールで学習させて自動返信させましょう」
結果は？
構築して導入しましたが……2週間後、クライアントから「これを外してくれ」と言われました。
私のミス:
- ❌ **「何%のメールが実際に自動返信可能なのか」**を把握していなかった
- ❌ **「ボットの間違った返信を社員が手動で修正する手間」**を測定していなかった
- ❌ 「動くこと」だけに集中し、**「どのような価値を生むか」**に焦点を当てていなかった
真実: 100通のメールのうち、自動返信できる標準的なものは約20%に過ぎませんでした。残りの80%は特殊なケースで、ボットが間違った返信をし、クライアントがそれを修正しなければなりませんでした。効率化どころか、余計な手間が増えてしまったのです。
修正方法:
自動化を構築する前に、以下の3つの質問を自分に課すようにしました。
- 「全ケースのうち、何%を自動化でサポートしたいか？」（100%ではなく、現実的な40-60%）
- 「AIが間違えた場合、手動で修正するコストは削減されるメリットを上回るか？」
- 「この自動化が実際に業務を減らしたかどうかを、どう測定するか？」
その後、別のクライアントから同様の依頼を受けた際、私はこう答えました。「最も一般的な30%のパターンだけを自動返信にしましょう。残りの70%は、AIが優先順位をつけ、下書きを提案します。担当者は1〜2箇所修正して送信するだけです」
結果：社員もクライアントも、そして私もハッピーになりました 🎉
失敗 #3：「チェンジマネジメント（変革管理）の欠如」 — 現場に嫌われた自動化
ある時、私は製品相談用の自動チャットボットを導入しました。コードは完璧で、顧客への回答も的確でした。私は誇らしげに言いました。「納品完了です。すぐにお使いいただけます！」
結果は？
1ヶ月後、サポートチームのマネージャーから連絡がありました。「チャウさん、チームのメンバーが、チャットボットのせいで顧客との接点が失われたと言っています。顧客はチャットボットにしか聞かなくなり、私たちは顧客が何を求めているのか分からなくなってしまいました。止めてください」
私のミス:
- ❌ 構築してデプロイしただけで、チームへのトレーニングを怠った
- ❌ **「チャットボットが仕事を奪うと感じた時、チームはどう思うか」**を考えなかった
- ❌ 現場が新しいテクノロジーを受け入れるためのチェンジマネジメントの計画がなかった
修正方法:
自動化を導入する前に、以下のことを行うようにしました。
- チームとのワークショップ: 「これは皆さんを置き換えるものではなく、単純作業から解放するためのものです。より重要な顧客への対応に時間を使えるようになります」
- 試験的な導入: 20%の顧客にのみ導入し、全面展開する前に実際の結果を測定する。
- フィードバックループ: チームに「これは役に立っていますか？ どこを修正すべきですか？」と聞き、実際に修正すること。
次にチャットボットを導入した際は、サポートチームを設計の段階から参加させました。その結果、彼ら自ら積極的に宣伝してくれるようになりました。「お急ぎの方はまずボットに聞いてください。私と話したい場合は電話番号を残してください」と。チャットボットは脅威ではなく資産になったのです。
失敗 #4：「予備計画（コンティンジェンシープラン）のない自動化」 — システム停止の悪夢
契約書を自動処理するOCRシステムを構築しました。システムは99.9%稼働していましたが、ある日、サーバーが4時間停止しました。
結果は？
500件以上の契約書が未処理のまま溜まり、期限が過ぎてしまいました。クライアントから怒鳴られました。「なぜ警告してくれなかったんだ！ 今から50人を動員して手動で処理しなければならないじゃないか！」
私のミス:
- ❌ 99.9%の稼働率に固執し、たった一度の停止が致命的になることを忘れていた
- ❌ **フォールバックプロセス（代替手段）**がなく、システム停止時にどうすべきか決めていなかった
- ❌ アラートシステムがなく、クライアントはシステムが止まっていることに気づけなかった
修正方法:
それ以降、すべての自動化プロジェクトで以下を計画するようにしました。
- フォールバックプロセス: 「システムが止まったらどうするか」を文書化しておく
- アラートシステム: 処理が失敗した際、システムが自動的にチームへメール通知を送るようにする
- バッチ処理: リアルタイム処理ではなく、午前・午後のバッチ処理にすることで、エラー発生時の修正時間を確保する
- 手動オーバーライド: 緊急時には手動で強制処理できるようにする
結果：クライアントは安心し、自動化は走り続け、万が一の時にも「プランB」がある状態になりました。
最大の教訓：自動化は「丸投げ」ではなく「パートナーシップ」
15件以上のプロジェクトを経て、私は気づきました。
自動化が失敗するのはAIが劣っているからではなく、それが「人」に仕えるべきものであることを忘れてしまうからです。
成功したプロジェクト：
- ✅ 開発前に深くヒアリングした（真の悩みは何か？）
- ✅ 結果を測定した（実際に何%の業務が減ったか？）
- ✅ チームを巻き込んだ（彼らの意見を反映させた）
- ✅ 予備計画を立てた（失敗した時にどうするか？）
失敗したプロジェクト：
- ❌ 開発を優先し、ヒアリングを後回しにした
- ❌ 「AIが正しく動くか」だけに集中し、「どのような価値を生むか」を忘れた
- ❌ 現場が新しい技術を喜ぶと思い込んだ（誰もが失職を恐れています）
- ❌ 予備計画を忘れ、不具合の際にクライアントに負担を強いた
私からのアドバイス
もしあなたが自動化（AI、チャットボット、ワークフローなど）を導入しようとしているなら、急いで開発を始めないでください。まずは中小企業のためのAI活用：「役立たずなチャットボット」にお金を捨てない方法を読んで正しい課題を選び、もし根本原因がバラバラな手作業のプロセスにあるなら、自動化よりも先に「信頼できる唯一の情報源（Source of Truth）」となる社内システムが必要かもしれません。まずこう問いかけてください。
- 「ただ導入したいだけではなく、本当に『価値を生む』ことを望んでいますか？」 → 導入前後の数値を測ってください
- 「毎日それを使うのは誰ですか？ 彼らは協力的ですか？」 → 早い段階で彼らを巻き込んでください
- 「失敗した時、どうしますか？」 → 代替案を用意してください
- 「期待するROI（投資対効果）はいくらですか？」 → 曖昧ではなく具体的に決めてください
もし、現在進めている自動化プロジェクトが「しっくりこない」と感じているなら、お気軽にご連絡ください。都合が合うときに、短い対話で一緒に整理してみましょう。
- それは本当に価値を生んでいますか？
- 現場の理解は得られていますか？
- 戦略をどう軌道修正すべきですか？
自動化は素晴らしいツールですが、それは人のために役立つ時にのみ素晴らしいのです。単に「自分の技術力を証明するため」のものではありません 😊
Nguyen Phuc Nguyen Chau
Delivery Manager
14年間のデリバリー経験 (Web、システム、AI自動化) - 日越市場対応
JLPT Business / PMP® Certified
自動化を14年間手掛け、そのうち7〜8年は自分の足を撃ち続けてきました