AI に任せたら品質が落ちた、という事例の多くは、AI の性能ではなく「任せる工程の線引き」を決めずに使い始めたことが原因です。本記事では、北九州市・福岡県の中小事業者様向けに、生成AI を業務に組み込む際に押さえたい3つの切り分け原則——AIが得意な工程と人が確認する工程、情報の秘匿レベル、責任の所在——を業務切り分けの観点から整理します。
AIが得意な工程と人が確認すべき工程を分ける
何が起きるか：見積書・契約書・顧客向けメールに、AI が下書きした数字や固有名詞の誤りがそのまま顧客に届く事故が起きます。ChatGPT や Claude の現行モデルでも、統計指標で見た正確性は7〜8割程度。下書きから最終納品まで通しで AI に任せると、残り2〜3割の誤りが検出されずに届きます。
なぜ起きるか：「ドラフト→事実確認→最終納品」の役割分担を最初に決めずに使い始めるため。AI が個人検証ではうまくいくのに業務に組み込むと工数が増えるのは、確認工程を曖昧にしたまま運用しているサインです。MIT Project NANDA の調査では、生成AI 関連投資で測定可能な ROI が得られていない組織が 95% に達するとされています。
回避策：
- 下書き工程・整形工程・事実確認工程を分け、最後は人が固有名詞・数字・金額を照合
- 数字・条文・人名が含まれる出力は、AI に「根拠を併記」させてから人が照合
- 繰り返しパターンはプロンプトをテンプレ化し、属人化を防ぐ
- 議事録要約・提案書ドラフト・SEO 記事下書きなど「下書き寄り」工程は AI 主導でよい。判断・最終承認は人が握る
業界統計の出典: MIT Project NANDA レポート解説、Uravation 業界別AI導入失敗事例、K&K ソリューション 生成AI レポート を参考に整理。
情報の秘匿レベルで AI に入れる情報を分ける
何が起きるか：顧客の個人情報・契約書原本・社内会議の機密議事録を ChatGPT 等に貼り付けてしまい、守秘義務違反や情報漏えいのリスクを抱えます。サムスン電子では2023年に社員が機密情報を ChatGPT に入力した事案が複数発生し、その後社内利用が一時禁止になりました。同種のリスクは士業・コンサル・建築など中小事業者でも当然存在します。
なぜ起きるか：「業務で AI を使う許可」だけが先行して、入力していい情報・いけない情報のルールが社内で共有されていないため。アカウントが流出してダークウェブで取引される事案も確認されています。
回避策：
- 入力情報を 公開可・社内限定・機密 の3段階で色分けし、機密ラベルは AI に入れない運用ルールを1枚にまとめる
- 学習オプトアウトが効くプラン（ChatGPT Business、Claude Team、Notta Business など）を業務用に契約
- 個人情報・固有名詞は仮名化してから入力する。議事録の AI 化を始める順番は 議事録のAI化、士業・コンサルが最初にやる手順 で整理しています
責任の所在を最初に決める
何が起きるか：AI 出力をそのまま顧客に出して問題が起きたとき、誰が責任を取るか決まっていないと現場が萎縮し、結果的に AI が使われなくなります。1人がトラブルを起こした途端、社内で AI 利用が事実上禁止になる、あるいは逆に「AI が出した結果だから」と検証せずそのまま社外へ出てしまうケースもあります。
なぜ起きるか：「AI 利用は OK」だけ決めて「最終承認者は誰か」「事故時の対応フロー」を決めていないため。導入初期はそれで動きますが、最初の事故が出た瞬間に制度が崩壊します。
回避策：
- 出力の最終承認者を業務種別ごとに明文化（顧客向け文書は管理職、社内文書は担当者など）
- 「AI が下書きした旨」を社内ドラフトに明記し、レビュー時に確認漏れを防ぐ
- 月1回、ヒヤリハット（誤出力をレビューで止めた事例）を共有する場を持つ
- AI を業務で使い始めたばかりの方は、まず 中小事業者のはじめてのAI活用：何から始めるか で1人月3,000円の入口を確認してから、本記事の3原則を運用に組み込むのが順番として無理がありません
北九州市の中小事業者が、AI 業務切り分けを始める最初のチェック項目
3つの失敗パターンを踏まえて、福岡県内の中小事業者様が今すぐ確認できる項目を整理します。
- [ ] 業務を「下書き工程／確認工程／最終承認工程」の3つに分け、それぞれの担当（AI／担当者／管理職）を1枚の表で書き出している
- [ ] AI に入力する情報を 公開可・社内限定・機密 で色分けし、機密ラベルは AI に入れないルールを書面化している
- [ ] 学習オプトアウトを有効化したプラン（Business 系）を業務用に1契約以上確保している
- [ ] 顧客向け文書の最終承認者を職位ベースで明文化している
- [ ] 月1回、AI 出力で止めた誤りを社内で共有する場を持っている
このうち2つ以上当てはまらない場合は、運用設計から見直すと業務切り分けの3原則が機能し始めます。業務の整理と AI 適用判断は1人で抱え込むと工数がかかる工程です。個別ご相談は、弊社（株式会社松伸）のAI活用コンサルティング からどうぞ。