AI に下書きさせた提案書やメールの間違いは、読んで「おかしくないか」を見るだけでは見つかりません。AI は、事実と違うことも、もっともらしく書くからです。当社では、間違えやすいところを種類で分け、種類ごとに確かめ方を決めて、お客様に届く前に通しています。確かめ方の多くは、実際にあった 3 つの間違いのあとに足したものです。
AI は事実と違うことももっともらしく書くので、出てきたものを人が確かめます
当社がこれまで行ってきた AI研修では、前半で「頼む力」と「確かめる力」の話をしてきました。確かめる力は、AI の出力を人の目で読んで判断し、直すことで、最後の責任は人が持ちます。研修のスライドの言葉そのものは、3 時間の研修の時間割を書いた記事にあります。
東京都の「AI 導入・活用ガイドライン」（2026 年 3 月）も、生成 AI では事実と異なる情報が出力されることもあるとしています。事実と違うことをもっともらしく答えることは、ハルシネーションと呼ばれます。
AI に頼む仕事は、頼んで終わりにはなりません。出てきたものを確かめて直す作業に時間がかかります。
当社で実際にあった 3 つの間違い
上場企業向けの提案書で、別の会社の株主優待を取り違えていました
2026 年 7 月、ある上場企業に向けた提案書を AI と作りました。AI が Web 検索で見つけた株主優待の情報を、提案先の会社のものと取り違え、提案の中心に据えていました。提案書は、PDF と Word のファイルまで作っていました。
提案先の会社の公式の IR（投資家向けの情報）のページを開くと、株主優待は設けていないと書かれていました。検索結果に出ていた情報サイトが、別の会社の優待と取り違えていたのです。
このあと、企業の事実（株主優待、株主の構成、業績、配当）は、その会社の公式のページで確かめることにしました。IR のページ、有価証券報告書、決算短信です。情報をまとめたサイトの数字は、補助にとどめます。提案の中心にする事実は、2 か所で確かめます。
提案書に、実在しない補助金の名前と当てはまらない補助率が書かれていました
提案書の補助金の欄に、AI が推測で、補助金の名前と補助率を書いていたことがあります。その名前の補助金は実在せず、補助率もその提案には当てはまらないものでした。読んだ私が、補助率がおかしいと気づいて差し戻しました。
このあと、補助金は、正式な名前、対象になる枠、補助率の条件を、公式の情報で確かめてから書くことにしました。推測や概算では書きません。条件によって補助率が変わるときは、いちばん有利な条件は使わず、一般的な条件で書きます。
提案書の見出しに、社内向けの言葉がそのまま出ていました
同じ上場企業向けの提案書では、対応範囲の章の見出しに、社内の心配ごとをそのまま書いた言葉が付いていました。提案書の書き方を AI に教える手順書の中に、社内向けの説明として書いてあった言葉です。AI はそれを、お客様に見せる見出しにそのまま写していました。お客様から見れば、こちらの都合だけを書いた見出しです。私は強く差し戻しました。
このあと、見出しと注記まで、お客様の目で読むことにしました。納品の前には、社内の言葉の一覧で、全文を機械的に探します。
お客様に届くものは、送る前に 7 つの項目を確かめています
3 つの間違いのあとに足した確認を、今は 1 つの一覧にしています。お客様に届くもの（メール、提案書、見積もり、サイトの文章）は、送る前にこの一覧を通します。
- 社名・人名・肩書きを、いただいた名刺や相手の公式のページと照らした
- 金額・日数・回数・割合の数字ごとに、出所の記録を開いた。記録の無い数字は消した
- 他社の事実（株主優待、業績など）を、その会社の公式のページで確かめた
- 制度の名前と条件（補助金、助成金、法律）を、省庁や公募要領などの公式の情報で確かめた
- 社内の言葉や、手順書の中の言葉が残っていないか、一覧で機械的に探した
- 録音から作った議事録の金額と固有名詞は、「要確認」の欄を人が確かめてから使った
- 最後に、受け取る人の目で頭から読み、見出しと本文が合っているか、誰が誰に言っているかを確かめた
名前の確認も省きません。当社では、提案書の下書きに、私の名前が「小野 隆志」と書かれていたことがあります。正しくは「隆士」です。自社の代表の名前でも書き違えは起きるので、相手の名前と肩書きは、いただいた名刺と相手の公式のページで照らします。
数字の確認では、金額・日数・回数・割合を 1 つずつ拾い、出所の記録（見積書、議事録、設定の画面、公式のページ）を開いて照らします。出所が見つからない数字は、書かずに消します。
録音から作る議事録の数字には、もう一段の注意が要ります。文字起こしで崩れた金額や名前を、AI が前後の話から補っているからです。補った箇所は議事録の末尾の「要確認」の欄に並べさせ、人が確かめてから提案書に使います。欄の作り方と実際にあった誤変換は、「議事録を AI で作る前に決める、商談の記録の置き場所と確かめ方」に書いています。
言葉を探す・数える作業は機械に任せ、書いてよいかの判断は人がします
確認の作業のうち、決まった言葉を探す、数を数える、といった作業は機械や AI に任せています。書いてよいかどうかの判断は、人がします。
| 確かめること | 機械や AI に任せていること | 人がすること |
|---|---|---|
| 使わない言葉 | 一覧の言葉を全文から探し、見つかった件数と場所を出す | 見つかった箇所が、正しい使い方かどうかを決める |
| 表記の揺れ | 「申込み」と「申し込み」のような揺れを数える | どちらにそろえるかを決める |
| 数字 | 記録のどこに同じ数字があるかを探す | 記録と照らして、合っているかを決める |
| 他社や制度の事実 | 公式のページを開き、当てはまる箇所を抜き出す | 抜き出した箇所を読み、書いてよいかを決める |
提案書で実際にこの探し方をしたときの結果は、提案書の下書きの手順の 5 つ目に書いています。
公式のページは、版と日付まで確かめて記録に残します
公式のページを開いても、それで終わりにはなりません。この記事で引いた東京都のガイドラインも、2023 年 8 月の東京都の発表のページから PDF を開きました。開いた PDF は、2026 年 3 月の「AI 導入・活用ガイドライン」でした。発表のページの日付だけを見て書いていたら、版を取り違えるところでした。
制度や他社の事実を書くときは、次の 3 つを手元の記録に残しています。
- 開いたページの名前と URL
- そのページに書かれていた日付や版
- 確かめた日
誰が確かめてから送るかを、AI を使い始める前に決めておきます
AI を社内で使うときの決めごととして、当社の資料では次の 3 つを挙げています。
- 利用のルール: 使ってよい業務とデータを決める
- 権限の設計: AI が触れる範囲を最小限にする
- 人の最終確認: 外部への送信、支払い、削除は人が承認する
お客様に届くメールや提案書は、3 つ目の「外部への送信」にあたります。社員が AI を使い始める前に、誰が何を確かめてから送るのかを決めておけば、送る前に止める場所が社内にできます。社内の決まりの作り方は、用語集の AI 利用ガイドラインにもまとめています。
営業で AI に下書きさせている場面の全体は、AI営業の記事にあります。
