生成AIの文面を社外へ送る前には、事実・条件・宛先・機密・表現を人が確認します。根拠が見つからない記述は、自然な文章でも保留します。確認者と承認の記録を決めておくと、急いでいるときも判断を飛ばしにくくなります。
対象は、AIで問い合わせ返信や案内文の下書きを作る中小企業の現場責任者です。この記事では、AIが正常に動いているときの送信前の品質管理に絞ります。下書きを作る仕組み自体はAIによる問い合わせ一次対応の設計をご覧ください。
「人が見た」を、承認の条件に変える
AIの文章は、読みやすくても根拠が正しいとは限りません。例えば「来週の火曜日に納品します」という一文は、日付、在庫、担当者の予定が合って初めて送れます。文法だけ直して送信ボタンを押す行為は、その確認の代わりになりません。
NISTのAIリスク管理フレームワークは、人による監督の手順や役割を定義し、出力を利用文脈の中で解釈することを示しています。これは各社に一律の五項目を命じる文書ではありません。以下の五項目は、その考え方を日々の文面確認に落とした実務上の提案です。
図の分岐が要点です。照合できない記述を「たぶん正しい」として承認へ進めない。保留した箇所だけを担当者に戻し、根拠が確かめられてから送信します。
社外送信前に確認する五項目
1. 事実：数字と固有名詞は元資料へ戻る
価格、日付、数量、製品名、担当者名を下書きから拾い、見積書、商品台帳、契約書などの正本と照らします。AIが付けた出典リンクも、リンク先の本文に同じ記述があるか開いて確かめます。元資料にない数字は削除するか、情報を持つ担当者に確認します。AIに「もう一度確認して」と頼むだけでは、独立した照合にはなりません。
2. 条件：例外と約束の範囲を読む
「返品できます」「追加費用はありません」のような表現は、対象商品、期限、契約条件が抜けると別の約束になります。元の問い合わせと社内規定を並べ、相手に適用される条件を確認します。条件が確定していないなら、回答期限を伝えて確認中とする方が安全です。
3. 宛先：相手と案件が一致しているか
文章が正しくても、別の顧客への返信を流用すれば問題になります。送信直前に宛先、件名、案件番号、添付ファイルを同じ画面で見直します。自動で候補を選ぶ仕組みがある場合も、候補の名前だけでなく元案件との対応を確認します。
4. 機密：書いてよい情報だけが残っているか
顧客の個人情報、他社の見積条件、社内の未公開情報が混ざっていないかを見ます。入力時の管理はChatGPT社内利用ガイドラインの雛形で扱っていますが、出力側にも確認が必要です。IPA掲載のテキスト生成AI導入・運用ガイドラインは、組織の導入・運用とリスク管理を分けて整理しています。なお同資料はIPAの公式見解ではなく、同機構の育成プログラム卒業プロジェクトによるものです。
5. 表現：会社として引き受けられる文か
根拠が正しくても、断定が強すぎたり、謝罪すべき場面で責任を避ける文になったりします。「確約」「保証」「必ず」は特に見直します。苦情や契約条件の変更など、相手への影響が大きい案件は担当者だけで完結させず、責任者へ回します。読みやすさの確認は最後に行い、先に事実を固めます。
承認者を決め、保留を記録する
全件を同じ重さで二重確認すると、現場が回らなくなります。社内の定型案内は担当者による確認、価格・納期の個別回答は元資料を持つ人の確認、苦情や例外対応は責任者の承認、というように影響の大きさで承認先を分けるのが一案です。これは法令上の区分ではなく、業務に合わせて調整する例です。
経済産業省・総務省のAI事業者ガイドライン第1.2版には本編に加えてチェックリストとワークシートが用意されています。自社の用途、関係者、確認の責任を整理するときの参照先になります。実際の承認権限は、自社の契約や既存の業務規程と合わせてください。
記録は大げさな台帳でなくても構いません。既存の案件管理画面に、元資料、未確認点、確認者、承認日時、送信結果を残します。顧客情報を別の表に複製するより、案件番号から元記録へ戻れるようにします。分からない箇所があれば「保留」と理由を記し、誰が何を確認すれば再開できるかを書きます。
まず一種類の文面で試す
最初から全ての文書に適用する必要はありません。例えば問い合わせ返信のうち、納期を含む回答だけを対象にします。AIが下書きを作り、担当者が五項目を確認し、必要な案件だけ責任者が承認する。数件試して、確認に時間がかかる項目や見落としを記録します。
ルールが機能したかは、チェック欄が埋まった数では判断しません。誤案内や差し戻しが減ったか、確認時間が業務に見合うかを振り返ります。AI活用の前提となる組織の姿勢はAIを使える会社と使えない会社の違いで整理しています。承認できない出力を止められることも、使いこなす力の一部です。
よくある質問
AIが出典URLを付けたら、そのまま信用できますか？
できません。URLが開けるかだけでなく、該当箇所に同じ事実が書かれているか、日付や適用条件が合うかを確認します。出典が見つからなければ、その記述は保留します。
全件を責任者が読む必要がありますか？
一律には必要ありません。会社としての約束や重大な影響を伴う案件を先に定め、そこを責任者に回します。定型文も、初回や内容を変更したときは元資料との照合が必要です。
確認しても間違いを見落としたら、どうしますか？
誤りの内容、参照した資料、承認までの経路を案件に残し、訂正と再発防止に使います。担当者の注意力だけに頼らず、正本の更新、確認項目、承認先のどこに問題があったかを調べます。