Human-in-the-Loop は、AI に作業を任せるときに、手順の途中に人の確認と承認を必ず入れておく考え方です。AI は下書きや準備を速くこなしますが、もっともらしい間違いもします。取り返しのつかない操作の前に人が見る場所を決めておくと、間違いが外に出る前に止められます。人の確認を減らすのは、AI の間違い方が分かり、確かめなくても困らないと判断できた作業からです。
どこに人を挟むかは、間違えたときの影響で決めます。当社は、外への送信とデータの削除を人が承認してから行う決まりにし、AI が作業を始めるたびに読むファイルに書いています。今は、本番のサイトへの反映と、金額や契約にかかわる内容も、人の承認を挟む対象にしています。
人を挟む仕組みは、記録があってはじめて回ります。誰が何を頼み、誰が承認したかを残しておくと、あとから確かめられます（頼んだ言葉を記録に残す記事）。