AI-in-the-Loop は、AI が書いたものや出した答えを別の AI に確かめさせる手順を、作業の途中に入れておく考え方です。人の確認を挟む Human-in-the-Loop に合わせた呼び方です。下書きを書く AI と、決まった観点で読み直す AI を分けておきます。数字の食い違いや指示の読み落としのような見つけやすい間違いを、人が読む前に拾えます。
人の確認の代わりにはなりません。確かめ役の AI も、もっともらしい間違い（ハルシネーション）をします。Anthropic は、AI に採点させる方法について、人の採点と照らしてずれが小さいことを確かめながら使うよう勧めています。情報が足りないときは「分からない」と答えてよいと、確かめ役の AI に伝えておくことも挙げています。外への送信や金額にかかわる判断の前には、これまでどおり人が見ます。
AI による確認は、人が見る場所を絞るときに役立ちます。確かめ役の AI には観点を箇条書きで渡し、観点ごとに結果を書かせると、何を確かめて何を確かめていないかが人に分かります。当社は PDF の書類を表にするとき、同じ読み取りを AI に 3 回させ、セルごとに機械で比べています。食い違ったセルだけを、人が原本で確かめます（3 回読ませて比べる記事）。別の AI に確かめさせる形ではありませんが、AI の結果どうしを比べて人の確認を絞る点で近い使い方です。