コンテキストウィンドウは、AI が一度に読んでおける量の上限です。指示文、渡した資料、それまでの会話のやり取りが、すべてこの中に入ります。量はトークンで数え、上限は AI の種類や契約によって違います。同じ資料でも、ある AI では一度に読めて、別の AI では途中までしか読めないことがあります。長い資料を扱う作業を任せるときは、使う AI の上限も確かめます。
上限に近づくと、AI は会話の前の方の内容を覚えきれなくなります。長い会話の途中で、最初に伝えた前提を守らなくなるのはこのためです。大事な前提は会話の途中でも書き直す、会話が長くなったら要点をまとめさせてから新しい会話を始める、といった使い方で避けられます。
社内の資料をたくさん読ませたいときも、全部を一度に渡すより、目的に合う部分を選んで渡します。資料が多い場合は、質問に合う資料を探して AI に渡す仕組み(RAG)を使います。