昔の会話の内容を、AIが覚えていた。話した覚えのない好みを、AIが知っていた——。
便利さより先に、うっすらとした気味の悪さを感じた人は少なくないはずです。「私の会話、勝手に学習されてる？」という疑問は、AIへの不安の中でも特に根強いものです。
結論から言うと、この疑問には「はい」とも「いいえ」とも答えられません。「学習」という言葉に、実態の違う3つの仕組みが混ざっているからです。3つを分けて理解すると、不安の大半は「確認できる設定の話」に変わります。順に見ていきます。
行き先1：会話の中の「文脈」 — その場限りの記憶
ひとつの会話の中でAIが前の発言を踏まえて答えられるのは、その会話の履歴をまとめて読み直しているからです。人間の「覚えている」とは違い、会話が終われば持ち越されません。これは学習ではなく、会話を成立させるための仕組みで、心配する必要のない部分です。
行き先2：メモリー機能 — 「覚えていた」の正体はほぼこれ
多くのAIサービスには、会話をまたいであなたの情報を覚えておく「メモリー」機能があります。名前、好み、仕事の内容、過去に話したこと。別の日の会話でAIが以前の話を持ち出してきたなら、まずこの機能です。
重要なのは、これがモデルそのものが賢くなる「学習」ではなく、あなたのアカウントに紐づくメモ帳だという点です。だから、次のことができます。
- 見る — 設定のメモリー欄で、AIが何を覚えているか一覧できる
- 消す — 覚えてほしくない項目だけ個別に削除できる
- 止める — 機能ごとオフにして、毎回まっさらな相手として使える
「勝手に覚えられている」と感じたら、まずメモリーの一覧を見てください。AIが自分について何をメモしているかを一度見ておくだけで、気味の悪さはかなり薄れます。不気味さの正体は、中身が見えないことだからです。
行き先3：モデルの訓練 — 唯一「学習」と呼べるもの
3つめが、言葉どおりの意味での学習です。あなたとの会話データが、将来のAIモデルの改善（訓練）に使われるケース。これはサービスごとに方針が異なりますが、個人向けサービスの多くは、設定で「会話をモデルの改善に使うかどうか」を選べるようになっています。
確認すべき場所は、設定の「データ管理」「プライバシー」にあたる項目です。「モデルの改善に協力する」「すべての人のためにAIを良くする」といった表現のスイッチがそれです。オフにしても、目の前のAIの賢さは変わりません。変わるのは、あなたの会話が将来のモデルの材料になるかどうかだけです。
なお、訓練に使われる場合でも、あなたの会話がそのまま他人への回答に出てくるわけではありません。ただし方針は変わりうるので、「読み返されて困るものは書かない」という次の原則のほうが、設定より頼りになります。
設定より確実な、ひとつの原則
3つの行き先を踏まえると、実践すべきことはシンプルです。
「AIとの会話は、保存されうる」を前提に、書く内容の側で線を引く。パスワード、カード番号、他人の個人情報、外に出たら困る社内情報——これらは設定がどうであれ、書き込まないのが原則です。AIが第三者の命令に従わされて情報を持ち出すプロンプトインジェクションの実例が示すとおり、AIが触れる場所に置いた情報は、想定外の経路で外に出る可能性をゼロにできません。
「知らないところで何かされている」感覚と付き合う
ここまでで、「勝手に学習している」の実態が、確認可能な3つの仕組みに分解できることを見てきました。それでも残る漠然とした不安があるとすれば、それは学習の問題というより、AIとの関係全体で「把握していない許可」が積み上がっていることへの直感かもしれません。
その直感は正しいので、データ設定だけでなく、AIに渡している権限や連携も一度棚卸しすることをおすすめします。全体像は「AIが勝手に動く」原因の全体マップから、具体的な手順は権限の棚卸しチェックリストからどうぞ。
見えないから怖い。見れば、選べる。AIとの距離は、そうやって一つずつ自分の手に戻していけます。