ChatGPTに個人情報を貼る前に、置き換える4か所

ChatGPT などの AI チャットに仕事の文章を貼るとき、私は必要のない情報だけを [顧客名] のようなラベルに置き換えてから貼っています。消すのではなく置き換えているのは、削りすぎると文章の関係が伝わらなくなるからです。何を置き換えて、何を残しているかを書きます。

仕事の文章をそのまま貼ると、相談したい内容と一緒に、氏名・メールアドレス・電話番号・顧客名・案件名・社内システム名・API キーまで入っていることがあります。相談したいのは文章のほうであって、これらの情報そのものではないことも多いはずです。

例：返信文を考えてもらうとき

こんな文章を貼り付けて、返信文を相談するとします。

山田太郎さん

先ほどはありがとうございました。

株式会社サンプル商事のシステム更改について、
来週もう一度打ち合わせできればと思います。

ご連絡は yamada@example.com
または 090-0000-0000 までお願いします。

頼みたいことが「文章を読みやすく直してほしい」だけなら、実名やメールアドレス、電話番号までは必要ありません。そこで、貼る前に置き換えます。

[担当者]さん

先ほどはありがとうございました。

[顧客名]のシステム更改について、
来週もう一度打ち合わせできればと思います。

ご連絡は [メールアドレス]
または [電話番号] までお願いします。

文章の意味はほとんど変わっていません。直してもらうために必要な形は残したまま、識別につながる部分だけを減らせます。

全部消せばいい、とは思わなくなった

はじめは、それらしい情報を見つけたら片端から消せばよいと考えていました。

実際にやってみると、削りすぎたときのほうが困ります。誰から誰への文章なのか、どこの会社の話なのかが分からなくなり、返ってくる文章も宛先のはっきりしないものになります。消すことが目的ではなかった、と気づいたところです。

山田太郎 → [担当者]
株式会社サンプル商事 → [顧客名]
Project Falcon → [案件名]

このように、意味の分かるラベルへ置き換えるほうが扱いやすいと感じています。文字を消すかどうかではなく、この情報そのものを渡す必要があるかを一度考える、という順番です。

機械で見つかる情報と、自分で探すしかない情報

この種の置き換えを自動で行う拡張機能を自分で作っていて、はっきり分かれると感じたのがここです。

上の行は、書き方の型が決まっています。@ の前後がこう並んでいる、数字がこの桁数で並んでいる、この接頭辞で始まる、といった規則で拾えます。クレジットカード番号のように、桁の並びから計算して確からしさを検査できるものもあります。

下の行にはその型がありません。「株式会社サンプル商事」も「次期会員システム」も、文字の並びとしてはただの日本語です。どの語が伏せるべき固有名詞なのかを知っているのは、その仕事をしている本人だけです。自動化するなら、本人が語を登録するしかありません。

貼る前に見ている4か所

1. 宛名と署名

氏名・会社名・部署名・電話番号・メールアドレスが、いちばんまとまっている場所です。本文の中身を読み直していると、かえって見落とします。

2. 引用された過去のメール

返信を相談するときに引っかかるのがここです。返信メールには、前のやり取りが何通分も下にぶら下がっていることがあります。今回の相談とは関係のない人の名前や連絡先が、そこに残っていることがあります。

貼り付けた文章の下のほうまでスクロールして確認するのは、自分の場合いちばん忘れやすい手順でした。

3. 顧客名と案件名

前の節で書いたとおり、形が決まっていないので機械では拾えません。固有名詞は自分で確認するしかない、と考えています。

4. ログや設定情報

技術的な相談では、エラーログや設定ファイルをそのまま貼りたくなります。API キー、トークン、IP アドレス、ホスト名、内部の URL が混ざっていないかを見ています。

API キーやトークンは決まった接頭辞で始まるものが多く、形の決まっている側です。一方でホスト名や社内システム名には形がありません。同じログの中に、両方が混ざっています。

「ChatGPTだから送ってはいけない」という話ではない

ここは分けて考えたほうがよいと思っています。

AI サービスのデータの扱いは、サービス・契約・設定によって異なります。どのサービスがどう扱うかは、そのサービスの利用規約とプライバシーポリシーで確認するものです。

日本の個人情報保護委員会は、2023年6月2日の生成AIサービスの利用に関する注意喚起等についてで、一般の利用者に向けて次のように書いています。

生成AIサービスの利用者においては、生成AIサービスを提供する事業者の利用規約やプライバシーポリシー等を十分に確認し、入力する情報の内容等を踏まえ、生成AIサービスの利用について適切に判断すること。

同じ文書は、個人情報取扱事業者に対しては、本人の同意なく個人データを含むプロンプトを入力する場合、応答結果の出力以外の目的で扱われると個人情報保護法に違反する可能性があるとしたうえで、その生成 AI サービスの提供事業者が当該個人データを機械学習に利用しないこと等を十分に確認することを求めています。仕事の文章を扱うなら、この確認は自分の側の作業になります。

そのうえで、私自身の切り分けはこうです。「AI だから危険」と考えるより、そもそも今回の相談に必要のない情報は渡さない。こちらのほうが、毎回の判断としては迷いません。

毎回手で置き換えるのは、続かなかった

短い文章なら、手作業で足ります。

ただ、メールや議事録や問い合わせ内容を何度も相談していると、同じ値を毎回探して置き換えることになります。私はこれが面倒になって、続きませんでした。

そこで作ったのが、入力欄の文章をブラウザ内で検出して、送信前に別の文字へ置き換える拡張機能です。

対象になるのは、上の表でいう「形が決まっている」情報が中心です。顧客名や案件名のように自分にしか分からない語は、カスタムルールとして自分で登録します。検出も置き換えもブラウザの中で行い、マスクのために入力内容を外部のサーバーへ送ることはありません。

これは会社の DLP や利用ルールの代わりになるものではありません。 検出できるのは型として書けたものだけで、すべての機密情報を見つけられるわけでもありません。最後に何を送るかは、自分で確認して決めることになります。

なお、ここまでは入力欄に貼り付ける文章の話です。ファイルを添付して送る場合は、文面ではなくファイルの中に情報が残ります。そちらはPDFのメタデータを確認する記事にまとめました。

まず一度、手でやってみる

拡張機能を使わなくても構いません。

次に AI チャットへ仕事の文章を貼るとき、一度だけ「この名前とメールアドレス、今回の相談に本当に必要だろうか」と見てみる。必要なければ、[担当者] [顧客名] [案件名] のように置き換えてから貼る。

それだけでも、渡す情報はかなり整理できます。送る文章を全部疑う必要はありません。必要のないものだけ、送る前に隠す。私がやっているのはその程度のことです。