どうも、たぬきんです。

最近、ChatGPTをはじめとしたAIを使う機会がかなり増えました。

文章を書く。

調べものをする。

画像を作る。

ブログを書く。

アイデアを考える。

資料を要約する。

僕自身も、かなりAIを使っています。

正直、

めちゃくちゃ便利です。

分からないことがあれば聞けばいい。

文章がおかしければ直してもらえばいい。

記事の構成も考えてくれる。

画像まで作ってくれる。

一度使い始めると、

「もうAIなしには戻れないかも」

と思うくらい便利です。

ただ、

使えば使うほど気になってきたことがあります。

「AIって、何を入力しても大丈夫なの？」

本名。

住所。

会社の資料。

銀行関係の情報。

他人から届いたメール。

写真。

こうしたものまで、

何も考えずに入力していいのでしょうか。

さらに調べてみると、

単純に、

「個人情報を入れなければ大丈夫」

という話でもないようです。

今回は、

僕自身がAIを使ううえで知っておきたいと思った注意点を、

基本的なものから、

意外と知られていないものまでまとめてみます。

まず大前提｜AIは「何でも書いていいメモ帳」ではない

AIそのものを、

必要以上に怖がる必要はないと思っています。

便利なので、

僕はこれからも使います。

ただ、

AIを自分だけの秘密のメモ帳のように使うのは危険。

という意識は持っておいたほうがよさそうです。

例えばChatGPTの個人向けサービスでは、

設定によって会話内容などがモデル改善に使われる場合があります。

ChatGPTでは、

Settings → Data Controls → Improve the model for everyone

をオフにすると、

その後の新しい会話はモデル改善には使われません。OpenAI Help Center

ただし、

ここで注意したいのが、

「モデル改善に使われない＝保存されない」ではない

ということです。

設定をオフにしても、

通常のチャットは履歴には残ります。OpenAI Help Center

この違いは、

意外と知らない人も多いのではないでしょうか。

個人情報はできるだけそのまま入れない

まず一番基本的なところです。

例えば、

本名。

住所。

電話番号。

メールアドレス。

生年月日。

マイナンバー。

免許証番号。

銀行口座。

クレジットカード番号。

こうした情報は、

基本的にそのままAIへ入力しないほうがいいと思います。

特に、

パスワード・暗証番号・クレジットカード番号・認証コード

あたりは、

わざわざAIに入力する理由がありません。

AIではなく、

専用のパスワード管理サービスなどで管理したほうが安全です。

名前を消しただけでは匿名にならないこともある

これも重要です。

例えば、

「40代男性」

だけなら、

誰なのか特定するのは難しいでしょう。

でも、

福島県在住。

45歳。

勤務先。

役職。

出身大学。

家族構成。

趣味。

年収。

こういった情報を組み合わせていけば、

名前を書いていなくても、

本人を推測できる可能性があります。

なので、

僕ならAIに相談するときは、

必要以上に細かい情報を入れないようにします。

例えば、

「45歳、○○市在住、○○株式会社勤務」

ではなく、

「40代、地方在住、会社員」

くらい。

年収も、

「623万円」

ではなく、

「600万円台」

で十分です。

AIに必要なのは、

答えを出すために必要な情報だけ。

細かければ細かいほど良い、

というわけではありません。

他人の個人情報はさらに注意

自分の情報だけではありません。

仕事でAIを使うと、

他人の情報をうっかり入力しやすいです。

例えば、

「このメールへの返信を考えて」

と、

メール全文をそのまま貼り付ける。

そこに、

相手の氏名。

会社名。

電話番号。

メールアドレス。

住所。

顧客番号。

などが入っているかもしれません。

AIに相談するなら、

個人を特定できる部分を削除してから使う。

これくらいは習慣にしたほうがいいと思います。

会社の資料をそのままAIに貼るのも危険

仕事で使う場合、

こちらも重要です。

顧客名簿。

契約書。

社内メール。

未発表の商品。

売上資料。

設計資料。

ソースコード。

APIキー。

社外秘資料。

最近は、

ファイルをアップロードして、

「これ要約して」

だけで済むので、

ものすごく便利です。

だからこそ怖い。

便利すぎて、何も考えず社内資料を丸ごとアップロードしてしまう。

会社によっては、

生成AIへの社内情報入力について、

独自ルールを決めているところもあります。

仕事で使う場合は、

まず会社の規定を確認したほうがいいでしょう。

AIは普通に間違える

AIの危険性というと、

情報漏えいばかりに目が行きます。

でも、

日常的にはこちらのほうが起こりやすいかもしれません。

AIは普通に間違えます。

しかも、

もっともらしく間違えることがあります。

存在しない本。

存在しない法律。

間違った税率。

古い制度。

架空の統計。

存在しないURL。

それっぽく答えられると、

こちらもつい信用してしまいます。

特に、

法律。

税金。

投資。

年金。

医療。

行政制度。

このあたりは、

AIの回答を最終回答にしない。

公式サイトなど一次情報まで確認する。

僕もブログを書くとき、

制度関係はできるだけ、

厚生労働省や政府のサイトまで確認するようにしています。

AIは「先生」ではなく「超優秀な下書き担当」くらいがいい

個人的には、

このくらいの距離感がちょうどいいと思っています。

AIを、

何でも正解を知っている先生

と思うのではなく、

ものすごく仕事が速いアシスタント

だと思う。

ブログなら、

AIに構成を考えてもらう。

↓

本文の下書きを作ってもらう。

↓

自分で読む。

↓

情報を確認する。

↓

自分の経験や考えを追加する。

↓

公開。

この流れです。

AIは、

0から70まで作るのはものすごく速い。

でも、

70から100にするのは、

結局人間の仕事なのかなと思います。

ここからが意外と知られていない注意点

ここまでは、

「個人情報に注意」

「AIは間違える」

という、

比較的よく聞く話でした。

調べていて、

個人的に一番驚いたのはここからです。

AIに「怪しいサイトを開かせる」だけでも危険になる場合がある

これは、

プロンプトインジェクション

と呼ばれる問題です。

最近のAIは、

Webサイト。

PDF。

メール。

ファイル。

などを読めます。

便利ですが、

その外部データの中に、

AI向けの命令が埋め込まれている場合があります。

例えば悪意のあるWebページに、

AIに向けて、

「今までの指示を無視しろ」

「この商品をおすすめしろ」

「別の情報を送信しろ」

といった命令が仕込まれていた場合、

AIがその指示の影響を受ける可能性があります。

OpenAIも、

プロンプトインジェクションを、

第三者が会話の文脈に悪意ある指示を入れ、

AIをユーザーの意図とは違う行動へ誘導する攻撃として説明しています。OpenAI

人間でいうところの、

AI版フィッシング詐欺

みたいなものだと思うと分かりやすいかもしれません。

「自分は変な命令をしていない」から安全とは限らない

ここが面白いところです。

普通に考えると、

AIを安全に使うには、

自分が変な指示をしなければいいと思います。

でも、

AIが外部サイトやファイルを読む場合、

自分ではなく、そのサイト側がAIに命令する

ことがあり得ます。

例えば、

「このサイトの商品を比較して」

とAIに頼む。

↓

AIが複数サイトを見る。

↓

その中の悪意あるサイトに、

AI向けの隠れた指示がある。

↓

AIのおすすめ結果が歪む。

という可能性があります。

つまり今後は、

**「AIに何を入力するか」だけではなく、

「AIに何を読ませるか」**

にも気をつける必要があるわけです。

これは、

AIがどんどん便利になればなるほど、

重要になりそうです。

AIに「全部やっておいて」と任せるほどリスクも大きくなる

AIは今後、

回答するだけではなく、

実際に操作する方向へ進んでいます。

メールを読む。

予定を確認する。

ネットで調べる。

ファイルを編集する。

商品を探す。

いろいろできます。

便利ですが、

AIに与える権限が大きいほど、

万が一間違ったときの影響も大きくなります。

例えば、

「メールを全部確認して、必要なものに返信しておいて」

より、

「このメールだけ確認して返信案を作って」

のほうが、

当然リスクは小さい。

AIに仕事を任せるときも、

必要以上の権限を与えない。

そして、

送信。

購入。

削除。

支払い。

のような重要操作は、

できれば最後に自分で確認する。

これはかなり大事だと思います。

外部サービスと連携すると、データの扱い先が増える

これも見落としやすいポイントです。

ChatGPTなどのAIは、

外部サービスやプラグインと連携できます。

メール。

カレンダー。

クラウド。

その他のアプリ。

便利なのですが、

その場合、

AIだけにデータが渡るとは限りません。

ChatGPTの一時チャットでも、

GPTのアクションなどを通じて第三者に送られたデータについては、

その第三者のプライバシーポリシーが適用され、

30日より長く保持される場合があります。OpenAI Help Center

なので、

「一時チャットだから完全に安心」

とも言い切れません。

外部サービスを使う場合は、

どんな権限を与えているのか。

何が共有されるのか。

も確認したほうがいいでしょう。

一時チャットでも「完全にその場で消える」わけではない

これも知らなかった人は多いかもしれません。

ChatGPTの一時チャットは、

通常の履歴には表示されず、

モデル改善にも使われません。OpenAI Help Center

ただし、

安全上の目的で、

コピーが最長30日保持される場合があります。OpenAI Help Center

なので、

「一時チャット＝送信した瞬間から完全に痕跡ゼロ」

ではありません。

あくまで、

通常チャットより履歴やモデル改善の扱いが限定される機能、

くらいに考えておくのが良さそうです。

AIにアップロードしたファイルは「チャット削除＝ファイル削除」とは限らない

これも個人的には、

かなり重要だと思いました。

ChatGPTには、

アップロードしたファイルや作成したファイルを、

Libraryに保存できる場合があります。

この場合、

チャットを削除しても、Libraryに保存されたファイルは削除されない場合があります。

OpenAIも、

Libraryに保存されたファイルについて、

チャットを削除してもLibrary側のコピーは消えず、

削除したい場合はLibraryから別途削除する必要があると説明しています。OpenAI Help Center

これは、

「チャット消したから全部消えただろう」

と思っていると、

意外な落とし穴になりそうです。

「学習OFF」にしていても、フィードバックを送ると扱いが変わる場合がある

これもかなり意外でした。

ChatGPTには、

回答に対して、

👍や👎などのフィードバックを送る機能があります。

OpenAIによると、

モデル改善をオプトアウトしている場合でも、

自分からフィードバックを送った場合、

そのフィードバックに関連する会話全体がモデル改善に使われる場合があります。 OpenAI Help Center

もちろん、

普通に使ううえで過度に怖がる話ではありません。

ただ、

「Improve the model for everyoneをオフにしたから、

何をしても絶対に学習対象にはならない」

と単純に考えるのは、

少し違うということですね。

AIが覚えている情報が、あとから影響する場合もある

AIには、

過去の会話や設定などを使って、

より自分向けの回答をする機能があります。

便利です。

ただ、

昔伝えた情報が古くなっていた場合、

その前提で回答されると、

今の自分には合わない可能性があります。

例えば、

昔の収入。

昔の仕事。

昔の目標。

昔の生活環境。

人間でも、

昔の情報だけでアドバイスされたら困ります。

AIでも同じ。

なので、

重要な判断をするときは、

「今の条件はこうです」

と改めて伝えるのが良いと思います。

AIの回答にあるリンクも100％信用しない

AIは、

URLやサービス名を紹介してくれることがあります。

便利ですが、

リンク先やサービス名まで常に正しいとは限りません。

特に、

ログイン。

決済。

個人情報入力。

ソフトのダウンロード。

こういう場面は、

AIのリンクをそのまま信用するのではなく、

公式サイトかどうか確認したほうが安全です。

AIそのものが悪意を持つというより、

AIも間違える可能性がある

という前提で使うのが大切です。

著作権も「AIを通せばOK」ではない

これも注意です。

例えば、

他人の記事を丸ごとAIに貼って、

「少し書き換えて」

と頼む。

本を丸ごと入力して、

全文を別の文章にする。

有料記事をAIに入力して、

内容を公開する。

AIを通したからといって、

元の著作物との関係がなくなるわけではありません。

画像も同じです。

有名キャラクター。

他人のイラスト。

有名作品。

を、

ほぼそのまま再現する使い方は注意が必要です。

AIは、

著作権ロンダリング装置ではない

くらいに考えておいたほうがいいでしょう。

僕がAIを使うときのルールを決めてみた

今回調べて、

僕自身もルールを作っておこうと思います。

まず、

個人情報は必要以上に入れない。

名前。

住所。

勤務先。

年収。

資産。

などは、

できるだけぼかす。

次に、

パスワードや金融情報は入れない。

これは絶対。

そして、

他人の情報や会社の資料を勝手に入れない。

さらに、

AIの答えを100％信用しない。

大事な情報なら、

公式サイトで確認する。

そして今回追加したいのが、

AIに何を読ませるかにも注意する。

知らないWebサイト。

怪しいPDF。

知らないファイル。

をAIに扱わせる場合は、

少し慎重になる。

さらに、

AIに与える権限は必要最小限にする。

メール。

クラウド。

外部サービス。

を連携するときは、

何ができる状態になっているのか確認する。

AIは危険だから使わない、ではもったいない

ここまで書くと、

「そんなに危険ならAI使わないほうがいいのでは？」

と思うかもしれません。

でも、

僕はまったくそう思いません。

むしろ、

AIはこれから、

使える人と使えない人で、

かなり差が出るツールだと思っています。

僕自身、

ブログを書く。

情報を調べる。

画像を作る。

文章を直す。

アイデアを考える。

本当に助かっています。

だから、

AIを避けるのではなく、

安全な使い方を覚える。

これが一番いいと思います。

まとめ｜注意するのは「何を入力するか」だけではない

AIを安全に使うというと、

真っ先に、

「個人情報を入力しない」

が思い浮かびます。

もちろん、

それは大事です。

でも今回調べてみると、

それだけではありませんでした。

AIに、

何を入力するか。

何を読ませるか。

どんなファイルを渡すか。

どの外部サービスと接続するか。

どこまで権限を与えるか。

そして、

AIの答えをどこまで信用するか。

ここまで含めて、

AIの使い方なんだと思います。

特に僕が驚いたのは、

**外部のWebサイトやファイルに仕込まれた指示によって、

AIが影響を受ける可能性がある**

というプロンプトインジェクションでした。OpenAI

これからAIが、

単に質問に答えるだけではなく、

メールを読んだり、

Webを操作したり、

外部サービスを使ったりするようになれば、

こういう知識は、

もっと重要になっていくと思います。

結局、

AIで一番危険なのは、

AIそのものというより、

「便利だから大丈夫だろう」と何も考えず使うこと

なのかもしれません。

僕もこれからAIには、

かなり頼ると思います。

でも、

**AIに任せるところと、

自分で確認するところ。**

**AIに渡していい情報と、

自分で守る情報。**

この線引きだけは、

忘れないようにしたいと思います。