AIがGmailのプライベートなメールもすべて読むようになる可能性

モバイルがAI時代におけるプライバシーの戦場となる中で、グーグル、サムスン、アップルがユーザーの注目を集めているが、そのリスクがいきなり明らかになってきた。

Gemini（ジェミニ）は当初、Workspace Labsへの「コパイロット」のようなアドオンとして、そして後にWorkspaceの有料サービスであるGoogle Oneに追加されたが、今やAndroid版Gmailにも導入されようとしており、膨大な数のユーザーに広まろうとしている。そして、これはモバイルユーザーを対象としているため、動作方式が異なり、かなり異なるリスクをともなう。

今回、Gmailの開発ベータ版を解析したAssembleDebugが、以下のような報告を行っている。「Androidのメールアプリ上でグーグルがGeminiによる返信提案機能を準備しているのを発見した【略】グーグルがGeminiの機能に注力し、より多くの機能に組み込もうとしているのは良いことだ。この機能がバックエンドで動作し始めているので、問題がなければ数週間以内にユーザーに提供されると考えられる」

デスクトップ版のベータテスターや有料会員は、Geminiが「メールスレッドの要約、メールスレッドへの返信提案、過去のメールやGoogleドライブ上のファイルからの情報検索」を行うことに魅力を感じている。デスクトップ上での主な目的は、情報のフィルタリングとメール作成の支援だ。

これに対して、AndroidアプリではGeminiの使われ方が異なる。各メールに対して、洗練度の異なる3つの返信提案が表示され、ユーザーはそれらを選択してタップして送信できる。このように、生成AIの魅力は続々と広がっている。

PiunikaWebが共有したAndroidのスクリーンショットでは、ここ数年慣れ親しんできた非常にシンプルな自動返信よりも、Geminiの提案の簡便さと改善点が示されている。Geminiはあなたのメールを読み取っているのだ、たとえあなたがまだ読んでいなくとも。

デスクトップのGoogle WorkspaceやマイクロソフトオフィスのAI機能には、プライバシーとセキュリティの問題がある。プロンプトやユーザーデータがクラウドに送信されること、潜在的な保存や人間によるレビュー、トレーニングデータとしての利用、データ漏洩のリスクなどだ。

Workspace Labsのユーザーには「グーグルはWorkspace Labsのデータとメトリクスを使って、グーグル全体の製品、サービス、機械学習技術の提供、改善、開発を行う」と警告されており、さらに「あなたのWorkspace Labsデータは、人間のレビュアーによって読まれ、評価され、注釈が付けられ、レビューされることもあります」とある。そのため「個人的、機密的、または敏感な情報をプロンプトに含めないでください」と注意喚起がなされている。

しかし、このモバイルこそがAIにとって、プライバシーとセキュリティの真の戦場となるだろう。

Androidユーザーにとって、返信や文脈を生成するためにプライベートなメールメッセージを分析することは、GoogleメッセージのGeminiでも同様の可能性がある。この種の生成AIこそが、新しい「ハイブリッドAI」論争の核心に触れるものだ。どこまでの分析をローカルデバイスに制限し、どこまでを分析、保存、レビューのためにより強力なクラウドへ送信するべきかという問題だ。

Workspaceの有料ユーザーに対してグーグルは「WorkspaceのデータをGemini、検索、その他のシステムの基礎となる生成AIや大規模言語モデルのトレーニングや改善に使うことはありません」と述べている。

しかし、Googleメッセージ上のGeminiについては、ユーザーに「グーグルはGemini アプリとの会話、関連プロダクトの使用に関する情報、ユーザーの現在地に関する情報、およびユーザーのフィードバックを収集します。【略】品質の向上とプロダクトの改善（Geminiアプリで使用される生成機械学習モデルなど）のため、人間のレビュアーが Geminiアプリとの会話を確認し、注釈を付け、処理を行います」と伝えている。

これらのユーザーには「会話には機密情報を入力しないでください。また、レビュアーに見られたくないデータやグーグルのプロダクト、サービス、機械学習技術の向上に使用されたくないデータも入力しないでください」と太字で警告が出されている。

Android版GmailへのGeminiの展開範囲と、数百万人のユーザーに関わるプライバシーとセキュリティの考慮事項の詳細を待つ必要がある。そして、GeminiがiPhoneにも採用されるかもしれないというニュースが加わった。とはいえ、グーグルがアップルのメールアプリやiMessage内のメッセージを分析する可能性は低いだろうが、もちろんiOSのGmailアプリでは、ほぼ確実に分析されるはずだ。

グーグルは常に、Geminiをアプリに追加する際のユーザーの同意を強調している。以前、私に対して「Geminiをグーグル製品やサービスに拡大していく際は、常に次の基本原則を守ります。すなわち（Geminiは）ユーザーの個人データにアクセスする前に、明確な同意と利用目的の通知を行います」と述べていた。

このGmailのアップデートは公開前のものであり、実際の公開時期、機能詳細、利用可能性については不確定だ。とはいえ、私が以前報告したGoogleメッセージのベータ版は、その後間もなくリリースされた。

グーグルは、これがプレリリースであることを考慮し、現段階ではこれ以上コメントはないが、プライバシーへのコミットメントを強調している。それは歓迎すべきことだが、このようなアプリやサービスでは、リスクを理解しそれを念頭に置いて利用する責任がユーザーにある。生成AIでは、関連するプライバシーポリシーがある場合はそれを読むことが重要となる。

2024-04-06 20:05:58