ソフトウェアエンジニアのヴィシュヌ・モハンダス氏は、テクノロジー大手が米軍のドローン映像を研究するためのAI開発を一時的に支援していたことを知り、さまざまな意味でグーグルを辞めようと決意した。 2020年に彼はGoogleアシスタントの仕事を辞め、すべての画像をGoogleフォトにバックアップすることもやめた。彼は、たとえそれが特に国防総省プロジェクトに関連したものでなかったとしても、自分のコンテンツが AI システムのトレーニングに使用される可能性があることを懸念していました。 「これによって可能になる将来の結果については、私にはコントロールできません」とモハンダス氏は考えた。 「じゃあ、私はもっと責任感を持ったほうがいいんじゃないでしょうか？」
独学でプログラミングを学び、インドのバンガロールに拠点を置くモハンダスさんは、オープンソースでエンドツーエンド暗号化された写真の保存と共有のための代替サービスを開発したいと決意しました。 「もっとプライベートで、健全で、信頼できるもの」だと彼は言う。同氏が設計した有料サービス「Ente」は収益性が高く、ユーザー数は10万人を超え、その多くはすでにプライバシーにこだわる群衆の一員だという。しかし、モハンダス氏は、Google フォトが提供するあらゆる利便性にもかかわらず、Google フォトへの依存を再考すべき理由をより多くの聴衆に明確に説明するのに苦労した。
そして 5 月のある週末、Ente のインターンがアイデアを思いつきました。それは、Google の AI モデルの一部が画像の研究から何を学べるかを人々に理解してもらうことです。先月、エンテが発売されました https://Theyseeyourphotos.com、Googleのテクノロジーを自社に敵対させることを目的としたウェブサイトおよびマーケティングスタント。ユーザーは任意の写真をウェブサイトにアップロードでき、その写真は Google Cloud のコンピュータ ビジョン プログラムに送信され、驚くほど詳細な 3 段落の説明が作成されます。 (Ente は、アップロードされた画像の細部を文書化するよう AI モデルに促します。)
モハンダスさんがアップロードしようとした最初の写真の 1 つは、インドネシアの寺院の前で妻と娘と一緒に撮ったセルフィーでした。 Google の分析は徹底的で、彼の妻が着用していた特定の時計モデル、カシオ F-91W まで記録されました。しかしその後、モハンダス氏は、AI が何か奇妙なことをしたと言いました。カシオ F-91W 時計が イスラム過激派とよく結びつく。 「プロンプトを微調整して、もう少し健全でありながらも不気味なものにする必要がありました」とモハンダス氏は言います。 Ente はモデルに、暗いものは一切含まず、短く客観的な出力を生成するように要求し始めました。
Theyseeyourphotos にアップロードされた同じ家族写真は、寺院の名前とその周囲の「部分的に曇った空と豊かな緑」を含む、より一般的な結果を返すようになりました。しかしAIは依然として、モハンダスさんとその家族について、彼らの顔が「共同の満足感」を表現しているとか、「両親は南アジア系の中産階級である可能性が高い」など、さまざまな推測を行っている。それは彼らの服装（「観光に適している」）を判断し、「女性の時計は時刻をおよそ午後2時と表示しており、これは画像のメタデータと裏付けられる」と指摘している。
Googleの広報担当者Colin Smith氏はEnteのプロジェクトについて直接コメントすることを控えた。彼は『WIRED』にこう指示した。 サポートページ Google フォトへのアップロードは、写真の被写体の年齢や場所を分析するような画像ライブラリの管理を支援する生成 AI モデルをトレーニングするためにのみ使用されると同社は述べています。 言う Google フォトに保存されているコンテンツを第三者に販売したり、広告目的で使用したりすることはありません。ユーザーは写真の分析機能の一部をオフにすることができますが、データはエンドツーエンドで暗号化されていないため、Google による画像へのアクセスを完全に防ぐことはできません。
