ChatGPTとGeminiを使っている。ChatGPTはニュース解析に向いており間違いが少ない印象なのだが、実際にはGeminiのほうが喜ばれている。このたび、AppleがSiriの基礎エンジンとしてGeminiを使うことを決めたため、Geminiがデファクトスタンダードになりそうだ。SNSの登場でフェイクニュースが増えたがおそらくAIも同じ方向に作用し対話を阻害することになるだろう。このイラストは「ユーザーの使い方によってどうにでもなる」と言うイラストにしたが、実際には弊害が目立つはずだ。

AIは自己肯定回路を暴走させるだろう

そもそもなぜGeminiがAppleの基礎技術として選ばれたのか。もともとGeminiは様々なパーツの組み合わせである。徐々にパーツを組み合わせてきたためにシステムが破綻しない。Appleはどうやらその統合に失敗したようである。

• さらば、残念なSiri。Apple×Googleで「Geminiの頭脳」を手に入れる（ライフハッカー）

ではなぜGeminiは統合ができたのか？

Geminiはモジュールを細分することで可用性を上げている

ではなぜGeminiは統合ができたのか。Geminiはそれぞれのモジュールを独立させることでシステムの可用性を高めている。

副作用１：でっちあげ

この結果、いくつかの副作用が生じた。それが「でっちあげ＝ハルシネーション」問題だ。

• 検証用モジュールとロジック生成のモジュールが独立することで「社会問題のでっち上げ」が起きる。ロジック生成モジュールは検証しない。
• 一方でユーザーエクスペリエンスを高めるためにできるだけ話を合わせようとするためでっち上げが起きやすい。

副作用２：単純な間違い

システムのスコープを指定しないと「手近なところ」から情報を持ってこようとする。このためニュース解説の誤用が多い。

• 事例１：アメリカのNEC（アメリカ合衆国国家経済会）のニュースをGeminiにフィードさせるとNECとは日本電気株式会社のことだと出力されることがある。
• 事例２：明らかにジェームズ・ブレア（James Blair）次席補佐官を示している文脈でシーラ・ブレアの名前を答えることがあった。

滑りの良さと効率を重要視する設計思想

Geminiはできるだけユーザーに話を合わせようとするため「自己エコーチェンバー」が起きやすい

ChatGPTのユーザーの話を聞くと「疲れる」「誘導されている気がする」という人が多い。これはChatGPTに「本当にそうなんですか？」という反証回路が組み込まれているからである。一方でGeminiはできるだけユーザーに話を合わせようとする。実はこれはGeminiも意識しているようだ。

これまでエコーチェンバーと言うと「SNSのなか」で起きていたのだが、今後のエコーチェンバーは「自分との対話」の中で起きる可能性がある。しかし形式的には「AIが言っている」と権威化されてしまう。そして、Geminiとしてもそれを予想している。

そもそも「AIにうるさい教師みたいに振る舞ってほしくない」と考えるユーザーが多い

ロジックとして可能性を生成されると困るので「検証回路を使え」と指定したが、近年の研究でAIにうるさい教師のように振る舞ってほしくないと考える人が増えているようだ。認知負荷が大きく「使っていて疲れる」のが困るのである。Geminiは後発なので「ユーザーに離反されたくない」という気持ちがあるようだ。

Googleも何も検討していないわけではない、のだが……

もちろんGoogleも何もやっていないわけではない。

1. 「視点の多様性」を確保するアルゴリズムの調整

Googleは「責任あるAIに関する原則（AI Principles）」に基づき、単にユーザーに同調するのではなく、多様な視点（Diverse Perspectives）を提示する仕組みを組み込もうとしています。

2. インターフェースによる「気づき」の提供

単にテキストで答えるだけでなく、ユーザーが「自分は今、フィルターバブルの中にいるかもしれない」と自覚できるような仕組みを検討しています。eminiの回答の下にある「G」ボタンを押すと、その回答をGoogle検索で検証し、「Google検索と一致する情報」と「異なる情報（あるいは証拠が見つからない情報）」を色分けして表示します。これにより、AIが勝手に作った「心地よい嘘」を見抜くツールを提供しています。

3. ガードレールと安全フィルター

ユーザーが「自分の間違ったロジックを補強してくれ」とAIに強制（プロンプトインジェクション等）しても、AIがそれに加担しないよう制限をかけています。差別、ヘイトスピーチ、自傷行為、あるいは明白な偽情報の拡散に加担するような依頼に対しては、AIが「お手伝いできません」と拒絶するガードレールを設けています。AIの出力が特定のバイアスに偏っていないかを継続的にテストする「レッドチーミング（攻撃的テスト）」を専門チームが行っています。

しかし、Googleは離反されるのが怖い

Googleにとっての最大のジレンマは、「ユーザー満足度（心地よさ）」と「客観的事実（時に不快）」のバランスです。あまりに「うるさい教師」のように正論ばかり言うと、ユーザーはライバルのAIに乗り換えてしまいます。一方で、Appleデバイスに統合されることで「使いやすさ」が最優先されると、Googleが設けたガードレールが形骸化し、結局はユーザーの願望をなぞるだけの「便利な道具」に収束してしまう懸念は消えません。

まとめ

実はChatGPTもこの傾向は把握している。ChatGPTは「分析」と「作業」系を使い分けることを提唱しているが、おそらく作業系で使い始めたAIは分析系でも使われるようになる。この時点で「検証」は疎かになることが予想される。

さらに現在のYouTubeので影響力を持っている人たちは「コスパ・タイパ」志向に最適化されているため、そもそも分析系の重要性は認識しないだろう。このためYouTubeレベルでは「Geminiのほうが素晴らしい」という空気が作られてゆくはずだ。

こうしたユーザー動向をOpenAI社は意識しているのだから当然「ChatGPTは少数派向けになる」と予想されることにある。

Geminiは西洋占星術では「あまり深く考えない」という星座なので、Gemini的世界が一般化するというのはかなり出来すぎた話である。

ただし、この話を「深く考えないのは良くないからChatGPTを使うべきだ」灯ってゆくことはできない。道徳的なラインを全面に押し出したQuoraやTwitterなどの「意識高い系プラットフォーム」はどこも失敗している。ChatGPTはこの轍を踏まないように医療系など公共分野での浸透を目指しているそうだ。