Gemini、ハルシネーションが酷すぎて使い物にならない

この話題どう思う？

ネット上の声

ネットの反応

Gemini全然ダメじゃん。ハルシネーション酷すぎてまともに使えないわ。
- まじそれな。Googleも地に落ちたな。
期待してたのにガッカリ…こんなんじゃ仕事で使えないよ。
なんかGoogleのAIっていつも滑り気味な気がするんだけど気のせい？
- わかる。Bardも微妙だったしな。検索は神なのにね。
まだ初期だしこれから改善されるでしょ。ChatGPTだって最初は完璧じゃなかったし。
- いやでもプロモ動画との乖離がひどすぎるだろ。詐欺レベル。
もうAI疲れてきた。まともなやつ出てこないならもういいや。
検索のGoogleとは思えないレベルだな。事実確認できないAIって何？
ハルシネーションって名前がかっこいいけど、要は嘘吐きってことだろ？
こんな状態でリリースする意味が分からない。テストしたのか？
逆に使いこなしてる人いるの？いたら教えてほしい。
正直、AIに完璧求めすぎじゃない？人間の書いた記事だって嘘あるじゃん。
とりあえず精度上げるまで一旦停止してくれ。信頼失うだけだぞ。
やっぱりChatGPT一強時代は続きそうだな。Googleは巻き返せるのか。
「使い物にならない」ってストレートな評価がもう全てを物語ってる。
結局、AIってまだまだ人間の監督が必要ってことだよね。
いや、むしろハルシネーションも込みで楽しむエンタメAIと割り切るしかない？

📡 他サイトから10件

この話題の背景

2017年GoogleがAI論文「Attention Is All You Need」を発表。この論文で提案された「Transformer」モデルが、その後の大規模言語モデル（LLM）開発の基礎となります。

2022年11月OpenAIが「ChatGPT」を一般公開し、その高い対話能力と多様なタスク対応能力で世界中に生成AIブームを巻き起こしました。

2023年2月ChatGPTの成功を受け、GoogleはAIチャットサービス「Bard」を緊急リリース。生成AI市場への本格参入を果たします。

2023年12月Googleが次世代AIモデル「Gemini」を発表。テキストだけでなく画像や音声なども理解・生成できる「マルチモーダル」能力を強調し、最先端の性能を持つとアピールしました。競合他社のAIを凌駕するベンチマークスコアも公開され、大きな期待が寄せられます。

2024年初頭Geminiの一般公開が進む中で、ユーザーからハルシネーション（誤情報生成）の頻発や、歴史的事実を無視した不適切な画像生成、倫理的に問題のある回答を生成するといった報告が相次ぎました。特に画像生成機能は、一部で機能停止に追い込まれる事態に発展し、ユーザーからの批判が急速に高まります。

現在Geminiのハルシネーション問題は継続的に指摘されており、「使い物にならない」という強い批判がネット上で散見されます。Googleは問題の改善に取り組んでいると表明していますが、初期の期待値が高かった分、ユーザーの失望感も大きくなっています。

補足説明：この問題の背景には、急速に発展する生成AI分野での企業間競争の激化があります。企業は他社に先駆けて新モデルをリリースしようとするプレッシャーにさらされており、開発途上の技術であっても市場投入を急ぐ傾向が見られます。しかし、LLMの持つ複雑性、膨大な学習データから生じる偏り、そして人間社会の多様な価値観への対応は、技術的にも倫理的にも極めて難しい課題であり、品質管理と性能のバランスがAI開発における重要な論点となっています。

📡 もっと読む10件

関連キーワード解説

Gemini

Googleが開発した大規模な生成AIモデル。テキストだけでなく、画像、音声、動画といった複数の情報形式（モダリティ）を理解し、生成できる「マルチモーダル」能力を特徴とします。2023年12月に発表され、GoogleのAI戦略の中核を担う存在として大きな期待が寄せられました。特に、人間が書いた文章と区別がつかないレベルの自然な対話や、複雑な質問に対する論理的な推論能力が強調されました。GoogleはGeminiを、同社のAI開発の集大成であり、OpenAIのChatGPTに対する強力な対抗馬と位置づけています。しかし、実際の利用において、期待された性能を常に発揮しきれていないという指摘が相次いでいます。特に、高度な推論能力が求められる場面で誤った情報を生成したり、不適切なコンテンツを生成したりする「ハルシネーション」の問題が顕在化しており、ユーザー体験を損ねる要因となっています。これは、Googleが長年培ってきた検索技術やAI研究の集大成として位置づけられているだけに、その性能の不安定さは多くの議論を呼んでおり、AI市場におけるGoogleの競争力を左右する重要なプロダクトとして、今後の改善が強く望まれています。

ハルシネーション (生成AI)

生成AIにおける「ハルシネーション」とは、AIが学習データに存在しない、あるいは事実とは異なる情報を、あたかも真実であるかのように生成してしまう現象を指します。人間が幻覚を見ることに例えられ、その内容が完全にでっち上げであったり、既存の情報と矛盾していたりすることが特徴です。例えば、存在しない人物の伝記を作成したり、誤った科学的事実を提示したり、架空の引用文献を生成するといった具体的な事例が報告されています。この現象が発生する主な原因としては、学習データの偏りや不足、モデルが持つ知識とユーザーの要求のミスマッチ、あるいはモデルが自信を持って「知らない」と回答する能力の限界などが挙げられます。例えば、ある質問に対してAIが学習データに直接の答えを持たない場合、最もらしいが誤った情報を「創造」してしまうことがあります。この現象は、AIの信頼性を大きく損ない、ビジネスにおける意思決定支援や情報収集ツールとしての活用を困難にします。特に、医療や法律、金融といった正確性が極めて重要視される分野での利用においては、誤情報が深刻な結果を招くリスクがあるため、RAG（Retrieval Augmented Generation）のような外部データベースと連携して正確性を向上させる技術開発や、ユーザー側でのファクトチェックの重要性が叫ばれています。

大規模言語モデル (LLM)

大規模言語モデル（LLM: Large Language Model）とは、膨大な量のテキストデータを学習することで、人間のような自然な言語を理解し、生成する能力を持つAIモデルのことです。GoogleのGeminiやOpenAIのChatGPTなどが代表例であり、数十億から数千億、あるいはそれ以上のパラメーター（モデルが学習を通じて調整する値）を持つことが一般的です。これらのモデルは、与えられたプロンプト（指示）に基づいて、文章の要約、翻訳、質問応答、詩やコードの生成、感情分析など、多岐にわたるタスクを実行できます。その基盤となる技術は、特に「Transformer」と呼ばれるニューラルネットワークアーキテクチャの登場によって大きく進化しました。Transformerは、文章中の単語間の関係性を効率的に学習することを可能にし、LLMの高性能化に寄与しています。LLMの学習プロセスでは、インターネット上の膨大なテキストデータ（書籍、ウェブページ、論文など）を読み込み、単語の出現パターンや文脈を統計的に学習します。これにより、次に続く単語を予測する能力を身につけ、それが流暢な文章生成につながります。LLMは、その汎用性と高度な言語処理能力から、ビジネス、教育、研究など様々な分野での応用が期待されていますが、一方で、ハルシネーションの問題、計算コストの高さ、倫理的な課題（差別的な内容の生成、著作権問題など）といった解決すべき課題も抱えています。

出典

キニ速で元記事を読む

🏆 注目ランキング

1件

1キニ速【悲報】加藤純一さんの新しい宣材写真がタイのオカマだと話題に

📡 アンテナ最新

33件