Gemini、ハルシネーションが酷すぎて使い物にならない
据报道，Google隆重推出的AI“Gemini”频繁出现“幻觉”现象，即生成与事实不符的信息。
由于问题过于严重，网络上“根本无法使用”的呼声此起彼伏，用户普遍感到沮丧和失望。
鉴于之前的高度期待，这一事态让Google的AI战略面临质疑。
相关关键词解说
什么是Gemini?
Gemini是Google开发的大型生成式AI模型。它以“多模态”能力为特点，即能够理解和生成文本、图像、音频、视频等多种信息形式。Gemini于2023年12月发布，被视为Google AI战略的核心，并寄予厚望。它尤其强调了与人类写作难以区分的自然对话能力，以及对复杂问题进行逻辑推理的能力。Google将Gemini定位为该公司AI研发的集大成者，也是OpenAI ChatGPT的强劲竞争对手。然而，实际使用报告显示，它并未始终如一地展现出预期的性能。特别是，在需要高级推理能力的场景中，生成错误或不当内容的“幻觉”问题日益突出，损害了用户体验。鉴于Gemini被定位为Google长期积累的搜索技术和AI研究的集大成者，其性能的不稳定性引发了广泛讨论。作为可能影响Google在AI市场竞争力的关键产品，未来亟需大力改进。
什么是幻觉（生成式AI）?
生成式AI中的“幻觉”指的是AI生成学习数据中不存在的、或者与事实不符的信息，并将其表现得如同真实一般的现象。这被比作人类产生幻觉，其特点是内容完全是捏造的，或者与现有信息相矛盾。报告的具体案例包括创建不存在人物的传记、提供错误的科学事实，或者生成虚构的引用文献等。导致这种现象的主要原因包括学习数据的偏见或不足、模型所具备的知识与用户需求不匹配，或者模型自信地回答“我不知道”的能力有限。例如，当AI对于某个问题在学习数据中没有直接答案时，它可能会“创造”出看似合理但错误的信息。这种现象严重损害了AI的可靠性，使其难以在商业中作为决策支持或信息收集工具使用。尤其是在医疗、法律、金融等对准确性要求极高的领域，错误信息可能导致严重后果。因此，开发诸如RAG（检索增强生成）等与外部数据库联动以提高准确性的技术，以及用户进行事实核查的重要性被广泛呼吁。
什么是大规模语言模型 (LLM)?
大规模语言模型（LLM: Large Language Model）是一种通过学习海量文本数据，从而具备理解和生成类人自然语言能力的AI模型。Google的Gemini和OpenAI的ChatGPT是其代表性例子，通常拥有数十亿、数千亿甚至更多的参数（模型通过学习调整的值）。这些模型能够根据给定的提示（指令），执行多种任务，例如文章摘要、翻译、问答、诗歌或代码生成、情感分析等。其基础技术，特别是随着“Transformer”这一神经网络架构的出现而得到了显著发展。Transformer使得模型能够高效地学习句子中单词之间的关系，从而有助于LLM实现高性能。在LLM的学习过程中，模型读取互联网上的海量文本数据（书籍、网页、论文等），并统计性地学习单词的出现模式和上下文。这使其具备了预测下一个单词的能力，进而实现流畅的文本生成。LLM因其通用性和高级语言处理能力，在商业、教育、研究等各个领域都备受期待，但与此同时，它也面临着需要解决的挑战，如幻觉问题、高昂的计算成本以及伦理问题（例如生成歧视性内容、版权问题等）。