Gemini、ハルシネーションが酷すぎて使い物にならない
Google이 야심 차게 발표한 AI 'Gemini'가 사실과 다른 정보를 생성하는 '환각 현상'을 빈번하게 일으키고 있다는 보고가 잇따르고 있습니다.
이러한 심각성 때문에 온라인에서는 "쓸모가 없다"는 목소리가 쏟아지며 사용자들의 실망과 좌절감이 확산되고 있습니다.
기대가 컸던 만큼, 이번 사태는 Google의 AI 전략에 의문 부호를 던지고 있습니다.
관련 키워드 해설
Gemini란?
Gemini는 Google이 개발한 대규모 생성형 AI 모델입니다. 텍스트뿐만 아니라 이미지, 음성, 동영상 등 여러 정보 형식(모달리티)을 이해하고 생성할 수 있는 '멀티모달' 능력을 특징으로 합니다. 2023년 12월에 발표되었으며, Google의 AI 전략의 핵심을 담당하는 존재로서 큰 기대를 모았습니다. 특히, 인간이 쓴 글과 구별하기 어려울 정도의 자연스러운 대화나 복잡한 질문에 대한 논리적인 추론 능력이 강조되었습니다. Google은 Gemini를 자사 AI 개발의 집대성이자 OpenAI의 ChatGPT에 대한 강력한 대항마로 자리매김했습니다. 그러나 실제 이용에 있어서는 기대했던 성능을 항상 발휘하지 못하고 있다는 지적이 잇따르고 있습니다. 특히, 고도의 추론 능력이 요구되는 상황에서 잘못된 정보를 생성하거나 부적절한 콘텐츠를 생성하는 '환각 현상' 문제가 나타나면서 사용자 경험을 저해하는 요인이 되고 있습니다. 이는 Google이 오랜 기간 축적해 온 검색 기술 및 AI 연구의 집대성으로 자리매김하고 있는 만큼, 그 성능의 불안정성은 많은 논란을 불러일으키고 있으며, AI 시장에서 Google의 경쟁력을 좌우할 중요한 제품으로서 향후 개선이 강력히 요구됩니다.
환각 현상 (생성형 AI) 이란?
생성형 AI에서의 '환각 현상'은 AI가 학습 데이터에 존재하지 않거나 사실과 다른 정보를 마치 진실인 것처럼 생성해 내는 현상을 말합니다. 사람이 환각을 보는 것에 비유되며, 그 내용이 완전히 지어낸 것이거나 기존 정보와 모순되는 것이 특징입니다. 예를 들어, 존재하지 않는 인물의 전기를 작성하거나, 잘못된 과학적 사실을 제시하거나, 가상의 인용 문헌을 생성하는 등의 구체적인 사례가 보고되고 있습니다. 이 현상이 발생하는 주요 원인으로는 학습 데이터의 편향이나 부족, 모델이 가진 지식과 사용자의 요구사항 불일치, 또는 모델이 자신 있게 '모른다'고 답변하는 능력의 한계 등이 있습니다. 예를 들어, 어떤 질문에 대해 AI가 학습 데이터에 직접적인 답을 가지고 있지 않을 경우, 그럴듯하지만 잘못된 정보를 '창조'해 버릴 수 있습니다. 이 현상은 AI의 신뢰성을 크게 손상시키고, 비즈니스에서의 의사결정 지원이나 정보 수집 도구로서의 활용을 어렵게 만듭니다. 특히, 의료, 법률, 금융과 같이 정확성이 극히 중요시되는 분야에서의 이용에서는 오정보가 심각한 결과를 초래할 위험이 있기 때문에, RAG(Retrieval Augmented Generation)와 같은 외부 데이터베이스와 연계하여 정확성을 향상시키는 기술 개발이나, 사용자 측에서의 팩트 체크의 중요성이 강조되고 있습니다.
대규모 언어 모델 (LLM) 이란?
대규모 언어 모델(LLM: Large Language Model)은 방대한 양의 텍스트 데이터를 학습함으로써, 인간과 같은 자연스러운 언어를 이해하고 생성하는 능력을 가진 AI 모델입니다. Google의 Gemini나 OpenAI의 ChatGPT 등이 대표적인 예시이며, 수십억에서 수천억, 혹은 그 이상의 파라미터(모델이 학습을 통해 조정하는 값)를 가지는 것이 일반적입니다. 이 모델들은 주어진 프롬프트(지시)에 기반하여, 문서 요약, 번역, 질문 응답, 시나 코드 생성, 감정 분석 등 다채로운 작업을 수행할 수 있습니다. 그 기반이 되는 기술은 특히 'Transformer'라고 불리는 신경망 아키텍처의 등장으로 크게 발전했습니다. Transformer는 문장 내 단어 간의 관계성을 효율적으로 학습하는 것을 가능하게 하여, LLM의 고성능화에 기여하고 있습니다. LLM의 학습 과정에서는 인터넷상의 방대한 텍스트 데이터(서적, 웹페이지, 논문 등)를 읽어 들이고, 단어의 출현 패턴이나 문맥을 통계적으로 학습합니다. 이를 통해 다음에 이어질 단어를 예측하는 능력을 습득하며, 그것이 유창한 문장 생성으로 이어집니다. LLM은 그 범용성과 고도의 언어 처리 능력으로 인해 비즈니스, 교육, 연구 등 다양한 분야에서의 응용이 기대되지만, 한편으로는 환각 현상 문제, 높은 계산 비용, 윤리적인 과제(차별적인 내용 생성, 저작권 문제 등)와 같은 해결해야 할 과제 또한 안고 있습니다.