1. Wiedza
  2. Pojęcia
  3. Halucynacja LLM — definicja

Artykuł pomocniczy · pojęcie · Pojęcia · GEO / AI Search

Halucynacja LLM — definicja

także: halucynacje LLM · fabricated information LLM · konfabulacja modeli językowych · LLM Hallucination – definicja i istota zjawiska · Halucynacja LLM — definicja

LLM hallucination to zjawisko generowania przez modele językowe spójnych, ale faktycznie nieprawdziwych odpowiedzi, które wyglądają wiarygodnie dla użytkownika.

Miraż budowli nad pustynią z rubinowym frontonem – metafora halucynacji LLM, przekonujących ale fałszywych odpowiedzi.

Definicja

Hallucination w LLM-ach odnosi się do generowania treści, która jest syntaktycznie poprawna i brzmi przekonująco, lecz jest faktycznie nieprawdziwa lub niepoparta żadnymi dowodami. Problem ten stanowi fundamentalne ograniczenie wdrożeniowe modeli w zastosowaniach krytycznych.

Rozszerzona definicja

Halucynacja LLM (LLM hallucination) to zjawisko, w którym model językowy generuje treść syntaktycznie poprawną i brzmiącą przekonująco, lecz faktycznie nieprawdziwą lub niepodpartą weryfikowalnymi danymi12. W literaturze wyróżnia się dwa główne typy: halucynację faktograficzną (factuality hallucination), oznaczającą rozbieżność między wygenerowaną treścią a weryfikowalnymi faktami świata rzeczywistego, oraz halucynację wierności (faithfulness hallucination), oznaczającą odchylenie treści od danych wejściowych użytkownika lub brak wewnętrznej spójności odpowiedzi2.

Jak to działa

Modele generatywne nie pobierają faktów z bazy wiedzy — przewidują prawdopodobną sekwencję słów na podstawie danych treningowych1.

Halucynacja faktograficzna przejawia się jako niespójności faktograficzne w stosunku do weryfikowalnych faktów, natomiast halucynacja wierności — jako odchylenie od treści podanej przez użytkownika lub brak spójności wewnętrznej wygenerowanej odpowiedzi2.

Dlaczego to ważne

Ponieważ outputy modeli generatywnych mogą zawierać nieścisłości, Google zaleca ręczne sprawdzenie każdej treści wygenerowanej przez AI pod kątem dokładności i wiarygodności przed jej publikacją1.

Przykłady

  • Modele generatywne przewidują sekwencję słów na podstawie danych treningowych, co bezpośrednio prowadzi do powstawania nieścisłości określanych jako hallucinations1.
  • Halucynacja faktograficzna przejawia się typowo jako niespójności faktograficzne między wygenerowaną treścią a weryfikowalnymi faktami świata rzeczywistego2.
  • Halucynacja wierności polega na odchyleniu wygenerowanej treści od danych wejściowych użytkownika lub na braku wewnętrznej spójności odpowiedzi2.
  • Google wskazuje, że AI Overviews — gdy się mylą — robią to zwykle z powodu błędnej interpretacji zapytania, niuansu językowego w sieci lub braku wystarczająco dobrych informacji dostępnych w momencie generowania, a nie przez „wymyślanie” w sposób typowy dla innych produktów LLM3.

Częste błędy i mity

  • Mit: halucynacja to jednolite zjawisko — w rzeczywistości literatura rozróżnia co najmniej dwa odrębne typy: factuality hallucination (rozbieżność z faktami świata) i faithfulness hallucination (odchylenie od inputu lub brak spójności wewnętrznej)2.
  • Mit: treść wygenerowana przez AI jest wystarczająco wiarygodna bez dodatkowej weryfikacji — Google wprost zaleca ręczne sprawdzenie każdej treści AI pod kątem dokładności i wiarygodności przed publikacją1.

Powiązane hasła

Źródła i odwołania

  1. Google Search's Guidance on Generative AI Content on Your Website

    developers.google.com ·

    Keep in mind that generative models don’t retrieve facts, but predict a likely sequence of words based on their training data. Because of this, generative AI outputs may contain inaccuracies (also known as hallucinations). It is critical to manually factcheck and review all AI-generated content for accuracy and trustworthiness before publishing.

  2. A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions

    dl.acm.org ·

    Factuality hallucination emphasizes the discrepancy between generated content and verifiable real-world facts, typically manifesting as factual inconsistencies. Conversely, faithfulness hallucination captures the divergence of generated content from user input or the lack of self-consistency within the generated content.

  3. What happened with AI Overviews and next steps

    blog.google ·

    This means that AI Overviews generally don't “hallucinate” or make things up in the ways that other LLM products might. When AI Overviews get it wrong, it’s usually for other reasons: misinterpreting queries, misinterpreting a nuance of language on the web, or not having a lot of great information available.

Każde zdanie powyżej odsyła do dosłownego cytatu ze źródła. Daty to daty publikacji lub pobrania źródła.

Źródła faktów

  • SEO/references/geo/REFS-GEO-R12-Brand-Hallucination-Rates.md