• Googles KI-Übersichten liefern unzuverlässige und potenziell gefährliche Informationen für die Nutzer.
  • Google hat technische Verbesserungen vorgenommen, um das Problem zu beheben, aber die inhärenten Einschränkungen von KI-Systemen bleiben bestehen.
  • Das Unternehmen wird die Funktion weiter verbessern, aber sie wird nie zu 100 % genau sein können, weshalb der Technologieriese nicht versucht, KI-Übersichten für explizite oder gefährliche Themen anzuzeigen.

UNSERE MEINUNG
Obwohl KI-Übersichten den Nutzern helfen, schneller eine Antwort zu erhalten, können sie aufgrund potenzieller Fehler nicht vollständig vertraut werden. Daher ist es wichtig, bei ihrer Nutzung einen kritischen Geist zu bewahren.
–Audrey Huang, BTW-Journalistin

Während Googles KI-Übersichten die Suchergebnisse vereinfachen, erzeugen sie auch Fehlinformationen. Daher hat das Unternehmen technische Verbesserungen vorgenommen.

Wie funktionieren KI-Übersichten?

KI-Übersichten verwendet ein neues generatives KI-Modell von Gemini, der Familie vongroßen Sprachmodellen(LLMs) von Google. Das Modell wurde in die grundlegenden Web-Ranking-Systeme von Google integriert und entwickelt, um relevante Ergebnisse in seinem Index von Websites zu suchen.

Lesen Sie auch:Elon Musk behauptet, KI werde alle unsere Arbeitsplätze ersetzen

Lesen Sie auch:KI-Fälschungen und Fehlinformationen jungen Wählern auf TikTok ausgesetzt

Warum führt das zu Fehlern?

„Das große Sprachmodell erzeugt fließende Sprache basierend auf den bereitgestellten Quellen, aber fließende Sprache ist nicht gleichbedeutend mit korrekten Informationen“, erklärt Suzan Verberne, Professorin an der Universität Leiden, spezialisiert aufautomatische Sprachverarbeitung. Je spezifischer ein Thema ist, desto höher ist das Risiko von Fehlinformationen in der Ausgabe eines großen Sprachmodells, betont sie: „Das ist ein Problem im medizinischen Bereich, aber auch in der Bildung und Wissenschaft.“

Wie das Problem lösen?

Google erklärte, dass es Trigger-Einschränkungen für Anfragen hinzufügt, bei denen sich KI-Übersichten als nicht besonders nützlich erwiesen haben, und zusätzliche „Trigger-Verbesserungen“ für gesundheitsbezogene Anfragen vorgenommen hat. Das Unternehmen könnte dem Informationssuchprozess einen Schritt hinzufügen, der eine riskante Anfrage verhindern und das System dazu veranlassen soll, in diesen Fällen die Generierung einer Antwort zu verweigern, sagt Frau Verberne.

Darüber hinaus können Techniken wie Reinforcement Learning aus menschlichem Feedback, die dieses Feedback in das Training eines LLM einbeziehen, ebenfalls zur Verbesserung der Antwortqualität beitragen.