In den letzten Monaten hat der weit verbreitete Einsatz von Chatbots wie ChatGPT sowohl ihren Nutzen als auch ihre Fehleranfälligkeit deutlich gemacht. Inmitten des Trubels um künstliche Intelligenz (KI), insbesondere große Sprachmodelle (LLMs), untersucht eine Gruppe von Wissenschaftlern der Universität Oxford, ob ein rechtlicher Weg die Wahrhaftigkeit in diesen KI-Systemen erzwingen könnte.
Der Aufstieg der LLMs hat in der KI-Landschaft große Aufmerksamkeit erregt. Chatbots wie ChatGPT und Googles Gemini, die generative KI nutzen, sind darauf ausgelegt, menschenähnliche Antworten auf eine Vielzahl von Anfragen zu geben. Diese Modelle werden anhand umfangreicher Datensätze trainiert, so dass sie Antworten in natürlicher Sprache verstehen und erzeugen können. Dieser Prozess wirft jedoch auch Bedenken hinsichtlich des Datenschutzes und des geistigen Eigentums auf, da diese Modelle in hohem Maße von den Daten abhängen, auf denen sie trainiert wurden.
LLMs rühmen sich beeindruckender Fähigkeiten und klingen oft bemerkenswert selbstsicher in ihren Antworten. Diese Zuversicht kann jedoch irreführend sein, da Chatbots dazu neigen, gleichermaßen sicher zu klingen, ob ihre Informationen korrekt sind oder nicht. Dieses Phänomen stellt ein Problem dar, zumal die Benutzer nicht immer daran denken, die Antworten des Chatbots kritisch zu hinterfragen.
LLMs sind nicht von Natur aus darauf ausgelegt, die Wahrheit zu sagen. Stattdessen sind sie Textgenerierungsmaschinen, die darauf optimiert sind, die nächste Wortfolge in einem bestimmten Kontext vorherzusagen. Die Wahrhaftigkeit ist nur eine der Kriterien, die bei ihrer Entwicklung berücksichtigt werden. In ihrem Bestreben, die „hilfreichsten“ Antworten zu geben, können diese Modelle zu Vereinfachungen, Verzerrungen und Erfindungen neigen. Diese Tendenz hat zu Fällen geführt, in denen Chatbots fiktive Zitate und irrelevante Informationen generiert haben, was ihre Zuverlässigkeit untergräbt.
Die Oxford-Forscher äußern sich besonders besorgt über das, was sie als „unvorsichtige Sprache“ bezeichnen. Sie argumentieren, dass die Antworten von LLMs, wenn sie nicht sorgfältig überwacht werden, in menschliche Offline-Gespräche einfließen und möglicherweise Fehlinformationen verbreiten könnten. Diese Sorge hat sie dazu veranlasst, die Möglichkeit einer gesetzlichen Verpflichtung für LLM-Anbieter zu untersuchen, um sicherzustellen, dass ihre Modelle nach Wahrhaftigkeit streben.
Die aktuelle Gesetzgebung der Europäischen Union (EU) bietet begrenzte Szenarien, in denen Organisationen oder Einzelpersonen gesetzlich verpflichtet sind, die Wahrheit zu sagen. Diese Szenarien sind in der Regel auf bestimmte Sektoren oder Institutionen beschränkt und gelten nur selten für den privaten Sektor. Da es sich bei LLMs um eine relativ neue Technologie handelt, wurden die bestehenden Vorschriften nicht mit Blick auf diese Modelle formuliert.
Um diese Lücke zu schließen, schlagen die Forscher einen neuen Rahmen vor, der eine rechtliche Verpflichtung zur Minimierung unvorsichtiger Äußerungen von Anbietern sowohl von LLMs mit eingeschränktem als auch mit allgemeinem Verwendungszweck schaffen würde. Dieser Rahmen zielt darauf ab, den Wahrheitsgehalt und die Nützlichkeit der Modelle auszubalancieren, indem er für eine Pluralität und Repräsentativität der Quellen eintritt, anstatt eine singuläre Version der Wahrheit zu erzwingen. Die Idee ist, die derzeitige Voreingenommenheit gegenüber der Nützlichkeit, die oft die Genauigkeit beeinträchtigt, auszugleichen.
Mit dem weiteren Fortschritt der KI-Technologie werden diese Fragen für die Entwickler immer relevanter werden. In der Zwischenzeit sollten Benutzer von LLMs vorsichtig bleiben, da diese Modelle darauf ausgelegt sind, Antworten zu geben, die überzeugend und hilfreich erscheinen, unabhängig von ihrer Genauigkeit.
Die Untersuchung der Oxford-Wissenschaftler über die rechtliche Durchsetzbarkeit der Wahrhaftigkeit in KI-Chatbots unterstreicht die Notwendigkeit eines ausgewogenen Ansatzes. Durch die Schaffung eines rechtlichen Rahmens, der sowohl der Hilfsbereitschaft als auch der Wahrhaftigkeit Priorität einräumt, besteht die Möglichkeit, die Zuverlässigkeit dieser leistungsstarken Werkzeuge zu erhöhen und gleichzeitig die mit ihrer Nutzung verbundenen Risiken zu mindern.
