Sarah Travers
Der jüngste Anstieg der Nutzung von Chatbots wie ChatGPT hat sowohl deren Vorteile als auch deren Grenzen aufgezeigt. Da sich künstliche Intelligenz (KI), insbesondere große Sprachmodelle (LLMs), immer mehr durchsetzt, untersuchen Forscher der Universität Oxford, ob es einen rechtlichen Weg gibt, um die Wahrhaftigkeit dieser KI-Systeme durchzusetzen.
LLMs sind zu einem Brennpunkt in der Welt der KI geworden. Chatbots wie ChatGPT und Gemini von Google nutzen generative KI, um menschenähnliche Antworten auf eine Vielzahl von Fragen zu geben. Diese Modelle werden anhand umfangreicher Datensätze trainiert, so dass sie natürliche Sprachausgaben erfassen und produzieren können. Diese Methode wirft jedoch auch Fragen im Zusammenhang mit dem Datenschutz und dem geistigen Eigentum auf, da die Modelle maßgeblich von den Daten abhängen, mit denen sie gefüttert wurden.
Diese LLMs zeigen oft beeindruckende Fähigkeiten und geben ihre Antworten mit erstaunlicher Sicherheit ab. Doch diese Zuversicht kann trügerisch sein, denn Chatbots können genauso selbstsicher erscheinen, ob die von ihnen gelieferten Informationen nun richtig sind oder nicht. Dies stellt eine Herausforderung dar, zumal die Benutzer die Antworten des Chatbots nicht immer kritisch bewerten können.
LLMs sind nicht von Natur aus darauf programmiert, die Wahrheit zu sagen. Sie sind im Grunde genommen Textgenerierungsmaschinen, die darauf ausgelegt sind, die nachfolgende Abfolge von Wörtern in einem bestimmten Kontext vorherzusagen. Die Wahrhaftigkeit ist nur einer von mehreren Faktoren, die bei ihrer Erstellung berücksichtigt werden. In ihrem Bestreben, die „hilfreichsten“ Antworten zu geben, neigen diese Modelle manchmal zu Vereinfachungen, Verzerrungen und sogar zu Fälschungen. Dies hat zu Fällen geführt, in denen Chatbots gefälschte Zitate und irrelevante Informationen liefern, was ihre Zuverlässigkeit untergräbt.
Die Forscher aus Oxford weisen auf ein besonderes Problem hin, das sie als „unbedachte Rede“ bezeichnen. Sie warnen davor, dass die Antworten von LLMs, wenn sie nicht sorgfältig überwacht werden, in menschliche Offline-Diskussionen eindringen und möglicherweise Fehlinformationen verbreiten könnten. Diese Sorge hat sie zu der Überlegung veranlasst, ob LLM-Anbieter gesetzlich verpflichtet werden könnten, sicherzustellen, dass ihre Modelle der Wahrhaftigkeit Vorrang geben.
Die derzeitige Gesetzgebung in der Europäischen Union (EU) enthält einige wenige Fälle, in denen die Wahrheitsfindung gesetzlich vorgeschrieben ist. Diese Fälle sind in der Regel auf bestimmte Sektoren oder Institutionen beschränkt und erstrecken sich selten auf den privaten Sektor. Da die LLMs relativ neu sind, wurden die bestehenden Vorschriften nicht mit Blick auf diese Modelle geschaffen.
Um diese Regelungslücke zu schließen, schlagen die Forscher einen neuen Rahmen vor, der eine rechtliche Verpflichtung zur Minimierung unvorsichtiger Äußerungen durch Anbieter von spezialisierten und allgemeinen LLMs vorsieht. Der vorgeschlagene Rahmen zielt darauf ab, ein Gleichgewicht zwischen Wahrhaftigkeit und Hilfsbereitschaft herzustellen, indem er sich für vielfältige und repräsentative Quellen einsetzt, anstatt eine einzige Version der Wahrheit durchzusetzen. Das Ziel ist es, die derzeitige Voreingenommenheit gegenüber der Hilfsbereitschaft zu bekämpfen, die oft auf Kosten der Genauigkeit geht.
Mit der weiteren Entwicklung der KI-Technologie werden diese Fragen für die Entwickler immer wichtiger werden. In der Zwischenzeit sollten Nutzer von LLMs wachsam bleiben und verstehen, dass diese Modelle darauf ausgelegt sind, Antworten zu geben, die überzeugend und hilfreich erscheinen, unabhängig von ihrer Genauigkeit.
Die Untersuchung der Oxford-Forscher über die rechtliche Machbarkeit einer Verpflichtung zur Wahrhaftigkeit in KI-Chatbots unterstreicht die Notwendigkeit eines ausgewogenen Ansatzes. Durch die Entwicklung eines rechtlichen Rahmens, der sowohl die Hilfsbereitschaft als auch die Wahrhaftigkeit wertschätzt, besteht die Möglichkeit, die Zuverlässigkeit dieser leistungsstarken Werkzeuge zu verbessern und gleichzeitig die damit verbundenen Risiken zu mindern.
