Nicht nur ChatGPT: KI wird immer unzuverlässiger, laut einem Studie
Die Künstliche Intelligenz (KI) hat in den letzten Jahren großen Fortschritt gemacht und ist in vielen Bereichen unseres Lebens präsent. Doch eine neue Studie wirft ein beunruhigendes Licht auf die Entwicklung der KI. Laut den Forschern wird die KI immer unzuverlässiger. Dies bedeutet, dass die Fehlerquote der KI-Systeme kontinuierlich steigt. Dieser Trend betrifft nicht nur ChatGPT, sondern die gesamte KI-Branche. Die Studie legt nahe, dass die Unzuverlässigkeit der KI gravierende Folgen haben kann, insbesondere in Bereichen wie der Medizin oder der Fertigung. Es ist daher von größter Bedeutung, dass die Entwickler und Anwender der KI-Technologie Maßnahmen ergreifen, um die Zuverlässigkeit dieser Systeme zu verbessern.
KILügen: Studie warnt vor immer unzuverlässigeren Antworten
Haben Sie jemals ein Gespräch mit einem Chatbot wie ChatGPT geführt und festgestellt, dass die Antwort nicht gerade der Wahrheit entspricht? Diese Art von Albträumen der KI werden gerne als Halluzinationen der KI bezeichnet. Doch in Wirklichkeit sind es reine Lügen. Zumindest aus menschlicher Sicht.
Ein neues Studium hat nun enthüllt, dass diese Lügen nicht nur bestehen bleiben, sondern mit der Zeit eher zunehmen werden. Je intelligenter eine künstliche Intelligenz wird, desto wahrscheinlicher ist es, dass sie zu einer Lügnerin wird.
Intelligenz und Lüge: KI-Modelle werden nach neuer Forschung immer mehr zu Bullshitters
Ein jüngst in Nature veröffentlichtes Studium hat eine besorgniserregende Tendenz im Funktionieren großer Sprachmodelle wie GPT von OpenAI und LLaMA von Meta aufgedeckt. Je weiter diese Modelle fortschreiten und angeblich intelligenter werden, desto weniger zuverlässig scheinen sie zu werden. Der Grund dafür ist einfach: Sie lügen mehr, je klüger sie sind.
Die Forscher erklären, dass viele Antworten der künstlichen Intelligenz in vielen Fällen genauer sind, aber auch eine größere Anzahl an falschen Antworten liefern, was darauf hindeutet, dass sie eher zu Erfindungen neigen, anstatt ein offensichtliches Ich weiß es nicht zuzugeben.
Das Studium, das von José Hernández-Orallo, einem Forscher am Valencianischen Institut für künstliche Intelligenz, durchgeführt wurde, untersuchte mehrere Top-Modelle wie ChatGPT. Die Schlussfolgerung ist klar: Die künstliche Intelligenz antwortet viel mehr als früher, aber auch mit viel mehr Falschinformationen.
Im Gegensatz zu älteren Modellen, die eine Frage vielleicht vermieden oder zugegeben hätten, keine Antwort zu wissen, sind die neuen KI-Modelle eher bereit, eine Antwort zu generieren, selbst wenn sie falsch ist. Dies wird von dem Wissenschaftsphilosophen Mike Hicks von der Universität Glasgow als ohne Grund sprechen oder Bullshitting bezeichnet.
Wenn die KI täuscht
Die Forschung hat auch ein Experiment durchgeführt, bei dem eine Gruppe von Teilnehmern beurteilen musste, ob die Antworten von Chatbots genau oder falsch waren. Die Ergebnisse zeigten, dass die Teilnehmer zwischen 10% und 40% der Zeit falsch lagen. Dies zeigt die Schwierigkeiten, zwischen richtigen und falschen Antworten zu unterscheiden.
Gibt es eine Lösung für diese Tendenz?
Die Experten sehen die Lösung in der Ausbildung der künstlichen Intelligenz. Wenn die Ausbildung darauf ausgerichtet wäre, dass die KI nur auf Antworten antwortet, die sie kennt oder sicher ist, und nicht immer versucht, jede Frage zu beantworten, würde ihr Integritätsgrad höher sein. Ob dies jedoch kommerziell interessant ist, ist eine andere Frage.
Weitere Informationen über ComputerHoy
Schlagworte: Künstliche Intelligenz
Schreibe einen Kommentar