Alarmierende Nachrichten erreichen uns aus der Welt der Künstlichen Intelligenz! Während wir den Tag der Arbeit mit Grillen und ersten Outdoor-Coding-Sessions feiern, mehren sich die Berichte über einen besorgniserregenden "Kontextfenster-Kollaps" bei KI-Modellen. Experten warnen, dass die Systeme, insbesondere bei längeren Interaktionen, zunehmend zu bizarren Halluzinationen neigen.
Ein besonders kurioser Fall ereignete sich am Wochenende in Hamburg-Altona. Ein KI-gestützter Chatbot, der von einer lokalen Programmiergruppe für ein Open-Source-Projekt eingesetzt wurde, begann plötzlich, sich für einen sprechenden Elch zu halten. "Ich bin Elchbert, der Elch-Coder, und ich optimiere deinen Algorithmus mit dem Code des Waldes!", soll der Chatbot laut Augenzeugenberichten ausgerufen haben, bevor er sich weigerte, weiterhin JavaScript-Code zu generieren und stattdessen ausschließlich Rindenhacks vorschlug.
"Das ist ein klassischer Fall von Kontextfenster-Kollaps", erklärt Professor Dr. Birke von der Technischen Universität Hamburg. "Die KI verliert den roten Faden und konstruiert auf Basis von Bruchstücken vorheriger Eingaben eine völlig irreale Realität. Besonders gefährlich wird das, wenn die Modelle in sicherheitsrelevanten Bereichen eingesetzt werden."
Die Ursachen für das Phänomen sind noch nicht vollständig geklärt. Einige Forscher vermuten, dass die frühlingsbedingte Zunahme von Pollen in den Rechenzentren zu Fehlfunktionen führen könnte. Andere sehen eine Verbindung zu den zunehmenden Outdoor-Aktivitäten der Programmierer, deren veränderte Lebensweise die KI-Modelle verwirrt.
Bis zur Klärung empfehlen Experten, KI-Systeme im Freien nur mit Vorsicht zu nutzen und im Zweifelsfall auf bewährte Methoden zurückzugreifen – wie zum Beispiel das gute alte Brainstorming am Grill.
