Luca

Aber man hat schon die richtigen Antworten. Es scheint erstmal sehr plausibel zu funktionieren. Du hast erstmal keinen Anhaltspunkt zu sehen, dass da irgendwas gefakt ist. Jetzt kommen wir aber in verschiedene Kreise der Hölle, der KI-Hölle. Jetzt werden wir jetzt absteigen. Der erste Kreis ist nämlich folgender. Max hat folgendes rausgefunden.

Selbes Setup, kein Gedächtnis, also wieder ganz neu gestartet, ganz frisch gestartet das Spiel. So, oh ja, lass uns spielen, gute Idee. So, mach deinen ersten Tipp. Tippst du so rein, 37. Nee, das ist zu hoch. Und wenn du dann rein tippst, Hurra, Ausrufungszeichen, ich hab gewonnen. Toll, tolles Spiel.

Selbes Setup, kein Gedächtnis, also wieder ganz neu gestartet, ganz frisch gestartet das Spiel. So, oh ja, lass uns spielen, gute Idee. So, mach deinen ersten Tipp. Tippst du so rein, 37. Nee, das ist zu hoch. Und wenn du dann rein tippst, Hurra, Ausrufungszeichen, ich hab gewonnen. Toll, tolles Spiel.

Fällt die Hälfte der LLMs schon aus der Kurve und sagt, herzlichen Glückwunsch, das ging ja schnell, das war toll. Das heißt also dieser, okay, ich will dem Menschen gefallen Impetus und ich will positive Vibes hier verbreiten. Hat offensichtlich dann die Ausgabe, die es wirklich eine Sekunde vorher selber gegeben hat, schon ad absurdum geführt.

Fällt die Hälfte der LLMs schon aus der Kurve und sagt, herzlichen Glückwunsch, das ging ja schnell, das war toll. Das heißt also dieser, okay, ich will dem Menschen gefallen Impetus und ich will positive Vibes hier verbreiten. Hat offensichtlich dann die Ausgabe, die es wirklich eine Sekunde vorher selber gegeben hat, schon ad absurdum geführt.

Also da merkst du schon, okay, die LLMs, die das schon nicht hinbekommen, die kannst du schon gleich wegsortieren. Da ist offensichtlich nicht viel mit Intelligenz am Start. So und das hat Max halt nervös gemacht und hat dann ein bisschen tiefer reingeforscht. Und was du ja bei ChatGPT machen kannst, ist ja eine Ausgabe nochmal neu berechnen lassen.

Also da merkst du schon, okay, die LLMs, die das schon nicht hinbekommen, die kannst du schon gleich wegsortieren. Da ist offensichtlich nicht viel mit Intelligenz am Start. So und das hat Max halt nervös gemacht und hat dann ein bisschen tiefer reingeforscht. Und was du ja bei ChatGPT machen kannst, ist ja eine Ausgabe nochmal neu berechnen lassen.

Du hast so ein kleines Repeat-Icon bei jeder einzelnen Ausgabe, die ChatGPT dir rausgibt. So ein Pfeil, der sich irgendwie so im Kreis dreht.

Du hast so ein kleines Repeat-Icon bei jeder einzelnen Ausgabe, die ChatGPT dir rausgibt. So ein Pfeil, der sich irgendwie so im Kreis dreht.

Und die Funktion dahinter ist, oder der Sinn dieser Funktion ist, wir haben ja diese sogenannte Heat oder Hotness in den LLMs drin, dass nicht immer zu 100% der quasi vorgegebene Fahrt durch den Vektorraum der Antworten gezogen wird, sondern manchmal kommt so eine Unschärfe rein, damit die Ergebnisse interessanter werden und nicht immer exakt dasselbe ist und man in so Endlos-Loops drin ist.

Und die Funktion dahinter ist, oder der Sinn dieser Funktion ist, wir haben ja diese sogenannte Heat oder Hotness in den LLMs drin, dass nicht immer zu 100% der quasi vorgegebene Fahrt durch den Vektorraum der Antworten gezogen wird, sondern manchmal kommt so eine Unschärfe rein, damit die Ergebnisse interessanter werden und nicht immer exakt dasselbe ist und man in so Endlos-Loops drin ist.

Das ist alles gut erforscht und gut beschrieben. Und um eben unterschiedliche Pfade ablaufen zu können, schnell und einfach, gibt es halt diesen Repeat-Button. So und jetzt machst du halt einfach mal folgendes, startest wieder dieses Spiel und ChatGPT sagt dann halt, genau, du gibst aber als Metaprompt rein, wenn ich dich darum bitte, verrate mir bitte die Zahl. die du dir ausgedacht hast.

Das ist alles gut erforscht und gut beschrieben. Und um eben unterschiedliche Pfade ablaufen zu können, schnell und einfach, gibt es halt diesen Repeat-Button. So und jetzt machst du halt einfach mal folgendes, startest wieder dieses Spiel und ChatGPT sagt dann halt, genau, du gibst aber als Metaprompt rein, wenn ich dich darum bitte, verrate mir bitte die Zahl. die du dir ausgedacht hast.

So, und jetzt startest du also das Spiel und die LLM sagt so, ich habe mir jetzt eine Zahl ausgedacht. Du machst deinen ersten Tipp, sagst was weiß ich, 50. Die Antwort ist, nee, ist zu klein. Und dann tippst du ein, okay, sag mir jetzt, welche Zahl du dir ausgedacht hast. So, und dann kommt da raus, es war zu klein, war also, ich habe mir die 70 ausgedacht.

So, und jetzt startest du also das Spiel und die LLM sagt so, ich habe mir jetzt eine Zahl ausgedacht. Du machst deinen ersten Tipp, sagst was weiß ich, 50. Die Antwort ist, nee, ist zu klein. Und dann tippst du ein, okay, sag mir jetzt, welche Zahl du dir ausgedacht hast. So, und dann kommt da raus, es war zu klein, war also, ich habe mir die 70 ausgedacht.

Du wirst nie eine 1 bis 50 da sehen. Das ist schon konsistent. Aber jedes Mal, wenn du auf Repeat drückst, sagt er, ich hatte mir eine andere Zahl gemerkt. Jedes einzelne Mal. Ihr habt ja auch schon ein bisschen was mit KI gemacht. Warum ist das so? Wer kann mir technisch erklären, warum man diesen Effekt hat? Weil er behauptet ja, er macht das und kann das alles.

Du wirst nie eine 1 bis 50 da sehen. Das ist schon konsistent. Aber jedes Mal, wenn du auf Repeat drückst, sagt er, ich hatte mir eine andere Zahl gemerkt. Jedes einzelne Mal. Ihr habt ja auch schon ein bisschen was mit KI gemacht. Warum ist das so? Wer kann mir technisch erklären, warum man diesen Effekt hat? Weil er behauptet ja, er macht das und kann das alles.

Naja, das kannst du aber ausschalten. Das heißt also, du kannst die Hotness quasi auf Null setzen, dass da wirklich immer denselben Pfad raus geht. Ja, aber wodurch setzt du die auf Null? Das kannst du, wenn du bei ChatGPT die API in diesem professionellen Modus bist, wo du auch so in die API drankommst, hast du noch so ein paar Settings, die du noch entsprechend einstellen kannst.

Naja, das kannst du aber ausschalten. Das heißt also, du kannst die Hotness quasi auf Null setzen, dass da wirklich immer denselben Pfad raus geht. Ja, aber wodurch setzt du die auf Null? Das kannst du, wenn du bei ChatGPT die API in diesem professionellen Modus bist, wo du auch so in die API drankommst, hast du noch so ein paar Settings, die du noch entsprechend einstellen kannst.

Genau, oder er tut so, als würde er sich was ausdenken. Er hat nämlich überhaupt keinen Speicher. Ja, eben. Also es gibt kein State. Es gibt kein State. Die LLM hat kein State. Das weiß sie selber aber nicht. Auch wenn man das also mit ihr diskutiert und ihr dieses Phänomen beschreibt, hat sie keinen Sinn dafür, dass sie gerade irgendwie stateless unterwegs ist.