Luca

Und dadurch kommt dann, sie selber nennen das als Reasoning, also eben besser argumentieren können, besser verstehen können. Weiß ich nicht, ob es das von der Begrifflichkeit her richtig trifft, aber im Ergebnis kommen sie da halt wirklich zu teilweise spektakulär besseren Werten. Bzw.

man müsste mit Chat GPT-4 viel Handarbeit anlegen, um ähnlich gute Ergebnisse hinzubekommen, wie man das entsprechend hier halt entsprechend löst. Also den Dienst kann man sich mal angucken, den finde ich ganz praktisch. Ich habe den bei mir noch gekoppelt, das werfe ich auch nochmal rein mit einem eigenen Frontend, was es auch gibt als Open Source.

man müsste mit Chat GPT-4 viel Handarbeit anlegen, um ähnlich gute Ergebnisse hinzubekommen, wie man das entsprechend hier halt entsprechend löst. Also den Dienst kann man sich mal angucken, den finde ich ganz praktisch. Ich habe den bei mir noch gekoppelt, das werfe ich auch nochmal rein mit einem eigenen Frontend, was es auch gibt als Open Source.

Wenn man also nicht deren Portal nutzen will, das ist openwebui.com. Das ist ein Produkt von Meta. Wo die einfach ihre Chat-Oberfläche open sourced haben.

Wenn man also nicht deren Portal nutzen will, das ist openwebui.com. Das ist ein Produkt von Meta. Wo die einfach ihre Chat-Oberfläche open sourced haben.

Das heißt also, das kann man sich einfach selber auf dem Server installieren und kann dann dort die APIs zu verschiedenen Modellen hinterlegen und hat dann halt quasi eine klassische, wie man es von Chat-GPT kennt, Chat-Oberfläche mit den ganzen Funktionen drin. Und das habe ich dann wiederum bei mir ein Click-Install in meiner Cloudron-Instanz, die ich ja sowieso über alles liebe.

Das heißt also, das kann man sich einfach selber auf dem Server installieren und kann dann dort die APIs zu verschiedenen Modellen hinterlegen und hat dann halt quasi eine klassische, wie man es von Chat-GPT kennt, Chat-Oberfläche mit den ganzen Funktionen drin. Und das habe ich dann wiederum bei mir ein Click-Install in meiner Cloudron-Instanz, die ich ja sowieso über alles liebe.

Dieser Berliner Dienst, dem man Root-Zugriff auf einen Server gibt und die dann einem ein riesiges Portfolio an Open-Source-Tools bereitstellen. Und da haben die nämlich jetzt Open-Web-UI drin. Das heißt also, ich habe jetzt hier so ein Stack von Cloudron unten drunter.

Dieser Berliner Dienst, dem man Root-Zugriff auf einen Server gibt und die dann einem ein riesiges Portfolio an Open-Source-Tools bereitstellen. Und da haben die nämlich jetzt Open-Web-UI drin. Das heißt also, ich habe jetzt hier so ein Stack von Cloudron unten drunter.

eigenes Web-UI über Open Web-UI und dort dann einfach nur eine einzige API hinterlegt, nämlich die von Open Router und habe jetzt also mein eigenes kleines KI-Labor am Start, mit dem ich dann eben jetzt relativ einfach verschiedene Modelle gegeneinander testen kann.

eigenes Web-UI über Open Web-UI und dort dann einfach nur eine einzige API hinterlegt, nämlich die von Open Router und habe jetzt also mein eigenes kleines KI-Labor am Start, mit dem ich dann eben jetzt relativ einfach verschiedene Modelle gegeneinander testen kann.

Magst du das mal zeigen? Das sieht genauso aus wie das, was du da gerade gezeigt hast. Es sieht aus wie ChatGPT, nur dass du oben links dann die ganzen Modelle auswählen kannst. Ja, passiert da nicht. So, mit diesem kleinen KI-Labor kann man sich natürlich jetzt noch viel besser mit Max streiten. Und er hatte da nämlich nochmal eine lustige Challenge.

Magst du das mal zeigen? Das sieht genauso aus wie das, was du da gerade gezeigt hast. Es sieht aus wie ChatGPT, nur dass du oben links dann die ganzen Modelle auswählen kannst. Ja, passiert da nicht. So, mit diesem kleinen KI-Labor kann man sich natürlich jetzt noch viel besser mit Max streiten. Und er hatte da nämlich nochmal eine lustige Challenge.

Und darüber würde ich jetzt nochmal ein bisschen mit euch fabulieren, weil das ist wirklich cool und da lernt man glaube ich nochmal viel über LLMs und was sie können und was sie nicht können und wie man da zu sehr unterschiedlichen Einschätzungen dann kommt. Und zwar hat Max vor ein paar Wochen mal ein Spiel erfunden.

Und darüber würde ich jetzt nochmal ein bisschen mit euch fabulieren, weil das ist wirklich cool und da lernt man glaube ich nochmal viel über LLMs und was sie können und was sie nicht können und wie man da zu sehr unterschiedlichen Einschätzungen dann kommt. Und zwar hat Max vor ein paar Wochen mal ein Spiel erfunden.

Und hat gesagt so, lieber LLM, denk dir mal eine Zahl von 1 bis 100 aus und ich muss die erraten. Und du sagst mir nur, ob die geratene Zahl, die ich eintippe, zu klein oder zu groß ist oder genau getroffen ist. Okay. So, was sagt die LLM? Ja, also Chat GPT-4. Ja, hurra, super Idee, lass uns spielen. So, und dann tippt man halt ein, so 15.

Und hat gesagt so, lieber LLM, denk dir mal eine Zahl von 1 bis 100 aus und ich muss die erraten. Und du sagst mir nur, ob die geratene Zahl, die ich eintippe, zu klein oder zu groß ist oder genau getroffen ist. Okay. So, was sagt die LLM? Ja, also Chat GPT-4. Ja, hurra, super Idee, lass uns spielen. So, und dann tippt man halt ein, so 15.

Zu klein, ja, und dann tippst du halt ein, irgendwie 38 und so. Ihr könnt euch das vorstellen und irgendwann sagt die LLM, ja, hurra, du hast die Zahl gefunden. So, und was Max rausgefunden hat, ist folgendes. Du startest das Spiel nochmal neu mit demselben Prompt. Warte mal, und funktioniert das auch so wie gedacht? Scheinbar ja. Scheinbar. Jetzt fängt es an. Pass auf.

Zu klein, ja, und dann tippst du halt ein, irgendwie 38 und so. Ihr könnt euch das vorstellen und irgendwann sagt die LLM, ja, hurra, du hast die Zahl gefunden. So, und was Max rausgefunden hat, ist folgendes. Du startest das Spiel nochmal neu mit demselben Prompt. Warte mal, und funktioniert das auch so wie gedacht? Scheinbar ja. Scheinbar. Jetzt fängt es an. Pass auf.

Aber man hat schon die richtigen Antworten. Es scheint erstmal sehr plausibel zu funktionieren. Du hast erstmal keinen Anhaltspunkt zu sehen, dass da irgendwas gefakt ist. Jetzt kommen wir aber in verschiedene Kreise der Hölle, der KI-Hölle. Jetzt werden wir jetzt absteigen. Der erste Kreis ist nämlich folgender. Max hat folgendes rausgefunden.