Christian Lutz-Weicken

die Intelligenz auch lokal in deinem Netzwerk haben.

Also ich habe jetzt gerade mir ein Mac-Studio aus dem Verlag geholt und da will ich jetzt mal gucken, den will ich jetzt ins Netz hängen und der hat halt 512 GB schnellen RAM und da will ich mal gucken, ob ich ein kompetentes, lokales LLM finde und hänge den dann in mein Netz und benutze das als Gehirn von

Open Claw geht nicht gut über die Lippen.

Das läuft nicht auf 512, sondern ich glaube, das braucht ein bisschen mehr.

Ja, ich muss mir das mal angucken.

Du brauchst auch, also das ist ja auch so krass, das habe ich auch nicht in dem Video gesagt, das ist vielleicht noch ein Bonusinhalt für euch.

OpenClaw braucht ein unfassbar großes Kontextfenster, weil es natürlich bei jedem Prompt

Also auch wenn ich nur Hallo sage, er muss so viel Kontext mitschicken.

Welche Tools kann ich benutzen?

Was ist eigentlich auf dem System installiert?

Was haben wir vorher gemacht?

Das ist halt echt noch, das ist halt sehr, sehr grobschlechtig, dass du halt zum Teil, keine Ahnung, sechsstellige, also Token-Dinger da nur bei einzelnen, nee, sechsstellig nicht, aber du hast auf jeden Fall unfassbar viele Tokens, die draufgehen, nur durch den

durch dieses ständige Wiederholen von Dingen und das führt dann dazu, dass das Kontext, ich glaube Opus hat glaube ich 200.000

Tokens und er versucht das zwar immer zu komprimieren, aber irgendwann ist das Kontextfenster voll und er fängt von vorne an und dann passieren halt so Dinge, dass du sagst, ey, kannst du mir mal noch ein Lied generieren?

Und dann sagt er, was für ein Lied?

Und dann sagt man, wer spricht da?

Und dann ich so, ey, du hast doch vor drei Minuten hast du doch Hartmula installiert und damit Lieder generiert.

Nein.

Hartmuller?

Wo soll ich das denn installiert haben?