Christian Lutz-Weicken

Ja, ich erzähl euch das mal.

Und was anderes, was ich noch diese Woche gemacht habe, ist, dass ich mal auf meinem Wohnzimmer-PC auch ein Cache installiert habe und da gerade Lama CPP einrichte, damit ich Quen 3 Next installiere.

als Coding-Modell ausprobieren kann, lokal bei mir gehostet.

Weil ich gehe gerade jetzt endlich auch mal so ein bisschen, gebe mal Vibe-Coding mal wieder einen Versuch.

Aber ich will mal gucken, wie weit ich lokal komme.

Du hast mir ja auch netterweise...

einen Gratis-Woche-Anthropic-Code gerade rüber geschoben.

Das werde ich dann mal ein bisschen vergleichen.

Das Ergebnis steht natürlich schon fest.

Ja, aber vielleicht sind das doch nur meine Vorurteile.

Also N3 Next hat auf jeden Fall einen guten Ruf.

Und vor allem, wenn du da eine gute Hardware drauf schmeißt, dann kann es, glaube ich, deutlich schneller sein als...

Ich weiß es aber auch nicht.

Ja, das halte ich für relativ ausgeschlossen in meinem Fall, weil es nur so eine 64 Gig Ryzen Workstation ist, die ist ganz okay, aber die hat leider nur eine 12 Gigabyte 4070 Nvidia GPU.

4070 ist super, aber das ist nicht so super, wie der Name vermuten lässt.

Zumindest nicht für diese Anwendung.

Ich habe ja so einen 512 GB M3 Ultra drumstehen gerade.

Und auch da, wenn du reine Inferenz machst mit einem kurzen Prompt, dann geht das ab wie Schmidts Katze.

Aber bei Coding-Sachen haust du da ja super viel Kontext rein.

Also wirklich extrem viel.