Jan-Keno Janssen
👤 SpeakerVoice Profile Active
This person's voice can be automatically recognized across podcast episodes using AI voice matching.
Appearances Over Time
Podcast Appearances
Und also ich habe ein Video gesehen, wo sie in einigen LLM-Workloads schneller war als die 4000 Pro und in anderen wiederum langsamer.
Und da wird man jetzt die nächsten Wochen mehr darüber erfahren.
Aber selbst wenn die nicht so schnell ist,
Sind 32 Gig ist einfach wirklich eine Ansage, weil man muss das ja in Relation setzen.
Also jetzt eine Nvidia 5090, die einzige andere konsumerverfügbare GPU im Moment mit 32 Gig VRAM, die liegt eigentlich beim Straßenpreis von um die 4000 Euro inzwischen.
Liste ist die 2,3 oder so, aber die wirst du halt nie zu diesem Preis bekommen.
Und von daher ist das auf jeden Fall eine interessante Karte.
Vor allen Dingen,
Für LLMs würde ich behaupten jetzt, ohne die Benchmarks final gesehen zu haben.
Ich weiß nicht, für Bild- und Videogenerierung.
Ja, die sind ja immer sehr CUDA-lastig.
Genau.
Also Nvidia CUDA und das ist halt immer so eine Sache.
Das ist ja bei Apple auch so, dass die LLM-Abzapferei, die funktioniert ganz gut.
Ja.
Aber Grafik und Video und Bild- und Musikgenerierung nicht so gut, weil das sehr CUDA-lastig ist.
Aber ja, also 32 GB schnellen Speicher, die kriegst du bei der 5090, die kriegst du bei Apple, die kriegst du bei 128 GB bei Nvidia, wenn du so eine DJI Xperia nimmst, die dann aber in anderen Belangen nicht so schnell ist.
Also der KI-Hype
Führt auf jeden Fall dazu, dass es immer mehr lokal, also sozusagen Prosumer-Lokal-KI-Hardware gibt.
Das finde ich tatsächlich ganz interessant.