Open-weight chez OpenAI : pourquoi c’est gros. Jonathan explique comment deux modèles « OSS » téléchargeables à 0 $ d’utilisation ouvrent la porte à des déploiements sur vos propres serveurs — avec, pour la première fois, la possibilité d’influencer les poids du modèle (la fameuse “console de mixage”) pour ajuster l’output à votre réalité.💡 Au menu :• Deux modèles à 0 $ d’usage que vous pouvez installer on-prem; performances jugées très proches d’O3 en réflexion.• Open-weight vs open-source : on n’ouvre pas le code, on donne accès aux poids; métaphore de la console de mixage pour comprendre comment on peut rehausser/atténuer certains signaux et donc l’output.• Tailles & infra : 20B (tourne sur petite machine) vs 120B (serveurs/GPU), avec des benchmarks ~O3; intérêts sécurité/coûts quand tout reste en interne (courriels, données sensibles).• Cas concret : triage automatique de CV avec score sur soft skills, hard skills et critères du poste pour accélérer la short-list.• Impacts business : les modèles deviennent une commodité; la vraie bataille se jouera sur l’UX, les agents et les intégrations (OpenAI part avec moins d’infra cloud que d’autres).

Ask this episode

“What did the council decide on item 42?” — answered with the speaker and the moment.

Transcript

Related