Alexander Klöpping
👤 SpeakerAppearances Over Time
Podcast Appearances
en dan zelf weer opnieuw in elkaar zetten. In dit geval, wat kan jij dan ook iets met de... Je hebt de research paper van Whisper, maar je hebt ook Whisper zelf. Wat het downloaden is. Ga je dan ook daarna kijken of zeg je van... hoe zij het hebben geïmplementeerd vind ik eigenlijk minder relevant. Ik kijk vooral naar hoe ze zeggen dat ze het hebben geïmplementeerd.
Maar, want in de zorg wil je dat. Je wil niet dat... Ja, want even voor mij een beeld. Je bent geswitcht van architectuur. Je bent ooit begonnen met experimenteren met Whisper nabouwen eigenlijk. En uiteindelijk... Ja, Whisper is eigenlijk een soort... Voelt heel erg als een...
Ieder ander taalmodel eigenlijk, dat hij ook hallucineert en context een beetje begrijpt tussen air quotes. Dat jij zegt, dat hebben we in die medische context nou juist niet nodig. Ik heb liever dat je heel erg je best doet en heel veel rekenkracht om te begrijpen welke medicijnnaam of noem maar op, gedoemd wordt. In plaats van dat je een beetje leuk gaat lopen gokken wat er mogelijk gezegd wordt. Dus je bent uiteindelijk van architectuur gewisseld.
Een hele pijplijn van fases, van stappen, waardoor je iedere keer weer opnieuw gaat doorbakken en aanpassingen maakt tot die de markt op mag, zeg maar. Of in ieder geval eindigt bij de eindgebruiker. Er moet nog red teaming gedaan worden, nog meer fine tuning en uiteindelijk safety. Dan is die er. Maar als we terugkomen op het model dat jullie nu hebben, dat wordt ook ingezet, begrijp ik uit jouw verhaal.
Wanneer was de eerste versie waar jij je zeker genoeg over voelde? Of ben je al vrij snel het veld ingegaan? Omdat je zei, we moeten naar buiten hiermee. Het wordt alleen maar beter als we het gaan inzetten.
Neem me even mee als je wil, want jij zei eerder in dit gesprek al, er wordt iets in een EPD gezet, een elektronisch patiëntendossier. Maar wat is precies het proces, laten we zeggen vandaag de dag, nu terwijl wij zitten te praten, wat kan de technologie en hoe werkt dat dan?
En wordt die dan ook veld voor veld ingevuld? Of in één groot veld, zeg maar? Veld voor veld. Ja, dat doe je al. En is dat dan een vorm van computer use? Of is het niet zo rondklikkerig? Nee. Er is een model. Ja, sorry. Het is echt gewoon geïmplementeerd door het EPD. Dus dat betekent dat het gewoon een API is die we aanbieden... waar je je audio naartoe stuurt. En wij sturen de samenvatting terug. Ja, en zij weten wat ze ermee moeten op dat moment. Ja.
Ja, dat is geen MCP, geen computer use, geen tool use. Gewoon van oud software engineering. Ja, mooi. Dan zullen al te best je luisteren denken. Ja, precies. Dat kan toch ook gewoon op deze manier. En dan druk je op dat microfoontje. Op dat moment gaat er een audio stream richting een datacenter ergens. Ja. Van wie is dat datacenter? Wat hangt daar? Wat gebeurt daar?
Ja, en is het nu zo dat je dan ook al nadenkt over oplossingen waarbij het nog lokaler is? Dat er binnen de ziekenhuis on-premise iets beschikbaar is? Of is dat nog toekomstmuziek? Ik denk dat dat geen toekomstmuziek is. Ik denk dat we op dit moment hebben de Jetsons. Daar zijn we mee aan het experimenteren.
Ja, absoluut. En heb je nu voor jullie... want je zei net... je doet het per fonim... want je wilt eigenlijk woord voor woord... stukje voor stukje alles hebben... en niet een soort model... dat daar nog dingen bij hallucineert. Want voor de medische context... wil je het gewoon zo strak mogelijk... in het EPD krijgen. En is het dan zo dat je... op welke data ben je dan gaan trainen? Want je zegt net, we slaan niks op...
wat er ons systeem in gaat. Dat is leeg. Dus waar haal je dan je context vandaan? Ja, je datasets die passen binnen de medische context. Waar train je dan op? Ja, dus ik denk dat er behoorlijk wat mooie datasets zijn voor Nederland. Waar we ook heel veel aan hebben gehad, dus ongeveer 500 uur aan data, is...
Dus vaak is dat onze manier om het model beter te maken. Als het dan gaat om specifieke, zeer medische termen, zeg maar, want die simuleer je minder snel in zo'n gesprek, toch, als wat jij net beschreef, zeg maar. Is er dan iemand geweest die een heel woordenboek aan medicijnnamen langsgegaan is, of hoe moet ik dat zien? Want die termologie, dat is heel erg, ja, die woorden krijg ik amper met mijn strot uit als ik het voorlees op een doosje wat ik thuis heb liggen, zeg maar.
Ja, want als je dan kijkt naar, we hebben in Europa dan Mistral, in ieder geval dat is het lab dat ik ken. De modellen die ze uitbrengen zijn ook best wel krachtig. In ieder geval ze kunnen een beetje meekomen in de benchmark, laat ik het dan zo zeggen. Maar hoe verklaar jij dat er niet tien Mistrals zijn in Europa? Ken ik die niet? Hebben die slechte websites? Wat is er aan de hand?
Denk je dat het nodig is dat er meer Mr. Oz zijn? Want je zou natuurlijk ook kunnen zeggen... oké, als wij het binnen de niches doen, lokaal... en dan bedoel ik niet niches negatief... maar gewoon een hele duidelijke afgebakende context... waarbinnen je superkrachtige modellen ontwikkelt. Letterlijk wat jullie doen, hè?
Dat we zeggen, oké, laat Mistral dan fundamentele modellen doen. We hebben in ieder geval ook fundamentele base models uit Europa. En vanuit daar kunnen we dan in allerlei contexten op een Europese manier. Dus met Europese waarden. En het moet lokaal kunnen draaien. Of in ieder geval lokaal genoeg. Want dat woord lokaal heeft ook allerlei verschillende betekenissen. Is dat genoeg? Of snap jij? Want ik heb een soort intuïtie dat ik denk. Ik zou eigenlijk liefst wel gewoon in ieder geval minimaal ook in Duitsland...
misdral willen hebben of zo. Of is dat een beetje naïef van mij? Ja.
Ja, want waar moet het geld besteed worden dan? Want je zegt eigenlijk net een beetje die hele idee van de AI Factory. Een soort van laten we gewoon grote datacenters vol met GPU's bouwen. En dan komt het talent vanzelf en ontstaan er allemaal mistral's. Ik zeg het even heel suf, maar daar ben jij dan cynisch over. En als ik het zo voorlees, denk ik dat ook. Maar waar is het dat geld dan beter besteed, denk jij? Ik denk...
Ik vind het wel interessant. Want je zegt eigenlijk. Aan het begin van je verhaal zeg je wel. Wat je aangeboden wordt. Als ontwikkelaar. Bij de grotere Amerikaanse labs. Om het verhaal even simpel te houden. Is gunstiger dan wat je aangeboden wordt. Bij een Europees lab. Daardoor ontstaat daar een groep mensen. Wat gewoon de allerslimste mensen zijn. Op dat gebied. En dan heb je een soort. Een soort netwerkeffect ofzo. Wat eigenlijk daar ontstaat. Ik wil daar.
Zelfs als het me niet om het geld gaat wil ik er toch werken. Dus je zou kunnen zeggen dat er zijn zeer zeker wel ontwikkelaars gevoelig voor het geld. Anders gaan ze niet. Maar je hebt dan nog een hele andere groep ontwikkelaars, onderzoekers eigenlijk en ontwikkelaars. Die meekomen omdat ze zeggen ja ik ben gewoon mega nieuwsgierig. Ik wil gewoon voetballen met Ronaldo en Messi.
Dus ja, het gaat me niet eens om de miljoenen... die ik bij die clubs krijg. Ik wil gewoon leren van de beste. En die twee eigenlijk... dus een deel is gevoelig voor het geld... en een deel komt mee omdat het talent daar is. Die zijn heel moeilijk...