Alexander Klöpping

de conferentie willen spammen... met duizenden... AI-geschreven papers. We hebben het vaker over... AGI in deze podcast. Dit is een van die momenten... waarvan jij zegt... we gaan de komende tijd... gaan we...

En elementen zien waardoor we erachter komen dat dingen die we nu nog niet voor mogelijk houden met computers, dat die eigenlijk op hele grote snelheid langzaam aan, al die klaphekjes zijn aan het vallen naar elkaar. En daar hoort dit dus bij, zo'n paper die geschreven is door AI en die door peer review heen komt.

Over het idee dat... natuurlijk kan AI AI verbeteren. Terwijl je het ook net nog even zei... we dachten dat het honderd jaar weg was. Ik bedoel, Alexander en ik worden ervan beticht... op de positieve zin dat we... een rare AI-bubbel... maar jij doet nu naar ons alsof wij... Maar laat me daar een vraag van maken. Hoe denk je dat wij... in de maatschappij... onderschatten over... dit element specifiek? Computers die computers beter maken...

Hoe zou je beschrijven waar dat nu staat, dat veld?

En gaat al dat onderzoek allemaal over het verbeteren van AI zelf? Of wat is de verhouding van waar deze computertijd eigenlijk opgaat bij die AI bedrijven die hun eigen AI's aan het verbeteren zijn? Of in hoeverre doen ze dit ook voor andere delen van de wetenschap?

Wat vind je het coolste voorbeeld wat je in dit voorbeeld hebt gehoord van waar mensen aan werken of wat al in de praktijk gebruikt wordt?

Ja, dit leidt natuurlijk allemaal naar een concept wat veel genoemd wordt en waar wij in deze podcast ook veel over praten, namelijk AGI, maar waarvoor iedereen een andere definitie heeft. Wat is jouw eigen definitie van Artificial General Intelligence? Mijn eigen definitie is, de theoretische definitie, is een AI die alle cognitieve taken kan uitvoeren die mensen kunnen.

Ik denk dat het zowel intuïtief als als je er op bepaalde manieren, bepaalde frameworks over nadenkt, dat het lastig is om te beseffen dat dingen echt anders gaan worden. Deze discussie focust zich nu op de arbeidsmarkt, de impact van AGI op de arbeidsmarkt. Die grote AI-labs zeggen allemaal dat er juist meer werk gaat komen door AI. Geloof je dat dan niet?

zodra de patiënt weg is, dat AI zegt, oké, ik heb het gesprek gehoord en dit is het ziektebeeld, dit is wat je moet doen, ik heb alles al ingepland, dan heb je wat mij betreft alsnog AGI. Dus dan heb je een soort, want dat is het beeld wat je eigenlijk schetst, er zijn wel mensen aan het werk over, nou ja, technisch gebeurt het dan over vier jaar, dan zal er nog wat tijd overheen gaan voordat het overal doorgevoerd is en al die soort van efficiëntiewinst of zo die overal te halen is, dat dat ook daadwerkelijk in de praktijk wordt toegepast, maar waarschijnlijk

snel, als ik jou goed begrijp... want er is allerlei competitieve druk... dan heb je mensen... die nog over zijn in de arbeidsmarkt... omdat wij als mensen dat eisen... dus bijvoorbeeld... dat je alsnog met een dokter praat... en dat je dat wil in plaats van... te videobellen met een dokter...

Dat zijn de redenen waarom er nog werk is voor mensen. Dus er is niks fundamenteels aan wat die mensen kunnen, mensen die met hun hoofd of met hun remote werk zouden kunnen doen. Er is niks fundamenteels daaraan wat nog nodig zou zijn over vijf jaar, als ik dat goed begrijp.

Nu kan het natuurlijk zijn dat het opeens afvlakt omdat O4 en O5 en O6 minder goed werken of reasoning niet goed werkt of er een ander probleem is, maar ik denk het niet. Maar als ik het goed begrijp, want dan is het alleen nog maar verifiëren wat je zegt, je pakt reasoning modellen zoals ze nu zijn en het is puur het element van meer computerkracht er tegenaan werpen wat de weg is naar AGI, begrijp ik je goed?

Beseft je al deze dingen? Dat doe je niet in een vacuum. Je hebt heel veel mensen om je heen met mensen die jouw ideeën toetsen. En dat zijn niet de domste mensen die op de planeet rondlopen. Dan ontstaat er dus een beeld van hoe deze planeet gaat zijn om op te leven over vijf jaar. Laat het zeven jaar zijn en wees eens heel conservatief.

En wat zou je dan van de daken willen schreeuwen als je Nederlanders, het is niet een random land, want je hebt een binding met Nederland. Wat zou je tegen van de daken willen schreeuwen als het hier om gaat? Ja, dus ik denk dat in Nederland, aan de ene kant staan we er niet super slecht.

Ja, ik ben er een beetje stil van. Ik ook. Dat gebeurt niet zo vaak. Laten we nog iets preciezer maken wat jij verwacht van impact. Als je dus AGI als klaphek neemt en jij zegt dat binnen drie, vier jaar, daar kun je over verschillen van mening, maar jij denkt dat die kans 90% is, als ik je goed begrijp.

Ja, 80, 90 procent. Nou oké, daar doe ik het voor. Wat zijn dan de, zeg maar, als je het hebt over bijvoorbeeld, zeg maar, wat zijn alle, want jij houdt je bezig met veiligheid, wat zijn dan alle scenario's die door jou, ik wil het woord doemscenario's eigenlijk vermijden, maar...

Je ontkomt er niet aan als je het hebt over AI veiligheid. Wat zijn de negatieve scenario's waar we de komende jaren het hardst aan moeten werken om die te voorkomen? Zowel op het niveau van Nederland als op wereldschaal. Ja, dus ik denk de meest obvious is misbruik. Dus als jij een AGI is een superhuman of een ASI.

makkelijker te maken. En zijn er dan dingen waar Nederland... iets zou moeten doen op dit vlak? Op het gebruik van misbruik en veiligheid...

Ja, meedoen, anders krijg je onze machines niet meer. Ja, ik zit te denken in termen van leverage, ook omdat ik denk over onze economie en de soort van, ja, de impact die jij beschrijft, als ik het heel erg plat sla, is dat over vijf jaar eigenlijk al het kenniswerk niet meer gedaan hoeft te worden door een mens. Dat een bedrijf wel gek zou zijn om dan vervolgens alsnog die mens daarvoor te betalen, want tokens zijn een stuk goedkoper dan die mensen aan het werk te zetten.

Wat voor nieuwsbeelden heb je op je netvlies...