Tim Pritlove

Ja, eigentlich Betriebssysteme.

Die haben so viele Funktionen, Sprachen, die sie interpretieren müssen, dass es jetzt nicht überraschend ist, dass du dort derartige Fehler findest.

Nur, dass sie dann auch noch ausnutzen kannst.

Was du sehr häufig oder was du recht einfach findest, ist, dass du sagst, pass mal auf, hier wird

Speicher schlecht verwaltet.

Oder hier wird unvorsichtig irgendwo hingeschrieben und nicht sauber sichergestellt, dass man genug Speicher reserviert hat.

Wenn du eine solche Stelle im Code findest, heißt es noch lange nicht, dass du auch ein Pfad

unter Realwertbedingungen durch den Code findest, um an einen Zustand zu kommen, dass du mit deinem Wert, der da nicht hingehört, an diese Stelle kommst, dass du hier tatsächlich eine Speicherverletzung begehen kannst.

Das ist dieser andere Teil, den du gerade nanntest, das ist das Ding nämlich im Vergleich zu Opus.

Opus hat in 1% der Fälle gesagt, hier pass auf, so kannst du das musst du mit dem Programm machen,

damit du diesen Fehler in der Speicherverwaltung auch tatsächlich ausnutzen kannst.

Hier sind die 180 Bedingungen und Edge Cases und so weiter, damit du hier, da und noch dazu erfolgreich das Programm dann in seiner Integrität manipulierst.

Das ist die andere Kunst.

Die ist ...

Also wenn du erstmal die Schwachstelle hast, ist es natürlich ungleich einfacher, dich da hinzuhangeln, insbesondere für ein LLM.

Aber es zeugt eben bei, wenn die Schwachstelle oder dieser Fehler in der Speicherverwaltung so komplex ist, dass er niemandem erstmal aufgefallen ist, dann ist im Zweifelsfall auch der Weg, ihn zu triggern, sehr kompliziert und erfordert ein sehr hohes Verständnis des Codes.

Da kommt das, was du gerade meintest, in der Security gehst du dann gerne hin und klopfst einfach drauf,

Wir nennen es Fuzzing.

Dass du nämlich Teile des Codes nimmst und mit also den ganzen Code oder Teile des Codes mit invalidem Input

bombardierst, einfach nur zu gucken, ob es irgendwann crasht, ob es irgendwann in einen Zustand kommt, den du nicht haben willst oder der nicht definiert ist oder nicht wünschenswert wäre.