Linus Neumann

Also, du hast, ähm,

Wenn du in dieser Menge Daten und Kommunikation überwachst und das in diesem Fall dann auch automatisiert, hast du auch bei sehr geringen Fehlerquoten immer noch eine horrende Menge an False Positives.

Ein Fall, den wir hier vor einiger Zeit behandelt hatten, war ein Mann, der auf

Aufforderung eines Arztes an Selbing ein Bild von seinem Kind geschickt hatte, das eine Verletzung am Unterleib hatte.

Und daraufhin ging der Filter an und der Mann wurde lebenslang von Google gebannt.

Google-Verbot.

Mit der Chat-Kontrolle, die als Gesetzesvorschlag ja vorangetrieben wird, wäre nicht nur die Konsequenz, dass Google die sperrt oder was auch immer macht, sondern auch noch eine automatisierte Meldung an Polizeibehörden ergehen soll.

Und das Ganze auch.

bei verschlüsselten Messengers passieren soll.

Und damit hättest du eine Situation, wo du mit deinem verschlüsselten Messenger irgendwie kommunizierst und ein Scan dieser verschlüsselten Inhalte mittels einer KI stattfindet vor beziehungsweise nach der Verschlüsselung.

Also hast du eine KI-Überwachung deiner Kommunikationsinhalte mit automatisierter Ausleitung an die Polizei.

Und das ist nun wirklich eine

Eine sehr schlechte Idee.

Vor allem, wenn man das technisch zu Ende denkt, kannst du dann sagen, äh.

den Messenger, da könntest du es ja auch immer noch rauspatchen.

Also angenommen, mir würde jetzt, also nehmen wir Signal als Beispiel, einer der verbreiteteren verschlüsselten Messenger.

Angenommen, Signal würde gezwungen, das zu tun, irgendeine KI-Überwachung da einzubauen.

Wobei, wenn ich mir den Vortrag von Udbuff und Meredith beim Kongress anschaue, würde ich vermuten, die würden sich da wahrscheinlich nicht zuzwingen lassen.

Angenommen, sie würden es und angenommen, sie täten es,

Dann könntest du es ja wieder rauspatchen.