Ich habe mich reichlich über tausend Sachen in letzter Zeit aufgeregt, Faschismus, Tech-Bros, Menschen die chatGPT nutzen, andere Eltern, aber heute hat#s mit dann doch aus den Socken gehauen, weil dieser Fall zeigt, was uns die neue schöne Welt bringen wird.

Jennifer Kamrass wurde in der Schwangerschaft gekündigt, im 9. Monat. Würde hier nicht gehen, aber USA und Frauenrechte bzw. Angestelltenrechte sind eh ein Sonderthema. Der richterliche Beschluß zu diesem Fall ist sogar online, das Ganze ist ein bisschen komplexer, aber nun denn. Kamrass nutzte die erfolgreichste, an der Börse gelistete Therapie-App namens TALKSPACE, die von ihrer Versicherung kostenlos angeboten wird, analog irgendwelchen Apps hier in Deutschland, die von den gesetzlichen Krankenkassen angeboten werden.
So weit, so harmlos, die App dient dem Zusammenbringen von Therapeut*innen und Patient*innen, und das bereits ab 13, also auch für Teenager.

Im Falle Kamrass wurde von ihr Klage wegen der Kündigung aufgrund ihrer Schwangerschaft eingereicht. Vor Gericht gab es ein Hin und Her wegen ökonomischer Abwägungen des Arbeitgebers und anderen Angestellten, die schon länger da waren, alles ganz normal. Allerdings nutzten die Anwälte des Beklagten Chat-Daten, die in dieser App aufgezeichnet wurden. Und zwar ging es speziell um Chat-Nachrichten zwischen ihr und der Therapeutin. Diese fallen scheinbar aus dem Datenschutz raus, in Europa kann man die Vorratsdatenspeicherung noch ablehnen, auch dieses Recht wird gerade staatlich erodiert.
Die Chat Nachrichten wurden aufgezeichnet. Grundsätzlich werden in solchen Apps künstliche Chatbots anhand der Nutzerdaten trainiert, um solche Gespräche ebenfalls führen zu können und therapeutische Gespräche zu ersetzen. Keine Menschen mehr bezahlen, nur noch ein Datacenter!

Ja, aber es gibt Datenschutz! Zumal medizinische Daten und speziell Therapie unter besonderen Schutz fällt! Allerdings wirbt das Unternehmen mit exakt diesen Aufzeichnungen zwecks Weiterentwicklung einer “KI”. Diese Daten von außen zu “bekommen”, entschlüsseln, aggregieren, nutzen, und zuordnen ist nicht erlaubt, aber technisch möglich.

Unabhängig von diesem speziellen Fall, wo es andere Rechtsbereiche geht, zeigt dieser Fall etwas, was gerne unter dem Tisch fallen gelassen wird:
Aggregierte Daten eines Nutzers können und werden gegen diesen Nutzer vervendet werden.
Die Legislatur schützt uns nicht nur nicht, die Legislatur ist überfordert und mittlerweile auch nicht mehr neutral der Technologie gegenüber.

TALKSPACE hat des weiteren Daten von Teenagern mit Plattformen von META und ALPHABET geteilt sowie Amazon und Microsoft.
Auf einer Investorenkonferenz gab der CEO Jon Cohen an: “the platform had compiled 8 billion words, 140 million messages, 6.2 million assessments.” Die Entwicklung von Chtabots solle natürlich keine Therapeuten ersetzen, sondern ihren Einflussbereich/Reichweite ausdehnen. Hm…

Therapeuten fürchten nicht nur um ihr Brot, sondern auch um Patienten, denn es gibt bereits bekannte Selbstmordfälle, wo “KI” mitgewirkt hat. Und ganz sicher viele, von denen wir nichts wissen.

Umso brisanter ist die Kürzung der Gelder für Psychotherapueten hier in Deutschland, denn so werden sich viele technischen Lösungen , die scheinbar kostnelos doer kostengünstig sind, zuwenden. Diese Möglichkeiten zu nutzen bedeutet weitere Daten zu einer Person zu aggregieren, womit der gläserne Bürger bereits Realität wird, sondern auch verwertbar bzw. bewertbar.

Wir nähren uns also dem bereits bekannten Begriff des “unwerten Lebens”, was man heute sicherlich anders bezeichnen wird, diesmal jedoch angeblich objektiv quantifiziert wird.

Weil ich nichts mehr als Verschwörungstheorien liebe, kommt in diesen Beitrag der massive Rückbau von Behindertenrechten – sollen alle ins Heim, keine Betreuung mehr; der massive Rückbau von Arbeitnehmerrechten wie Arbeitszeit und Kündigungsschutz, die Kürzung der Krankenversicherungsleistungen sowie Erhöhung der Beiträge durch die Hintertür, und das alles gestützt von Software, die Palantir baut (ja, das ist jetzt ein bisschen übertrieben, Deutschland ist digital noch nicht soweit).

Zusammenfassung:

Nutzt keine künstliche Intelligenz für Therapie oder als Ersatz und Ergänzung zwischenmenschlicher Kommunikation. Okay für die Mathe-Hausaufgabe der 7. Klasse, nicht okay um die Nachricht der Freundin zu “entschlüsseln”.

Seid Euch immer gewahr, dass jede Sprachnachricht und jedes Bild, das ihr auf einem digitalen gerät habt, quasi öffentlich ist.

Die ganzen kostenlosen Apps, die Instagram Trends die eure alten Bilder haben will, das Handy: Das sind Werkzeuge, die zum Guten, aber eben auch zum Schlechten genutzt werden können.

Ironie, das im Internet zu lesen…