KI in Deutschland: So steht es um unsere Rechte und Daten
KI wird zunehmend kommerzialisiert – mit Folgen für Verbraucherinnen und Verbraucher: Wer Zugang zu den besten Funktionen will, muss zahlen. CORRECTIV hat bei Behörden und Verbraucherschützern nachgefragt, wer Menschen in Deutschland vor hohen Kosten, fehlender Transparenz und digitaler Ausgrenzung schützt. Die Antworten zeigen: Der Aufbau einer wirksamen staatlichen Aufsicht steckt noch in den Anfängen.
Immer mehr Menschen in Deutschland nutzen Künstliche Intelligenz (KI) im Alltag – sei es beim Schreiben, Recherchieren oder Organisieren. Besonders beliebt: ChatGPT. Wer die leistungsstarken Funktionen des Programms nutzen will, zahlt: Für die „Plus“-Variante beispielsweise rund 20 US-Dollar (22 Euro) im Monat, um etwa schnellere Antwortzeiten und PDF- und Dateiverarbeitung zu bekommen sowie die Funktion, mit der KI wie mit einem echten Menschen sprechen zu können.
Aus der frei zugänglichen Technologie wird so zunehmend ein milliardenschweres Geschäftsmodell, von dem OpenAI und Microsoft profitieren. Die beiden US-Unternehmen, bislang enge Partner, stellen ihre Zusammenarbeit gerade neu auf. Das Ziel: Aus der KI von OpenAI noch stärker Profit schlagen. Auch ein möglicher Börsengang steht im Raum.
Der Tech-Konzern Microsoft hat bis Ende 2024 rund 14 Milliarden US-Dollar in OpenAI investiert – und die KI-Technologien tief in eigene Produkte eingebaut. Das zentrale Produkt hierfür ist „Microsoft 365 Copilot“, es unterstützt in Programmen wie Word, Excel, Powerpoint, Outlook und Teams.
Dabei nicht zu vergessen: Die Grundlage für diese Systeme liefern letztlich die Nutzenden selbst. Ihre Daten, Eingaben und Interaktionen fließen in das Training der Modelle ein. Ohne sie gäbe es die Technologien in ihrer heutigen Form nicht.
Deshalb haben wir bei CORRECTIV genauer hingeschaut: Was heißt die Kommerzialisierung für Verbraucher in Deutschland? Wer schützt sie hierzulande eigentlich vor steigenden Kosten, fehlender Transparenz oder einer möglichen digitalen Ausgrenzung? Und wie steht es um den Datenschutz? Wir haben bei der Bundesnetzagentur, dem Verbraucherzentrale-Bundesverband und direkt bei OpenAI nachgefragt.
Könnte KI zur Klassenfrage werden?
Wenn KI-Dienste zunehmend kommerzialisiert werden, könnten leistungsfähige Versionen für Menschen mit geringem Einkommen schwerer zugänglich werden – etwa für Schülerinnen und Schüler, Rentnerinnen oder Beschäftigte mit niedrigem Lohn. OpenAI teilt CORRECTIV auf Anfrage mit – durch eine „automatisiert unterstützte, aber von Menschen geprüfte“ Antwort –, dass man auch künftig eine kostenlose Version von ChatGPT anbieten wolle.
Auf die konkrete Frage, ob sozial schwache Gruppen künftig vom Zugang ausgeschlossen sein könnten, antwortet das Unternehmen vage, OpenAI setze sich dafür ein, KI-Tools „möglichst vielen Menschen“ zugänglich zu machen.
Noch viele offene Baustellen in Deutschland
„Möglichst viele Menschen“ nutzen generative KI auch in Deutschland: Laut einer Statista-Umfrage von November 2024 verwenden rund 60 Prozent der Deutschen generative KI mindestens ein- bis mehrmals im Monat, sechs Prozent sogar täglich. Dies umfasst Tools wie ChatGPT oder Google Gemini.
Doch fehlen hierzulande bisher zentrale Aufsichtsstrukturen für den Umgang mit KI. Dafür wurde im August 2024 die europäische KI-Verordnung ins Leben gerufen, „AI Act“ genannt. Im Zuge dessen muss Deutschland bis spätestens August 2025 eine zentrale KI-Aufsichtsstruktur einrichten.
Die Bundesnetzagentur bereite sich dafür schon auf neue Rollen vor, berichtet eine Sprecherin. Am 4. April 2025 habe die Agentur den entsprechenden Organisationserlass vom Bundesministerium für Wirtschaft und Klimaschutz erhalten, bestätigt die Sprecherin der Behörde gegenüber CORRECTIV.
Wer jetzt nachrechnet, sieht, dass der Bundesregierung hierfür aber nur rund vier Monate bleiben. Innerhalb dieser Zeit sollen zentrale Aufgaben umgesetzt werden: wie der Aufbau eines „Reallabors“, die Einrichtung einer Beschwerdestelle und die Überwachung der KI-Vorschriften. Das ist – wie auch eine Sprecherin vom Verbraucherzentrale-Bundesverband (VZBV) folgert – „zeitlich knapp“.
Die Rechtslage rund um KI ist in Deutschland noch nicht geklärt
Auf Nachfrage beim VZBV wird auch klar, dass beispielsweise das „Recht auf Erläuterung“ noch nicht final geklärt ist. Eine Sprecherin ordnet ein: Laut KI-Verordnung sollen Menschen künftig das Recht haben, nachvollziehbar erklärt zu bekommen, wie und warum eine wichtige Entscheidung – etwa bei einer Kreditvergabe oder Bewerbung – durch eine KI getroffen wurde. Damit dieses Recht nicht nur auf dem Papier steht, braucht es laut Verbraucherschützer zusätzlich klare Hilfestellung durch eine zentrale Aufsichtsbehörde – doch deren Aufbau ist noch in Arbeit.
Die Formulierungen im Gesetz seien jedenfalls „schwammig“, sagt uns eine Verbandssprecherin. Somit sei unklar, ob Verbraucher wirklich Informationen bekommen, die sie benötigen, um sich gegen Diskriminierung und andere ungerechtfertigte Behandlungen zu wehren und zu ihrem Recht zu kommen, etwa vor Gericht.
CORRECTIV wird die Entwicklungen rund um KI-Kommerzialisierung, Verbraucherrechte und staatliche Aufsicht weiter kritisch begleiten – und prüfen, ob der Schutz der Nutzerinnen und Nutzer mit dem Tempo der Technologie Schritt hält.
