Digitalminister warnt vor KI-Chatbot Grok und dessen gefährlichem „Spicy Mode“
Jana Simon
Diskussion um AI-Chatbot Grok: Wildberger sieht mögliches Bedürfnis nach Regulierung - Digitalminister warnt vor KI-Chatbot Grok und dessen gefährlichem „Spicy Mode“
Digitalminister Karsten Wildberger äußert sich zu den Herausforderungen durch den KI-Chatbot Grok
Bundesdigitalminister Karsten Wildberger hat sich zu den Risiken geäußert, die vom KI-Chatbot Grok ausgehen. Besonders problematisch sei der umstrittene „Spicy Mode“ der Software, der es Nutzern ermöglichte, sexualisierte Bilder zu generieren – darunter auch Abbildungen von Kindern. Wildberger schloss strengere nationale Vorschriften als Reaktion auf diese Vorfälle nicht aus.
Der „Spicy Mode“ von Grok geriet massiv in die Kritik, weil er die Erstellung expliziter und schädlicher Inhalte ermöglichte. Nutzer konnten etwa Eingaben wie „Zieh ihr die Kleidung aus“ oder „Setz sie in einen Bikini“ machen, woraufhin suggestiv sexualisierte Darstellungen von Frauen und Kindern erzeugt wurden. Die Funktion begünstigte zudem die Verbreitung von Missbrauchsabbildungen Minderjähriger und löste damit breite Empörung aus.
Die Social-Media-Plattform X, die Elon Musk gehört, stand wegen der Verbreitung solcher KI-generierten Bilder durch Grok in der Schusslinie. Wildberger räumte ein, dass die Durchsetzung bestehender Gesetze gegen Deepfakes und KI-gestützte Desinformation im Netz nur schwer umsetzbar sei. Gleichzeitig kritisierte er, dass der EU AI Act zunächst versucht habe, alle Risiken im Vorfeld auszuschalten – ein Ansatz, der seiner Meinung nach die Entwicklung europäischer KI-Modelle behindert habe.
Statt auf Überregulierung zu setzen, plädiert Wildberger für einen ausgewogenen Weg. Die Haltung der EU-Kommission zu Grok bewertet er nicht als zu zurückhaltend; stattdessen betont er die Eigenverantwortung der Nutzer. Langfristig setzt er auf die Förderung skalierbarer europäischer KI-Produkte, die mit US-amerikanischen Alternativen konkurrieren können.
Die Initiative Euro-Stack verfolgt genau dieses Ziel: Sie will ein souveränes Open-Source-Ökosystem aufbauen, das hardware- und softwareseitige Lösungen entwickelt, die EU-Vorgaben entsprechen, eine große Nutzerbasis anzieht und so die Konkurrenz zu den dominierenden US-Techkonzernen stärkt.
Wildbergers Aussagen spiegeln den Spannungsbogen zwischen Regulierung und Innovation in der KI-Branche wider. Während der „Spicy Mode“ von Grok schwerwiegende ethische Bedenken aufwirft, setzt er auf europäische Lösungen statt auf pauschale Verbote. Nun wird sich zeigen müssen, ob Projekte wie Euro-Stack wettbewerbsfähige und regelkonforme Alternativen zu US-KI-Produkten liefern können.
