Commissie onderzoekt aanbevelingssystemen van Grok en X in het kader van de wet inzake digitale diensten

De Europese Commissie heeft een nieuw formeel onderzoek ingesteld tegen X in het kader van de wet inzake digitale diensten (DSA). Tegelijkertijd heeft de Commissie haar in december 2023 gestarte lopende onderzoek naar de naleving door X van haar verplichtingen inzake risicobeheer van aanbevelingssystemen uitgebreid.

In het nieuwe onderzoek zal worden beoordeeld of de onderneming de risico's in verband met de uitrol van de functies van Grok in X in de EU naar behoren heeft beoordeeld en beperkt. Dit omvat risico's in verband met de verspreiding van illegale inhoud in de EU, zoals gemanipuleerde seksueel expliciete afbeeldingen, met inbegrip van inhoud die kan neerkomen op materiaal van seksueel misbruik van kinderen.

Deze risico's lijken zich te hebben voorgedaan, waardoor burgers in de EU aan ernstige schade worden blootgesteld. In het licht hiervan zal de Commissie verder onderzoeken of X voldoet aan haar verplichtingen in het kader van de digitaledienstenverordening om:

• Systemische risico's, waaronder de verspreiding van illegale inhoud, negatieve effecten in verband met gendergerelateerd geweld en ernstige negatieve gevolgen voor het fysieke en mentale welzijn als gevolg van de inzet van de functies van Grok op zijn platform, zorgvuldig beoordelen en beperken.
• Een ad-hocrisicobeoordelingsverslag voor de functies van Grok in de X-dienst uitvoeren en aan de Commissie toezenden met een kritische impact op het risicoprofiel van X vóór de uitrol ervan.

Los daarvan heeft de Commissie haar lopende formele procedures tegen X in december 2023 verlengd om vast te stellen of X alle systeemrisico's, zoals gedefinieerd in de digitaledienstenverordening, in verband met zijn aanbevelingssystemen naar behoren heeft beoordeeld en beperkt, met inbegrip van de gevolgen van de onlangs aangekondigde overstap naar een op Grok gebaseerd aanbevelingssysteem.

Indien bewezen, zouden deze tekortkomingen inbreuken vormen op artikel 34, leden 1 en 2, artikel 35, lid 1, en artikel 42, lid 2, van de digitaledienstenverordening. De Commissie zal nu met voorrang een diepgaand onderzoek instellen. De inleiding van een formele procedure loopt niet vooruit op de uitkomst ervan.

Bij de voorbereiding van dit onderzoek heeft de Commissie nauw samengewerkt met Coimisiún na Meán, de Ierse coördinator voor digitale diensten. Voorts zal Coimisiún na Meán overeenkomstig artikel 66, lid 3, bij dit onderzoek worden betrokken als nationale coördinator voor digitale diensten in het land van vestiging in de EU.

Volgende stappen

De Commissie zal bewijsmateriaal blijven verzamelen, bijvoorbeeld door aanvullende verzoeken om informatie te sturen, interviews of inspecties uit te voeren, en kan voorlopige maatregelen opleggen indien er geen zinvolle aanpassingen aan de X-dienst worden aangebracht.

De inleiding van formele procedures geeft de Commissie de bevoegdheid om verdere handhavingsmaatregelen te nemen, zoals de vaststelling van een besluit tot niet-naleving. De Commissie is ook bevoegd elke toezegging van X om de aan de procedure onderworpen kwesties te verhelpen, te aanvaarden.

De opening van formele procedures ontslaat coördinatoren voor digitale diensten of andere bevoegde autoriteiten van EU-lidstaten van hun bevoegdheden om toezicht te houden op de digitaledienstenverordening en deze te handhaven met betrekking tot de vermoedelijke inbreuken.

Achtergrond

Grok is een tool voor kunstmatige intelligentie (“AI”) die is ontwikkeld door de aanbieder van X. Sinds 2024 heeft X Grok op verschillende manieren in zijn platform ingezet. Deze implementaties stellen gebruikers bijvoorbeeld in staat tekst en afbeeldingen te genereren en contextuele informatie te verstrekken aan berichten van gebruikers.

Als aangewezen zeer groot onlineplatform in het kader van de digitaledienstenverordening heeft X de verplichtingen om potentiële systeemrisico's in verband met zijn diensten in de EU te beoordelen en te beperken. Deze risico's omvatten de verspreiding van illegale inhoud en mogelijke bedreigingen voor de grondrechten, met inbegrip van minderjarigen, als gevolg van het platform en de functies ervan.

Dit onderzoek vormt een aanvulling op en uitbreiding van het op 18 december 2023 gestarte onderzoek, dat gericht is op de werking van het kennisgevings- en actiemechanisme van X, de risicobeperkende maatregelen tegen illegale inhoud, zoals terroristisch materiaal, in de EU en de risico's in verband met zijn aanbevelingssystemen.

Deze procedures hadden ook betrekking op het gebruik van bedrieglijk ontwerp, het gebrek aan transparantie in de reclame en onvoldoende toegang tot gegevens voor onderzoekers, waarvoor de Commissie op 5 december 2025 een niet-nalevingsbesluit heeft vastgesteld, waarbij X 120 miljoen EUR werd beboet. Op 19 september heeft de Commissie X een verzoek om informatie over Grok gestuurd, met inbegrip van vragen over de antisemitische inhoud die @grok medio 2025 heeft gegenereerd.

Op nationaal niveau is hulp en ondersteuning beschikbaar voor personen die negatieve gevolgen hebben ondervonden van door AI gegenereerde beelden, waaronder materiaal van seksueel misbruik van kinderen of niet-consensuele intieme beelden. Op grond van de digitaledienstenverordening hebben burgers het recht om bij de coördinator voor digitale diensten van hun lidstaat een klacht in te dienen over een inbreuk op de digitaledienstenverordening.