AI-chatbots zijn voor miljoenen mensen een steeds belangrijkere bron van informatie. Tegelijkertijd is er nog weinig inzicht in hoe deze systemen in de praktijk functioneren. In tegenstelling tot sociale-mediaplatforms worden AI-chatbots nog nauwelijks systematisch onderzocht. Belangrijke onderdelen, zoals invoerfilters, personalisatie en aanpassingen aan de antwoorden die gebruikers te zien krijgen, blijven bij bestaande onderzoeksmethoden vaak buiten beeld. Daardoor ontbreekt goed inzicht in de manier waarop deze systemen (politieke) opvattingen beïnvloeden, desinformatie verspreiden en veiligheidsrisico’s kunnen veroorzaken.
AI Forensics ontwikkelt een onderzoeksinfrastructuur waarmee AI-chatbots op grote schaal kunnen worden onderzocht. Door het gedrag van echte gebruikers na te bootsen op verschillende platforms, in meerdere talen en vanuit verschillende Europese landen, onderzoekt de organisatie onder meer de veiligheid van chatbots, mogelijke politieke vooringenomenheid en de naleving van Europese regelgeving. De resultaten leveren bewijs op dat toezichthouders kan ondersteunen bij de handhaving van de Digital Services Act en de AI Act.
