Um Straftaten und Missbrauch zu verhindern, können Chatnachrichten, Bilder und Profilinhalte automatisiert und durch berechtigte Mitarbeitende kontrolliert werden. Das betrifft insbesondere Hinweise auf Minderjährige, Zwang, Nötigung, Erpressung, Betrug, Menschenhandel, Gewaltdarstellungen und andere illegale Inhalte.
Eine Kontrolle erfolgt anlassbezogen, etwa bei Meldungen oder automatischen Treffern, und stichprobenartig zur Qualitätssicherung. Bei konkreten Hinweisen auf Straftaten können Inhalte gesichert, Konten gesperrt und Daten an Strafverfolgungsbehörden weitergegeben werden, soweit wir dazu berechtigt oder verpflichtet sind. Rechtsgrundlagen sind Art. 6 Abs. 1 Buchst. f DSGVO (Schutz der Plattform und ihrer Nutzer), Art. 6 Abs. 1 Buchst. c DSGVO (gesetzliche Pflichten) und, soweit erforderlich, Art. 9 Abs. 2 DSGVO. Chats sind nicht Ende-zu-Ende-verschlüsselt.