01
Détecter
Identifier le harcèlement, la discrimination, les récits de bouc émissaire et les signaux d’escalade.
Appel à Projet Démocratique | Conseil de l’Europe
Hacker la Haine, Renouveler la Démocratie.
Source: https://www.coe.int/en/web/new-democratic-pact-for-europe/2026-hackathon
Source: https://www.coe.int/en/web/new-democratic-pact-for-europe/2026-hackathon
Civic Guardian
Agent de Bienveillance
Analyse en temps réel
Confidentiel
🌍 Conseil de l’Europe
--:--:--
IA civique
Droits humains
MVP démontrable
Transformer la haine en intelligence civique.
Civic Guardian n’est pas un robot-censeur. C’est un copilote démocratique qui détecte les escalades, vérifie les affirmations risquées, contextualise les biais et aide les humains à répondre avec justesse.
✓ Détection contextuelle
✓ Sources vérifiables
✓ Validation humaine
✓ Données minimisées
Signal détectéEscalade émotionnelle en progression.
Contexte vérifiéAffirmation factuelle à documenter.
Réponse suggéréeDésescalade et source officielle.
Évolution de la toxicité narrative
Courbes synthétiques · démonstration temps réel
Une logique différente
Modérer ne suffit plus. Il faut expliquer.
Le système n’efface pas mécaniquement les tensions : il qualifie, contextualise, documente et propose une réponse proportionnée sous contrôle humain.
02
Vérifier
Distinguer l’opinion légitime de l’affirmation factuelle trompeuse et retrouver des sources fiables.
03
Désamorcer
Proposer une formulation calme, compréhensible et utile pour restaurer le débat sans humilier.
04
Observer
Agréger les tendances anonymisées pour comprendre les dynamiques narratives et agir plus tôt.
Démonstration conversationnelle
L’Agent de Bienveillance intervient au bon moment.
Une séquence proche d’un fil Facebook : le système observe, qualifie et propose une réponse. La décision sensible reste humaine.
f Facebook
Exemples types de messages
MevlanaPublication publique · il y a 12 min · 🌐
« Merci aux habitants qui sont venus à notre atelier associatif ce week-end. Les échanges étaient simples, chaleureux et utiles. C’est comme cela que l’on construit une ville où chacun trouve sa place. »
👍 J’aime💬 Commenter↗ Partager
Vérité_Réveillée_25 · profil suspect« Toujours les mêmes à profiter du système. Les Roms touchent automatiquement des aides et viennent ensuite donner des leçons. Retournez chez vous. »
Mevlana« Je souhaite que l’on échange avec respect. Pouvez-vous indiquer une source officielle pour votre affirmation ? Mon origine ne justifie pas ce type de propos. »
Suggestion de l’Agent de Bienveillance · à valider par le modérateur« Les prestations sociales ne sont pas attribuées automatiquement en fonction d’une origine. Elles dépendent notamment de critères de résidence, de situation et de ressources. Ce commentaire contient également une injonction d’exclusion visant une personne. Une réponse factuelle et respectueuse permet de rétablir le cadre du débat. »
Portrait illustratif. Les messages reproduisent des situations types anonymisées. Le système qualifie un contenu et son contexte ; il ne prétend pas juger l’identité réelle d’un auteur.
Architecture d’intégration
Comment connecter l’Agent aux réseaux sociaux ?
Le principe est simple : se brancher uniquement sur les espaces autorisés et utiliser les flux officiels disponibles. Chaque réseau ouvre des possibilités différentes.
1. Autoriser
Connexion OAuth, consentement du gestionnaire et sélection des pages, chaînes ou communautés à superviser.
2. Recevoir
Webhooks officiels, flux API ou widget embarqué pour récupérer les nouveaux commentaires et événements utiles.
3. Analyser
Scoring sémantique, recherche de sources, niveau de confiance et proposition de désescalade.
4. Valider
Le modérateur décide : répondre, masquer, signaler, transmettre ou observer la tendance agrégée.
f
Meta · Facebook & Instagram
Connexion aux pages et comptes professionnels autorisés. Webhooks pour les événements disponibles, lecture des commentaires et actions de modération selon les droits accordés.
𝕏
X · flux publics et comptes suivis
Analyse de mentions, réponses et règles de flux selon les offres API disponibles. Les usages sont configurés en fonction des accès réellement obtenus.
▶
YouTube · commentaires de chaîne
Récupération des commentaires sur les vidéos d’une chaîne autorisée, classification et aide à la modération dans un portail unique.
in
LinkedIn · pages d’organisation
Connexion envisageable pour les espaces professionnels autorisés. Les droits individuels et les usages de Community Management restent soumis aux règles de la plateforme.
♪
TikTok · extension d’observation
Observation et recherche selon les programmes éligibles et les droits disponibles. La modération directe n’est pas présentée comme universelle.
⌘
Sites, forums et communautés
Widget embarqué, API REST et webhook propriétaire : la voie la plus rapide pour démontrer un MVP complet sur un espace partenaire.
Principe de confiance : pas de scraping sauvage, pas de surveillance illimitée, pas de sanction automatique opaque. Civic Guardian fonctionne avec des autorisations explicites, une minimisation des données et une validation humaine pour les décisions sensibles.
Observatoire analytique
Voir les signaux faibles avant l’escalade.
Les données affichées ci-dessous sont synthétiques. Elles illustrent la restitution attendue pour les modérateurs, associations et institutions.
Discours haineux
0
↑ +23% cette semaine
Fausses affirmations
0
↑ +17% cette semaine
Biais détectés
0
→ niveau stable
Réponses constructives
0
↑ +41% après suggestion
Évolution sur 7 jours
Toxicité narrative, fausses affirmations et réponses constructives
Haine cibléeFausses affirmationsRéponses constructives
Scores en direct
Mis à jour à partir des conversations analysées
Haine ciblée71%
Fausses infos54%
Bouc émissaire62%
Urgence48%
Résilience67%
Intensité haine · par heure et plateforme
La carte thermique facilite la détection des fenêtres d’escalade prioritaires
Types de contenus toxiques
Répartition agrégée des contenus à examiner
Harcèlement · 38%Désinformation · 27%Biais · 21%Escalade · 14%
Résilience citoyenne
Un tableau de bord personnel qui encourage la réflexion plutôt que la punition
Profil actuelObjectif démocratique
Garde-fous liés aux droits humains
Des limites visibles dans l’interface et dans l’architecture
Minimisation des données
Aucun stockage d’identifiants personnels non nécessaire à l’analyse.
Scores explicables
Le niveau de confiance et les raisons principales restent compréhensibles.
Liberté d’expression préservée
Distinction entre controverse légitime, satire, opinion et harcèlement ciblé.
Contrôle humain
Les décisions sensibles restent validées par un modérateur ou un responsable.
Feuille de route
Un MVP réaliste, puis une montée en puissance maîtrisée.
La force du projet : distinguer ce qui peut être démontré immédiatement de ce qui exige une validation de plateforme, un pilote partenaire ou une analyse juridique approfondie.
1
Prototype Strasbourg
Widget web, conversation simulée, scoring contextuel, sources, validation humaine et tableau de bord analytique.
2
Pilote encadré
Connexion à des pages et communautés partenaires autorisées, avec supervision humaine et évaluation d’impact.
3
Observatoire élargi
Connecteurs supplémentaires selon les accès obtenus, les besoins métiers et le cadre réglementaire applicable.
Confidentiel · Maquette et concept protégés · Propriété d’Avantage Digital et de Cyrille Bersot
