Un message offensant sur WhatsApp, l’alerte que les parents n’attendaient pas

L’enfant a-t-il reçu un message offensant sur WhatsApp ? Un chatbot d’intelligence artificielle alertera désormais les parents.

Un seul message insultant adressé à son fils de 8 ans a suffi à Niso Mazuz, entrepreneur et ingénieur logiciel, pour comprendre que la protection parentale classique était devenue obsolète face aux usages numériques des enfants.

Avec Martin Sabag, cofondateur de l’association Custom Angels, il a développé Safy AI, un chatbot d’intelligence artificielle capable de surveiller l’activité WhatsApp des enfants, d’identifier les situations de boycott, les discours violents et les signaux de détresse, et d’alerter les parents en temps réel, sans exposer l’intimité des conversations.

Cyberharcèlement des enfants, une réalité chiffrée et documentée

Ces dernières années, les phénomènes de boycott social et de harcèlement numérique chez les enfants ont occupé une place centrale dans l’actualité israélienne.

Selon les données croisées du ministère de l’Éducation et de plusieurs associations de protection de l’enfance, près d’un enfant sur trois en Israël déclare avoir été exposé à une forme de cyberharcèlement avant l’âge de 12 ans.
Les études montrent également que plus de 70 % des situations de harcèlement chez les 9–12 ans se déroulent dans des espaces fermés, principalement des groupes WhatsApp, loin du regard des adultes.

Dans plusieurs affaires de suicides de mineurs ayant marqué le pays ces dernières années, les enquêtes ont mis en évidence un point commun : des échanges WhatsApp répétés, des exclusions silencieuses de groupes, des messages vocaux humiliants, souvent découverts trop tard par les parents. Les réseaux sociaux n’ont pas créé le harcèlement, mais ils l’ont rendu permanent, invisible et incessant.

Le déclic, une histoire de père avant tout

Niso Mazuz, 37 ans, est père de trois enfants. L’aîné a 8 ans, le deuxième 6, le benjamin 2. En août dernier, juste avant son entrée en CE2, son fils Sahar a reçu son premier smartphone.

« Au bout d’un moment, nous lui avons installé WhatsApp, tous ses amis ont WhatsApp. Nous avions accès à son téléphone à cet âge-là. Un jour, ma femme consultait ses conversations et a vu un message insultant qu’il avait reçu d’un camarade de classe », raconte Mazuz.

« À partir de ce moment-là, j’ai compris qu’il fallait une solution automatique. À 8 ans, c’est encore relativement simple. On peut appeler l’enfant, vérifier, intervenir. Mais plus ils grandissent, plus le volume de messages devient ingérable. Il y a les messages vocaux, les groupes, les autocollants, les exclusions. »

De l’idée au prototype, Safy AI naît en un week-end

En un week-end, Mazuz développe un projet pilote baptisé Safy AI, un chatbot basé sur l’intelligence artificielle capable d’analyser et de surveiller les contenus abusifs sur le compte WhatsApp d’un enfant.
Le système identifie des schémas anormaux, des propos offensants, des exclusions répétées ou des changements de comportement, et alerte les parents si nécessaire, sans leur donner accès aux conversations complètes.

Un message publié sur LinkedIn à propos de ce projet devient rapidement viral.
« Les gens voulaient l’utiliser immédiatement, mais c’était trop technique. J’ai compris qu’il fallait en faire un vrai produit », explique Mazuz.

Mazuz s’associe alors à Martin Sabag, l’un des fondateurs de l’association Custom Angels, connue en Israël pour son accompagnement des enfants victimes de boycott social. Les deux hommes travaillent depuis trois mois sur ce projet, en parallèle de leurs activités professionnelles.

À ce jour, des dizaines de familles ont testé la version bêta du système. Actuellement gratuite, elle permet d’analyser jusqu’à 100 messages par jour et contribue activement à l’amélioration de l’algorithme.

Comment fonctionne Safy AI

Le produit se décline en deux versions. Une version Lite, sous forme d’application pour ordinateur, et une version Pro reposant sur un boîtier physique dédié.

« La version Lite est une application pour ordinateur. Lors de l’installation, vous renseignez vos informations, le numéro de téléphone du parent, les informations de l’enfant. Pour synchroniser WhatsApp, il suffit de scanner un code QR », explique Mazuz.

« Vous utilisez le téléphone de l’enfant, vous allez dans les paramètres et vous sélectionnez “Appareils associés”. C’est exactement comme WhatsApp Web. Dès lors, tous les messages sont synchronisés automatiquement. La limite, c’est que cela ne fonctionne pas lorsque l’ordinateur est éteint ou sans connexion Internet. »

Safy-Box, une surveillance continue sans cloud

La version Pro repose sur Safy-Box, un petit ordinateur domestique connecté au réseau familial, qui fonctionne 24h/24 et 7j/7.

« La version Pro est un petit ordinateur que vous connectez à Internet à domicile. Il effectue le même processus avec un code QR et un écran, mais sans interruption. Les données ne quittent jamais la maison. Elles ne sont ni stockées dans le cloud ni sur des serveurs externes, mais uniquement sur la carte mémoire de l’appareil. »

Résumés intelligents et détection des signaux faibles

La version Pro génère des résumés quotidiens de l’activité WhatsApp de l’enfant. Chaque soir, le parent reçoit un aperçu clair : nombre de messages, plages horaires, interactions sociales, participation aux groupes. Le système permet également d’identifier des événements sensibles comme le retrait simultané de plusieurs groupes, un indicateur fréquent de boycott.

Une baisse soudaine et marquée de l’activité peut également déclencher une alerte. Les spécialistes de l’enfance rappellent que ce type de décrochage numérique est souvent l’un des premiers signes de détresse psychologique chez les enfants.

« L’objectif est de repérer ces signes le plus tôt possible et d’alerter les parents. Ce sont des choses très difficiles à détecter quand on se contente de regarder le téléphone de l’enfant de temps en temps », souligne Mazuz.

Le système sait aujourd’hui analyser les messages texte, les messages vocaux et les images. Les vidéos ne sont pas encore prises en charge.

À partir de quel âge Safy est-il adapté ?

Plus l’enfant grandit, plus la question de la résistance et de l’espace personnel se pose. Mazuz insiste sur ce point.

« Les enfants ont besoin de leur intimité. L’avantage de Safy, c’est qu’il ne donne pas accès aux conversations. Le parent n’espionne pas. Il est simplement alerté lorsqu’un contenu offensant, une insulte ou une exclusion sociale susceptible de nuire à l’enfant est détectée. »

Même dans les groupes, le parent n’a pas accès aux échanges complets. Il reçoit uniquement une alerte ciblée.

L’alerte respecte la vie privée ?

L’alerte n’affiche ni l’intégralité de la conversation ni l’identité de l’auteur.

« Elle signale simplement qu’un problème est survenu et qu’une intervention est peut-être nécessaire », précise Mazuz.

« Le monde numérique est un monde parallèle »

Mazuz résume ainsi la philosophie du projet.

« Le monde numérique est un monde parallèle dans lequel vivent nos enfants, et nous n’y sommes presque jamais exposés. Sans indicateurs, il est très difficile de comprendre ce qui leur arrive réellement. »

Lors de l’installation, le système génère également une cartographie des relations sociales de l’enfant : avec qui il échange le plus, à quels moments, dans quels groupes, afin de donner aux parents une vision globale de sa place sociale, sans lire les messages.

Est-ce une atteinte à la vie privée ?

La question revient systématiquement.

« Tout dépend de la définition de la vie privée. Si un enfant échange la nuit, si un numéro inconnu commence à l’appeler, ce sont des signaux qui méritent attention. Je ne veux pas que le parent lise les conversations. Je veux lui donner des indicateurs. Safy n’est pas un outil de surveillance, mais un outil utilisé en accord avec l’enfant. Son utilisation doit se faire avec son consentement. »

Mazuz insiste sur un point central.

« L’application ne permet pas d’accéder aux messages, ni de contrôler le téléphone à distance. Elle ne peut en aucun cas servir à surveiller un conjoint ou un adulte. »

Cyberfraude et liens suspects, un effet indirect

Safy-Box n’est pas conçu comme un antivirus.

« Pas directement. Mais le système sait identifier les tentatives de fraude, les demandes d’informations sensibles, les liens suspects et les changements de comportement. Cela contribue indirectement à réduire les risques. »

Données protégées dès la conception

La protection des données a été intégrée dès la conception.

« Il n’y a aucun accès à distance à l’appareil. Aucun message n’est stocké dans le cloud. Toute la connexion à WhatsApp se fait sur le réseau domestique. Les données analysées à distance sont entièrement anonymisées et aucun contenu n’est conservé. »

Dans la version actuelle, un seul compte WhatsApp peut être surveillé. Les prochaines versions permettront de suivre plusieurs enfants au sein d’une même famille.

Et les autres réseaux sociaux ?

WhatsApp est la première étape.

« Nous commençons par WhatsApp parce que c’est là que se passe l’essentiel. Mais notre vision est de centraliser l’ensemble des activités numériques de l’enfant, de les relier et d’en extraire des informations utiles pour les parents. »

Les groupes de classe, angle mort des adultes

Mazuz développe actuellement une nouvelle fonctionnalité dédiée aux groupes WhatsApp scolaires.

« Aujourd’hui, il y a souvent un parent ou un enseignant chargé de modérer le groupe, mais personne ne peut suivre des centaines de messages par jour », explique-t-il.

La solution s’appelle Safy ClassWatch.

« Un bot IA est ajouté au groupe. Il lit les règles définies dans la description et veille à leur respect. En cas de dérive, il alerte le groupe. Si le ton devient problématique, il peut également alerter le parent ou l’enseignant en temps réel. »

Le bot sait analyser les messages vocaux, les images et les autocollants, des contenus particulièrement difficiles à contrôler manuellement.

Safy AI ne promet pas de supprimer le harcèlement. Il promet autre chose, plus rare et plus décisive : donner aux parents une chance de voir, comprendre et agir avant qu’il ne soit trop tard.