Assistant IA et analyse d'images
Le module d'intelligence artificielle recouvre deux fonctions distinctes, activables séparément : un assistant qui répond lorsqu'un membre mentionne le bot, et une analyse des images publiées destinée à signaler les contenus explicites.
Les deux sont désactivées par défaut et n'entrent en action que si un administrateur les active sur le serveur.
L'assistant conversationnel
Mentionner le bot dans un message déclenche une réponse générée à partir du texte qui suit la mention. Il n'y a pas de commande à retenir : la mention suffit.
Le texte est transmis au fournisseur du modèle le temps de produire la réponse, avec la rétention désactivée, puis n'est conservé nulle part. Il n'est pas utilisé pour entraîner un modèle.
La détection d'images explicites
Lorsque le module est actif, les images jointes aux messages sont analysées et celles identifiées comme explicites déclenchent une alerte dans le salon de modération configuré.
C'est une aide à la décision, pas un verdict : la classification automatique d'images produit des faux positifs comme des faux négatifs, et la sanction reste prise par un modérateur.
Ce que le module ne fait pas
- Il ne lit pas les messages qui ne mentionnent pas le bot.
- Il ne conserve aucun historique de conversation d'un message à l'autre.
- Il ne prend aucune sanction de lui-même à la suite d'une analyse d'image.