Un pipeline d’attaque itératif peut perturber les modèles GenAI
Développé par des chercheurs, le pipeline CatAttack montre que les modèles de raisonnement GenAI sont étonnamment faciles à induire en erreur. Les propriétaires de chats savent que les animaux domestiques ne favorisent pas seulement la productivité, et que parfois ils peuvent aussi déranger et provoquer des erreurs. En distrayant par exemple leur propriétaire de son…
Lire la suite