NVIDIA s'attaque aux problèmes des chatbots alimentés par l'IA en lançant NeMo Guardrails, un logiciel open source proposant un ensemble de garde-fous pour garantir la précision et la sécurité des applications.
Les garde-fous permettent de mettre en place des règles pour contrôler les interactions des utilisateurs avec des applications telles que ChatGPT. Selon NVIDIA, NeMo Guardrails est facile d'utilisation et peut être mis en œuvre par n'importe quel développeur. Les garde-fous sont divisés en trois catégories : les garde-fous thématiques, les garde-fous de contenu et les garde-fous de sauvegarde.
ChatGPT et d'autres IA deviendraient plus fiables avec l'aide de NVIDIA
Les chatbots alimentés par l'IA sont confrontés à des problèmes de fausses informations, de contenus inappropriés ou de réponses toxiques. Les garde-fous de NeMo Guardrails permettent de surveiller les interactions pour empêcher les chatbots de s'égarement et de fournir des informations erronées. Ils sont basés sur un langage développé par NVIDIA pour l'IA conversationnelle et sont placés entre l'utilisateur et l'application, empêchant le modèle de s'éloigner du domaine établi. Les garde-fous de NeMo Guardrails seront disponibles sur GitHub et sur la plateforme NVIDIA AI Enterprise.
Les garde-fous de NeMo protègent les chatbots alimentés par l'IA
NeMo Guardrails est divisé en trois catégories de garde-fous pour protéger les chatbots de différentes manières. Les garde-fous thématiques leur permettent de rester concentrés sur le sujet et de rediriger les conversations si nécessaire. Les garde-fous de contenu garantissent la précision et la crédibilité des informations fournies. Les garde-fous de sauvegarde protègent les chatbots des attaques extérieures en empêchant l'exécution de code malveillant ou les appels d'applications non autorisés. Cette dernière catégorie est particulièrement importante en raison de la sophistication croissante des cyber-attaques contre les IA. Neyo Guardrails est open source et sera développé en collaboration avec la communauté.
Afficher Masquer le sommaire
Je suis une grande fan de nouvelles sur les gens – je suis une pro de la tech et des smartphones, de la littérature de série, et j'écris pendant mon temps libre.