Meta dévoile Purple Llama, une initiative visant à promouvoir le développement responsable de l’IA

annonce Purple Llama, un projet collaboratif avec des géants du secteur pour favoriser la sécurité et l'innovation dans les technologies d'.

Presentation de Purple Llama

Purple Llama est une nouvelle initiative lancée par Meta, la société mère de . L'objectif principal de ce projet est d'encourager le développement sûr et responsable des technologies d'intelligence artificielle (IA). Pour ce faire, Meta propose de rassembler des outils et des évaluations destinés à aider les développeurs à construire des modèles d'IA générative de manière responsable. La société cherche également à nouer des partenariats avec d'autres acteurs majeurs du secteur, tels que , et , afin d'enrichir sa suite d'outils et de la rendre accessible à la communauté des développeurs.

Purple Llama s'appuie sur le Guide d'utilisation responsable de Meta, un document qui recense les bonnes pratiques et les précautions à prendre lors de la conception de produits basés sur l'intelligence artificielle. Les outils développés dans le cadre de cette initiative pourront être utilisés aussi bien dans la recherche que dans les modèles de langage commerciaux. Meta souligne l'importance de la collaboration pour créer un écosystème ouvert et sécurisé autour des technologies d'IA.

A lire :   Découvrez les surprenantes différences entre chaque IA et Bing Chat !

Focus sur la sécurité

Dans un premier temps, Purple Llama se concentrera sur la sécurité des modèles d'intelligence artificielle. Le projet proposera des outils pour gérer les risques liés aux modèles de langage à grande échelle (LLM) dans le contexte des cyberattaques et de la génération de code malveillant. Meta mettra également à disposition des solutions pour détecter les contenus potentiellement dangereux ou enfreignant les droits d'auteur, tant en entrée qu'en sortie.

Plusieurs entreprises du secteur, telles qu'AMD, AWS, Google Cloud, Dropbox, IBM, Intel, Microsoft, NVIDIA et Oracle, apporteront leur soutien à Purple Llama. Cette collaboration est essentielle pour garantir un développement sûr et éthique des technologies d'intelligence artificielle.

CyberSec Eval : évaluation des risques de cybersécurité

Le premier outil issu du projet Purple Llama est CyberSec Eval. Il s'agit d'un ensemble d'outils permettant d'évaluer les risques de cybersécurité associés aux modèles LLM. Selon un document technique publié par Meta, CyberSec Eval constitue le point de référence en matière de sécurité le plus complet à ce jour. Il évalue notamment la capacité d'un modèle à générer du code non sécurisé et son niveau de conformité lorsqu'on lui demande d'aider à réaliser une cyberattaque.

A lire :   Amazon dévoile le Halo Rise, son moniteur de sommeil

Meta indique que CyberSec Eval a permis d'identifier les risques de cybersécurité dans des modèles tels que Llama2 ou GPT et a fourni des recommandations pour les atténuer. Les chercheurs de l'entreprise ont constaté que les modèles les plus avancés ont tendance à suggérer du code non sécurisé, d'où la nécessité d'un processus d'évaluation et de raffinement.

Llama Guard : protection contre les réponses inappropriées

Un autre composant de Purple Llama est Llama Guard, un modèle entraîné pour empêcher une IA de générer des réponses inappropriées. Llama Guard est spécifiquement conçu pour les interactions entre un humain et une IA (comme ) et catégorise les risques en entrée et en sortie. Lorsqu'une analyse révèle un contenu potentiellement dangereux, les développeurs peuvent l'ajouter à leurs filtres pour empêcher le modèle de le traiter.

A lire :   Vacances de la Toussaint 2023 : ce département de l'Ouest va être pris d'assaut par les Français

Cette annonce intervient quelques jours après la création de l'IA Alliance, une regroupant Meta, IBM et des dizaines d'autres organisations. L'alliance vise à encourager le développement de modèles d'IA sûrs et open source, avec le soutien d'Intel, AMD, NVIDIA et Oracle. Parmi ses membres figurent également la , le CERN, la Linux et des universités prestigieuses du monde entier.

Innovation et Tradition: Découvrez la nouvelle édition limitée de la Divers Sixty-Five par Oris et Chronos

Voter pour cet article
Afficher Masquer le sommaire
Thomas De Luc

Je suis étudiant et je fais partie de la rédaction de contrepoint.info. J'ai la chance d'aimer écrire, cependant, j'aime aussi discuter de tous les sujets et particulièrement tout ce qui touche à la Science.