Anthropic est une entreprise d'anciens chercheurs d'OpenAI qui ont pour objectif d'entraîner une intelligence artificielle capable de distinguer le bien du mal avec un minimum d'intervention humaine. Cette IA nommée Claude est munie d'une “constitution” unique, qui se base sur la Déclaration universelle des droits de l'homme, mais aussi d'autres normes “éthiques” pour garantir un comportement éthique tout en fournissant des fonctionnalités robustes. Cependant, l'idée de la “constitution” de Claude pourrait être métaphorique plutôt que littérale, selon Jared Kaplan, l'un des fondateurs d'Anthropic.
Une capacité de traitement de 100 000 mots, supérieure à celle des autres IA
La méthode d'entraînement d'Anthropic est décrite dans un article de recherche intitulé “Constitutional AI : Harmlessness of AI feedback”, qui explique comment créer une IA inoffensive mais utile en améliorant son propre comportement. Grâce à l'IA constitutionnelle, Claude peut s'améliorer continuellement sans retour humain en identifiant les comportements inappropriés et en adaptant son propre comportement. De plus, Claude possède une capacité de traitement impressionnante de plus de 100 000 tokens, ce qui le place devant ChatGPT et Bard, ainsi que tous les autres grands modèles de langage compétents ou chatbots IA disponibles à ce jour. Cette fonctionnalité permet à Claude de gérer à la fois des conversations de grande envergure et des tâches complexes.
Il est important de noter que l'axe principal de développement de Claude n'est cependant pas de surpasser les autres IA en termes de capacité, mais plutôt de créer un modèle éthique capable de prendre des décisions inoffensives sans l'intervention humaine. In fine, Claude permettra aux entreprises de s'appuyer sur une IA éthique qui représentera leur entreprise et leurs besoins, tout en gérant avec grâce même les interlocuteurs désagréables ou malveillants.
Je suis une grande fan de nouvelles sur les gens – je suis une pro de la tech et des smartphones, de la littérature de série, et j'écris pendant mon temps libre.