Anthropic utilise une formation en IA constitutionnelle et en inoffensive pour s'assurer que ses modèles d'IA sont utiles, honnêtes et inoffensifs [3]. Cette approche vise à réduire le risque de marque et garantit que le système d'IA est fiable, interprétable et orientable [3]. Les modèles d'Anthropic sont conçus pour traiter de grandes quantités de données texte, de compréhension et de génération de code, ce qui les rend utiles pour les tâches de développement logiciel et d'autres applications telles que le service client et le codage juridique [3].
Les principales différences dans l'approche d'Anthropic au raisonnement, par rapport aux modèles traditionnels de grande langue, comprennent:
* Focus sur la sécurité de l'IA: Anthropic se consacre à la création de systèmes d'IA fiables et interprétables qui s'alignent sur les valeurs humaines et les normes de sécurité [2]. L'entreprise se concentre sur la compréhension et l'atténuation des risques associés à l'IA par la recherche dans le traitement du langage naturel, la rétroaction humaine et l'interprétabilité [2].
* L'IA constitutionnelle: anthropic emploie une IA constitutionnelle, enseignant à ses modèles la différence entre le bien et le mal [7]. Cette nouvelle approche est cruciale car les modèles de langue deviennent de plus en plus des sources de faits et de vérité [7].
* Caractéristiques interprétables: les chercheurs d'Anthropic extraient les caractéristiques interprétables de modèles de grands langues comme Claude 3, les traduisant en concepts incontracables humains [4]. Ces caractéristiques interprétables peuvent s'appliquer au même concept dans différentes langues et à la fois à des images et du texte [4].
* Mappage de l'esprit des LLMS: Anthropic a fait des progrès pour déchiffrer le fonctionnement interne des modèles de grands langues (LLMS) en utilisant le dictionnaire d'apprentissage pour cartographier des millions de fonctionnalités au sein de leur modèle d'IA, Claude Sonnet [2]. Cela améliore la sécurité et l'interprétabilité de l'IA, offrant une compréhension plus approfondie de la façon dont l'IA traite les informations [2]. En manipulant ces caractéristiques, l'anthropique peut modifier les réponses de Claude, démontrant une relation causale directe entre les activations des neurones et la sortie du modèle, ce qui peut affiner le comportement de l'IA pour améliorer la sécurité et les performances [2].
* Raisonnement anthropique: le raisonnement anthropique postule que l'existence d'observateurs impose des contraintes aux caractéristiques de l'univers [1]. Le principe anthropique faible (WAP) suggère que nous ne pouvons observer que les aspects de l'univers compatibles avec notre existence en tant qu'observateurs [1]. Le principe anthropique fort (SAP) propose que les lois et constantes de l'univers soient structurées de sorte que la vie est inévitable [1]. Le raisonnement anthropique met l'accent sur le biais de sélection inhérent dans nos observations et fournit un aperçu de l'affiche de l'univers et des contraintes sur l'enquête scientifique [1].
Citations:
[1] https://newspaceiconomy.ca/2024/11/23/the-role-of-anthropic-easoning-in-understanding-the-universe/
[2] https://theaitrack.com/anthropic-mapping-the-mind-of-loge-language-models/
[3] https://help.promptitude.io/en/articles/8892919-understanding-sthropic-models-a-simple-guide
[4] https://www.techrepublic.com/article/anthropic-claude-large-language-model-research/
[5] https://rizentropy.com/infarfof-of-anthropic-asoning/
[6] https://www.anthropic.com/research/mapping-mind-language-model
[7] https://www.marketingaiinstitute.com/blog/anthropic-claude-constitutional-ai
[8] https://www.activeloop.ai/resources/how-to-compare-large-language-models-gpt-4-3-5-vs-hanthropic-claude-vs-cogere/