No hay suficiente información en los resultados de búsqueda para responder directamente a la consulta sobre las compensaciones computacionales de usar el modelo híbrido de Anthrope. Sin embargo, los resultados de búsqueda proporcionan información sobre los modelos de Anthrope y las estrategias computacionales.
Anthrope utiliza ampliamente la IA constitucional (CAI) en sus modelos Claude, que implica datos sintéticos [2]. Se consideran líderes en el uso de datos sintéticos [2]. La adición de más contexto en el proceso hace que las capacidades de requisitos previos del modelo sean mucho más altos para los datos sintéticos críticos, y los sistemas son más difíciles de diseñar [2]. Anthrope infiere que muchos de sus métodos realmente no funcionan sin su modelo de recompensa / capacidades de RLHF en parámetros 50b y arriba [2].
Ejecutar modelos de vanguardia es costoso en términos de infraestructura y cómputo, y antrópico necesita inversiones e flujos de ingresos para trabajar en modelos actuales y futuros [5].
Citas:
[1] https://www.reddit.com/r/singularity/comments/1dyhjwc/the_problem_with_anthropic/
[2] https://www.interconnects.ai/p/llm-synthetic-data
[3] https://ailabwatch.org/companies/anthropic/
[4] https://www.techrepublic.com/article/anthropic-claude-large-language-model-research/
[5] https://www.lesswrong.com/posts/mnpbctmzmqd7yk4q8/my-indenstanding-of-anthrópal-strategy
[6] https://www.inc.com/ben-sherry/anthropic-just-nounced-its-most--advanced-ai-model-yet-these-its-top-use-cases.html
[7] https://research.tonrarry.com/company/anthropy
[8] https://cloud.google.com/blog/products/ai-machine-learning/anthropics-claude-3-opus-and-tool-use-ear-ear-generally-available-on-verteai