Não há informações suficientes nos resultados da pesquisa para responder diretamente à consulta sobre as compensações computacionais do uso do modelo híbrido da Anthrópica. No entanto, os resultados da pesquisa fornecem algumas informações sobre os modelos e estratégias computacionais do Antrópico.
Utiliza a IA constitucional (CAI) constitucional (CAI) extensivamente em seus modelos Claude, que envolve dados sintéticos [2]. Eles são considerados um líder no uso de dados sintéticos [2]. A adição de mais contexto no processo torna os recursos de pré -requisito do modelo muito mais altos para os dados sintéticos da crítica, e os sistemas são mais difíceis de projetar [2]. É inferido por antropia que muitos de seus métodos realmente não funcionam sem os recursos do modelo de recompensa / RLHF em parâmetros 50B e acima [2].
A execução de modelos de última geração é cara em termos de infraestrutura e computação, e os fluxos de investimento e receita de necessidades antrópicas para trabalhar nos modelos atuais e futuros [5].
Citações:
[1] https://www.reddit.com/r/singularity/comments/1dyhjwc/the_problem_with_antrópica/
[2] https://www.interconnects.ai/p/llm-synthetic-data
[3] https://ailabwatch.org/companies/anthrópico/
[4] https://www.techrepublic.com/article/antrópica-claude-large-language-model-research/
[5] https://www.lesswrong.com/postss/mnpbctmzmqd7yk4q8/my-undestanding-of-anthrópica-strategy
[6] https://www.inc.com/ben-sherry/antrópica-just-anounced-its-most-advanced-ai-model-yet-the-se-thes-ts-top-use-ses.html
[7] https://research.contrary.com/company/anthrópico
[8] https://cloud.google.com/blog/products/ai-machine-learning/anthropics-claude-3-opus-and--ool-use-e-general- Available-on-vertex-ai