Er is niet genoeg informatie in de zoekresultaten om direct de query te beantwoorden over de rekenafwegingen van het gebruik van het hybride model van Anthropic. De zoekresultaten bieden echter wel wat informatie over de modellen en computationele strategieën van Anthropic.
Anthropic gebruikt constitutionele AI (CAI) uitgebreid in hun Claude -modellen, die synthetische gegevens met zich meebrengen [2]. Ze worden beschouwd als een leider in synthetisch gegevensgebruik [2]. De toevoeging van meer context in het proces maakt de vereiste mogelijkheden van het model veel hoger voor kritieksynthetische gegevens, en de systemen zijn moeilijker te engineer [2]. Het wordt afgeleid door antropisch dat veel van hun methoden niet echt werken zonder hun beloningsmodel / RLHF -mogelijkheden bij 50B -parameters en hoger [2].
State-of-the-art modellen is duur in termen van infrastructuur en berekening, en antropische behoeften investeringen en inkomstenstromen om te werken aan huidige en toekomstige modellen [5].
Citaten:
[1] https://www.reddit.com/r/singularity/comments/1dyhjwc/the_problem_with_anthropic/
[2] https://www.interconnects.ai/p/llm-synthetic-data
[3] https://ailabwatch.org/companies/anthropic/
[4] https://www.techrepublic.com/article/anthropic-claude-large-language-model-research/
[5] https://www.lesswrong.com/posts/mnpbctmzmqd7yk4q8/my-unje-of-antropisch-strategie
[6] https://www.inc.com/ben-sherry/anthropic-just-annond-its-most-advanced-ai-model-yet-the-this-top- use-cases.html
[7] https://research.contrary.com/company/anthropic
[8] https://cloud.google.com/blog/products/ai-machine-learning/anthropics-claude-3-opus-and-tool-are-are-generaal-vailable-vertex-ai