Ve výsledcích vyhledávání není dostatek informací, které by přímo odpověděli na dotaz ohledně výpočetních kompromisů používání hybridního modelu Anthropic. Výsledky vyhledávání však poskytují některé informace o modelech Anthropic a výpočetních strategiích.
Anthropic ve svých modelech Claude rozsáhle používá ústavní AI (CAI), které zahrnují syntetická data [2]. Jsou považováni za vůdce v oblasti využití syntetických dat [2]. Přidání většího kontextu do procesu způsobuje, že předpoklady modelu jsou mnohem vyšší pro kritická syntetická data a systémy jsou těžší inženýr [2]. Antropic je odvozeno, že mnoho jejich metod ve skutečnosti nefunguje bez jejich odměňovacích modelů / RLHF schopností při parametrech 50B a nahoru [2].
Spuštění nejmodernějších modelů je z hlediska infrastruktury a výpočtu nákladné a antropické potřeby tok investic a příjmů pracují na současných i budoucích modelech [5].
Citace:
[1] https://www.reddit.com/r/singularity/comments/1dyhjwc/the_problem_with_anthropic/
[2] https://www.interconnects.ai/p/llm-syntetic-tata
[3] https://ailabwatch.org/companies/antropic/
[4] https://www.techrepublic.com/article/anthropic-claude-large-language-model-research/
[5] https://www.lesswrong.com/posts/mnpbctmzmqd7yk4q8/MY-Understanding-of-Anthropic-Strategy
[6] https://www.inc.com/ben-sherry/anthropic-wust-annouced-its-most-advanced-ai-model-these-are-t-top-use-pases.html
[7] https://research.contrary.com/company/anthropic
[8] https://cloud.google.com/blog/products/ai-machine-learning/anthropics-claude-3-opus-and-use-are-generally-available-on-vertex-ai