Det finns inte tillräckligt med information i sökresultaten för att direkt besvara frågan om beräkningsavvägningarna för att använda Anthropics hybridmodell. Sökresultaten ger emellertid viss information om Anthropics modeller och beräkningsstrategier.
Anthropic använder konstitutionella AI (CAI) i stor utsträckning i sina Claude -modeller, som involverar syntetiska data [2]. De anses vara ledande inom syntetisk dataanvändning [2]. Tillägget av mer sammanhang i processen gör modellens förutsättningar mycket högre för kritik syntetiska data, och systemen är svårare att konstruera [2]. Det dras av antropisk att många av deras metoder inte riktigt fungerar utan deras belöningsmodell / RLHF -kapacitet vid 50B -parametrar och uppåt [2].
Att köra toppmoderna modeller är dyrt när det gäller infrastruktur och beräkning, och antropiska behov av investeringar och intäktsströmmar för att arbeta med nuvarande och framtida modeller [5].
Citeringar:
[1] https://www.reddit.com/r/singularity/comments/1dyhjwc/the_problem_with_anthropic/
[2] https://www.interconnect.ai/p/llm-syntetic-data
[3] https://ailabwatch.org/companies/anthropic/
[4] https://www.techrepublic.com/article/anthropic-laude-llarge-language-model-research/
[5] https://www.lesswrong.com/posts/mnpbctmzmqd7yk4q8/my-understanding-of-antropic-strategi
]
[7] https://research.contrary.com/company/anthropic
]