Nu există suficiente informații în rezultatele căutării pentru a răspunde direct la întrebarea despre compromisurile de calcul ale utilizării modelului hibrid Antropic. Cu toate acestea, rezultatele căutării oferă câteva informații despre modelele antropice și strategiile de calcul.
Antropic folosește pe larg AI constituțional (CAI) în modelele lor Claude, care implică date sintetice [2]. Sunt considerați un lider în utilizarea datelor sintetice [2]. Adăugarea mai mult context în proces face ca capacitățile prealabile ale modelului să fie mult mai mari pentru datele sintetice critice, iar sistemele sunt mai greu de inginer [2]. Este dedus de Antropic că o mulțime de metode nu funcționează cu adevărat fără capacitățile modelului de recompensă / RLHF la parametrii de 50b și în sus [2].
Rularea modelelor de ultimă generație este costisitoare în ceea ce privește infrastructura și calculul, iar antropic are nevoie de fluxuri de investiții și venituri pentru a lucra la modelele actuale și viitoare [5].
Citări:[1] https://www.reddit.com/r/singularity/comments/1dyhjwc/the_problem_with_antropic/
[2] https://www.interconnects.ai/p/llm-synthetic-data
[3] https://ailabwatch.org/companies/antropic/
]
[5] https://www.lesswrong.com/posts/mnpbctmzmqd7yk4q8/my-understanding-of-antropic-strategy
[6] https://www.inc.com/ben-sherry/anthropic-just-announced-its-most-advanced-AI-model-dar-these-au-its-top-use-cases.html
[7] https://research.contrary.com/company/antropic
[8] https://cloud.google.com/blog/products/ai-machine-learning/anthropics-claude-3-opus-and-tool-use-are-are-general-adable-on-vertex-ai