Vo výsledkoch vyhľadávania nie je dostatok informácií na priame zodpovedanie dotazu o výpočtových kompromisoch používania hybridného modelu Anthropic. Výsledky vyhľadávania však poskytujú niektoré informácie o modeloch Antropic a výpočtových stratégiách.
Anthropic využíva vo svojich modeloch Claude intenzívne ústavné AI (CAI), ktoré zahŕňajú syntetické údaje [2]. Sú považovaní za lídra v používaní syntetických údajov [2]. Vďaka pridaniu väčšieho kontextu do procesu je predpokladové schopnosti modelu oveľa vyššie pre syntetické údaje kritiky a systémy sú ťažšie pre inžinierstvo [2]. Anthropic sa odvodzuje, že veľa ich metód nefunguje bez ich modelu odmeňovania / RLHF pri parametroch 50b a viac [2].
Spustenie najmodernejších modelov je drahé, pokiaľ ide o infraštruktúru a výpočet, a antropické potreby investícií a tokov výnosov na prácu na súčasných a budúcich modeloch [5].
Citácie:
[1] https://www.reddit.com/r/singularity/comments/1dyhjwc/the_problem_with_anthropic/
[2] https://www.interconnects.ai/p/llm-Synthetic-data
[3] https://ilabwatch.org/companies/anthropic/
[4] https://www.techrepublic.com/article/anthropic-claude-large-manguage-model-research/
[5] https://www.lesswrong.com/posts/mnpbctmzmqd7YK4Q8/MY-DerSternding-of--antropic-stratégia
[6] https://www.inc.com/ben-sherry/anthropic-just-anncounced-its-most-aiany-ai-model-yet-thersesty-are-are-its-top-use-use-cases.html
[7] https://research.contrary.com/company/anthropic
[8] https://cloud.google.com/blog/products/ai-machine-learning/anthropics-claude-3-opus-and-tool-ool-use-are-are-generally-availaible-on-on-aioi-ai