Det er ikke nok informasjon i søkeresultatene til å svare direkte på spørringen om beregningsavveininger ved å bruke Anthropics hybridmodell. Søkeresultatene gir imidlertid litt informasjon om Anthropics modeller og beregningsstrategier.
Antropisk bruker konstitusjonell AI (CAI) mye i Claude -modellene, som involverer syntetiske data [2]. De regnes som en leder innen syntetisk databruk [2]. Tilsetningen av mer kontekst i prosessen gjør at de forutsetningsmulighetene til modellen er mye høyere for kritikkens syntetiske data, og systemene er vanskeligere å konstruere [2]. Det utledes antropisk at mange av metodene deres egentlig ikke fungerer uten belønningsmodell / RLHF -evner ved 50B -parametere og oppover [2].
Å kjøre moderne modeller er dyrt når det gjelder infrastruktur og beregning, og antropiske behov investerings- og inntektsstrømmer for å jobbe med nåværende og fremtidige modeller [5].
Sitasjoner:
[1] https://www.reddit.com/r/singularity/comments/1dyhjwc/the_problem_with_anthropic/
[2] https://www.interconnects.ai/p/llm-synthetic-data
[3] https://ailabwatch.org/companies/anthropic/
[4] https://www.techrepublic.com/article/anthropic-claude-large-anguage-model-research/
[5] https://www.lesswrong.com/posts/mnpbctmzmqd7yk4q8/my-forstanding-of-antropic-strategy
[6] https://www.inc.com/ben-sherry/anthropic-nust-announced-its-most-adanced-ai-Model-yet-these-ar-its-top-no-cases.html
[7] https://research.contrary.com/company/anthropic
[8] https://cloud.google.com/blog/products/ai-machine-levning/anthropics-claude-3-opus-and-tool-uer-ar-generalt-available-on-Vertex-ai