W wynikach wyszukiwania nie ma wystarczającej ilości informacji, aby bezpośrednio odpowiedzieć na zapytanie na temat kompromisów obliczeniowych korzystania z modelu hybrydowego antropika. Jednak wyniki wyszukiwania zawierają pewne informacje na temat modeli antropików i strategii obliczeniowych.
Antropic wykorzystuje konstytucyjne AI (CAI) szeroko w swoich modelach Claude, które obejmują dane syntetyczne [2]. Są uważane za lidera w systemie syntetycznym [2]. Dodanie większego kontekstu do procesu sprawia, że warunki wstępne modelu są znacznie wyższe dla danych syntetycznych krytyki, a systemy są trudniejsze do inżyniera [2]. Przez antropiczne wnioskuje się, że wiele z ich metod nie działa bez możliwości modelu nagrody / RLHF przy parametrach 50B i więcej [2].
Uruchomienie najnowocześniejszych modeli jest kosztowne pod względem infrastruktury i obliczeniowej, a antropiczne potrzeby inwestycyjne i przychody do pracy nad obecnymi i przyszłymi modelami [5].
Cytaty:
[1] https://www.reddit.com/r/singularity/comments/1dyhjwc/the_problem_with_antropic/
[2] https://www.interconnects.ai/p/llm-syntetic-data
[3] https://ailabwatch.org/companits/antropic/
[4] https://www.techrepublic.com/article/antropic-claude-large-language-model-research/
[5] https://www.lesswrong.com/posts/mnpbctmmqd7yk4q8/my-understanding-of-antropic-strategy
[6] https://www.inc.com/ben-sherry/antropic-just-announced-its-most-advanced-ai-model-these-hese-are-its-top-use-cases.html
[7] https://research.contrary.com/company/antropic
[8] https://cloud.google.com/blog/products/ai-machine-loarning/antropics-claude-3-opus-and-tool-use-are-gereally-avaailable-on-vertex-ai