Anthropic wykorzystuje konstytucyjne szkolenie AI i nieszkodliwe, aby zapewnić, że jej modele AI są pomocne, uczciwe i nieszkodliwe [3]. Podejście to ma na celu zmniejszenie ryzyka marki i zapewni, że system AI jest niezawodny, możliwy do interpretacji i sterowany [3]. Modele antropiku zostały zaprojektowane do przetwarzania dużych ilości danych tekstowych, zrozumienia i generowania kodu, co czyni je przydatnymi do zadań tworzenia oprogramowania i innych aplikacji, takich jak obsługa klienta i kodowanie prawne [3].
Kluczowe różnice w podejściu antropiku do rozumowania, w porównaniu z tradycyjnymi dużymi modelami językowymi, obejmują:
* Skoncentruj się na bezpieczeństwie AI: antropic jest poświęcony tworzeniu wiarygodnych i interpretowalnych systemów AI, które są zgodne z ludzkimi wartościami i standardami bezpieczeństwa [2]. Firma koncentruje się na zrozumieniu i łagodzeniu ryzyka związanych z AI poprzez badania w zakresie przetwarzania języka naturalnego, informacji zwrotnej ludzkiej i interpretacji [2].
* Konstytucyjna AI: antropic wykorzystuje konstytucyjną sztuczną inteligencję, ucząc jego modeli różnicy między dobrem a złem [7]. To nowe podejście ma kluczowe znaczenie, ponieważ modele językowe stają się coraz bardziej źródłem faktów i prawdy [7].
* Cechy interpretacyjne: badacze antropiku wyodrębniają interpretacyjne cechy z dużych modeli językowych, takich jak Claude 3, przekładając je na koncepcje zagrożone przez człowieka [4]. Te funkcje interpretacyjne mogą mieć zastosowanie do tej samej koncepcji w różnych językach oraz do obrazów i tekstu [4].
* Mapowanie umysłu LLMS: Anthropic poczynił postępy w rozszyfrowaniu wewnętrznych działań dużych modeli językowych (LLM) przy użyciu uczenia się słownika, aby mapować miliony funkcji w swoim modelu AI, Claude Sonnet [2]. Zwiększa to bezpieczeństwo i interpretację AI, oferując głębsze zrozumienie, w jaki sposób AI przetwarza informacje [2]. Poprzez manipulowanie tymi cechami antropic może zmieniać odpowiedzi Claude'a, wykazując bezpośredni związek przyczynowy między aktywacjami neuronów a wynikami modelu, które mogą dostosować zachowanie AI w celu zwiększenia bezpieczeństwa i wydajności [2].
* Rozumowanie antropiczne: Rozumowanie antropowe zakłada, że istnienie obserwatorów nakłada ograniczenia na cechy wszechświata [1]. Słaba zasada antropijna (WAP) sugeruje, że możemy obserwować tylko te aspekty wszechświata, które są zgodne z naszym istnieniem jako obserwatorów [1]. Silna zasada antropijna (SAP) proponuje, aby prawa i stałe wszechświata były zorganizowane tak, aby życie było nieuniknione [1]. Rozumowanie antropiczne podkreśla nieodłączne uprzedzenie selekcji w naszych obserwacjach i zapewnia wgląd w dopracowanie wszechświata i ograniczenia badań naukowych [1].
Cytaty:
[1] https://newspaceeconomia.ca/2024/11/23/the-role-of-antropic-onasoning-inerstanding-the-universe/
[2] https://theaitrack.com/antropic-mapping-the-mind-of-large-language-models/
[3] https://help.promptitude.io/en/articles/8892919-understanding-antropic-models-a-simple-guide
[4] https://www.techrepublic.com/article/antropic-claude-large-language-model-research/
[5] https://risingentropy.com/in-vavor-of-antropic-deasoning/
[6] https://www.antropic.com/research/mapping-mind-language-model
[7] https://www.marketingaiinstitute.com/blog/antropic-claude-constitutional-ai
[8] https://www.activeloop.ai/resources/how-to-compare-large-language-models-4-3-5-vs-antropic-claude-vs-cohere/