Anthropic využíva ústavné vzdelanie AI a Škoda, aby sa zabezpečilo, že jeho modely AI sú užitočné, čestné a neškodné [3]. Cieľom tohto prístupu je znížiť riziko značky a zaisťuje, že systém AI je spoľahlivý, interpretovateľný a riadiaci [3]. Modely spoločnosti Anthropic sú určené na spracovanie veľkého množstva textových údajov, porozumenie a generovanie kódu, vďaka čomu sú užitočné pre úlohy vývoja softvéru a ďalšie aplikácie, ako sú zákaznícke služby a právne kódovanie [3].
Kľúčové rozdiely v prístupe Antropic k zdôvodneniu v porovnaní s tradičnými modelmi veľkých jazykov zahŕňajú:
* Zamerajte sa na bezpečnosť AI: Anthropic sa venuje vytváraniu spoľahlivých a interpretibilných systémov AI, ktoré sú v súlade s ľudskými hodnotami a bezpečnostnými normami [2]. Spoločnosť sa zameriava na porozumenie a zmiernenie rizík spojených s AI prostredníctvom výskumu spracovania prirodzeného jazyka, spätnej väzby a interpretovateľnosti ľudských jazykov [2].
* Ústava AI: Antropická zamestnáva ústavnú inteligenciu, ktorá učí svoje modely rozdiel medzi správnym a nesprávnym [7]. Tento nový prístup je rozhodujúci, pretože jazykové modely sa stále viac stávajú zdrojmi faktov a pravdy [7].
* Interpretovateľné vlastnosti: Antropicí vedci extrahujú interpretovateľné vlastnosti z veľkých jazykových modelov, ako je Claude 3, ich prekladá do ľudských konceptov [4]. Tieto interpretibilné vlastnosti sa môžu vzťahovať na rovnaký koncept v rôznych jazykoch a na obrázky aj text [4].
* Mapovanie mysle LLMS: Anthropic urobil pokroky pri dešifrovaní vnútorných fungovaní veľkých jazykových modelov (LLM) pomocou slovníka, ktorý sa učil mapovať milióny funkcií v rámci modelu AI, Claude Sonnet [2]. To zvyšuje bezpečnosť a interpretovateľnosť AI a ponúka hlbšie pochopenie toho, ako AI spracováva informácie [2]. Manipuláciou s týmito vlastnosťami môžu antropické reakcie zmeniť Claudeove reakcie a preukázať priamy príčinný vzťah medzi aktiváciami neurónov a výstupom modelu, ktorý môže doladiť správanie AI na zvýšenie bezpečnosti a výkonu [2].
* Antropické zdôvodnenie: Antropické zdôvodnenie predpokladá, že existencia pozorovateľov ukladá obmedzenia na charakteristiky vesmíru [1]. Slabý antropický princíp (WAP) naznačuje, že môžeme pozorovať iba tie aspekty vesmíru, ktoré sú zlučiteľné s našou existenciou pozorovateľov [1]. Silný antropický princíp (SAP) navrhuje, aby zákony a konštanty vesmíru boli štruktúrované tak, aby bol život nevyhnutný [1]. Antropické zdôvodnenie zdôrazňuje vlastnú skreslenie výberu v našich pozorovaniach a poskytuje pohľad na doladenie vesmíru a obmedzenia vedeckého vyšetrovania [1].
Citácie:
[1] https://newspaceeconomy.ca/2024/11/23/the-le-of-anthropic-reasoning-in-understanding-the-universe/
[2] https://theaitrack.com/anthropic-mapping-the-mind-of-large-manguage-models/
[3] https://help.promptitude.io/en/articles/8892919-penstanding-antropic-models-a-simple-guide
[4] https://www.techrepublic.com/article/anthropic-claude-large-manguage-model-research/
[5] https://ringentropy.com/in-favor-of-anthropic-reasoning/
[6] https://www.anthropic.com/research/mapping-mind-manguage-model
[7] https://www.marketingaiinstitute.com/blog/anthropic-claude-constitutional-ai
[8] https://www.activeloop.ai/resources/how-to-compare-large-manguage-models-gpt-4-3-5-5-vs-anthropic-claude-vs-cohere/