Ennek a megközelítésnek a célja a márka kockázatának csökkentése, és biztosítja, hogy az AI rendszer megbízható, értelmezhető és irányítható legyen [3]. Az antropikus modelleket úgy tervezték, hogy nagy mennyiségű szöveges adatot dolgozzanak fel, a kód megértését és generálását, hasznossá téve őket a szoftverfejlesztési feladatokhoz és más alkalmazásokhoz, például az ügyfélszolgálathoz és a jogi kódoláshoz [3].
Az antropikus érvelés megközelítésének legfontosabb különbségei a hagyományos nagy nyelvi modellekhez képest a következők:
* Összpontosítson az AI biztonságára: Az antropikus elkötelezett a megbízható és értelmezhető AI rendszerek létrehozása, amelyek igazodnak az emberi értékekhez és a biztonsági előírásokhoz [2]. A társaság az AI -vel kapcsolatos kockázatok megértésére és enyhítésére összpontosít a természetes nyelvfeldolgozás, az emberi visszacsatolás és az értelmezhetőség kutatása révén [2].
* Alkotmányos AI: Az antropikus alkotmányos AI -t alkalmaz, a modellek tanítását a jobb és a rossz közötti különbségnek [7]. Ez az új megközelítés döntő fontosságú, mivel a nyelvmodellek egyre inkább tények és igazság forrásaivá válnak [7].
* Értelmezhető tulajdonságok: Az antropikus kutatói az értelmezhető funkciókat olyan nagy nyelvű modellekből, mint a Claude 3, kivonják az értelmezhető funkciókból, amelyek az ember által elismerhető fogalmakká alakítják őket [4]. Ezek az értelmezhető tulajdonságok ugyanazon koncepcióra alkalmazhatók különböző nyelveken, mind a képek, mind a szövegekben [4].
* Az LLM -ek elméjének feltérképezése: Az antropikus lépéseket tett a nagy nyelvi modellek (LLMS) belső működésének megfejtésében azáltal, hogy a szótár megtanulását használja, hogy több millió funkciót feltérképezzenek az AI modelljükben, a Claude Sonnetben [2]. Ez javítja az AI biztonságát és értelmezhetőségét, és mélyebben megérti az AI információkat [2]. Ezeknek a tulajdonságoknak a manipulálásával az antropikus megváltoztathatja Claude válaszát, megmutatva a közvetlen okozati összefüggést a neuron aktiválásai és a modell outputja között, amely finoman hangolhatja az AI viselkedését a biztonság és a teljesítmény fokozása érdekében [2].
* Antropikus érvelés: Az antropikus érvelés azt állítja, hogy a megfigyelők létezése korlátokat von le az univerzum jellemzőire [1]. A gyenge antropikus elv (WAP) azt sugallja, hogy csak az univerzum azon aspektusait figyeljük meg, amelyek összeegyeztethetők a megfigyelők létezésével [1]. Az erős antropikus elv (SAP) azt javasolja, hogy az univerzum törvényei és állandóságai úgy vannak felépítve, hogy az élet elkerülhetetlen legyen [1]. Az antropikus érvelés hangsúlyozza megfigyeléseinkben rejlő szelekciós torzítást, és betekintést nyújt az univerzum finomhangolásába és a tudományos kutatás korlátozásaiba [1].
Idézetek:
[1] https://newspaceeconomy.ca/2024/11/23/the-role--anthropic-reasoning-in-undercting-the-universse/
[2] https://theitrack.com/anthropic-mapping-the-mind-of----modeage-models/
[3] https://help.prompptitude.io/en/articles/8892919-Eversting-anthropic-models-a-Simple-guide
[4] https://www.techrepublic.com/article/anthropic-claude--luage-model-research/
[5] https://risingentropy.com/in-favor-of-anthropic-reason/
[6] https://www.anthropic.com/research/mapping-mind-ganguage-model
[7] https://www.marketinaiinstitute.com/blog/anthropic claude-constitutional-ai
[8] https://www.activeloop.ai/resources/how-to-compare---model-models-gpt-4-3-5-vs-anthropic claude-vs-cohere/