Anthropic maakt gebruik van constitutionele AI en onschadelijkheidstraining om ervoor te zorgen dat de AI -modellen nuttig, eerlijk en onschadelijk zijn [3]. Deze aanpak is bedoeld om het merkrisico te verminderen en zorgt ervoor dat het AI -systeem betrouwbaar, interpreteerbaar en bestuurbaar is [3]. De modellen van Anthropic zijn ontworpen om grote hoeveelheden tekstgegevens te verwerken, code te begrijpen en te genereren, waardoor ze nuttig zijn voor softwareontwikkelingstaken en andere applicaties zoals klantenservice en juridische codering [3].
Belangrijke verschillen in de redenering van Anthropic, vergeleken met traditionele grote taalmodellen, zijn:
* Focus op AI -veiligheid: Anthropic is toegewijd aan het creëren van betrouwbare en interpreteerbare AI -systemen die aansluiten bij menselijke waarden en veiligheidsnormen [2]. Het bedrijf richt zich op het begrijpen en verminderen van risico's die verband houden met AI door onderzoek naar natuurlijke taalverwerking, menselijke feedback en interpreteerbaarheid [2].
* Constitutionele AI: Anthropic gebruikt constitutionele AI en leert haar modellen het verschil tussen goed en fout [7]. Deze nieuwe benadering is cruciaal omdat taalmodellen in toenemende mate bronnen van feiten en waarheid worden [7].
* Interpreteerbare kenmerken: Anthropic's onderzoekers extraheren interpreteerbare kenmerken uit grote taalmodellen zoals Claude 3, waardoor ze worden vertaald in menselijke te begrijpen concepten [4]. Deze interpreteerbare functies kunnen van toepassing zijn op hetzelfde concept in verschillende talen en op zowel afbeeldingen als tekst [4].
* Het in kaart brengen van de geest van LLMS: Anthropic heeft stappen gezet bij het ontcijferen van de innerlijke werking van grote taalmodellen (LLM's) door het gebruik van woordenboek leren om miljoenen functies in hun AI -model, Claude Sonnet te gebruiken [2]. Dit verbetert de AI -veiligheid en interpreteerbaarheid en biedt een dieper inzicht in hoe AI informatie verwerkt [2]. Door deze kenmerken te manipuleren, kan antropisch de reacties van Claude veranderen, wat een direct causaal verband aantoont tussen neuronactiveringen en de output van het model, dat AI-gedrag kan verfijnen om de veiligheid en prestaties te verbeteren [2].
* Anthropisch redeneren: antropisch redeneren stelt dat het bestaan van waarnemers beperkingen oplegt aan de kenmerken van het universum [1]. Het zwakke antropische principe (WAP) suggereert dat we alleen die aspecten van het universum kunnen observeren die compatibel zijn met ons bestaan als waarnemers [1]. Het sterke antropische principe (SAP) stelt voor dat de wetten en constanten van het universum gestructureerd zijn zodat het leven onvermijdelijk is [1]. Anthropisch redeneren benadrukt de inherente selectiebias in onze observaties en geeft inzichten in de verfijning van het universum en de beperkingen voor wetenschappelijk onderzoek [1].
Citaten:
[1] https://newspaceeconomy.ca/2024/11/23/the-role-of-antropic-rasing-in-unesing-the-universe/
[2] https://theaitrack.com/antropic-mapping-the-mind-of-large-language-models/
[3] https://help.promptitude.io/en/articles/8892919-underanding-antropic-models-a-simple-gids
[4] https://www.techrepublic.com/article/anthropic-claude-large-language-model-research/
[5] https://risingentropy.com/in-favor-of-antropic-reasering/
[6] https://www.antropic.com/research/mapping-mind-language-model
[7] https://www.marketingaiinstitute.com/blog/anthropic-claude-constitutional-ai
[8] https://www.activeloop.ai/resources/how-to-compare-large-language-models-gpt-4-3-5-vs-antropic-claude-vs-coHere/