人類は憲法上のAIと無害なトレーニングを利用して、AIモデルが役立ち、正直で、無害であることを確認します[3]。このアプローチの目的は、ブランドリスクを減らし、AIシステムが信頼性が高く、解釈可能で、操縦可能であることを保証します[3]。 Anthropicのモデルは、大量のテキストデータを処理し、理解と生成コードを処理するように設計されており、ソフトウェア開発タスクや顧客サービスや法的コーディングなどのその他のアプリケーションに役立ちます[3]。
従来の大規模な言語モデルと比較して、推論に対する人類のアプローチの重要な違いは次のとおりです。
* AIの安全性に焦点を当てる：人類は、人間の価値と安全基準に合わせた信頼できる解釈可能なAIシステムの作成に専念しています[2]。同社は、自然言語処理、人間のフィードバック、および解釈可能性の研究を通じて、AIに関連するリスクの理解と緩和に焦点を当てています[2]。
*憲法AI：人類は憲法上のAIを採用し、そのモデルに善悪の違いを教えます[7]。言語モデルがますます事実と真実の源になるため、この新しいアプローチは非常に重要です[7]。
*解釈可能な機能：人類の研究者は、Claude 3のような大規模な言語モデルから解釈可能な機能を抽出し、それらを人間に理解しやすい概念に変換します[4]。これらの解釈可能な機能は、異なる言語で同じ概念と画像とテキストの両方に適用できます[4]。
* LLMSの心をマッピングする：人類は、辞書学習を使用してAIモデル内の何百万もの特徴であるClaude Sonnet [2]をマッピングすることにより、大規模な言語モデル（LLM）の内側の仕組みを解読することに進みました。これにより、AIの安全性と解釈可能性が向上し、AIが情報をどのように処理するかをより深く理解することができます[2]。これらの特徴を操作することにより、人類はクロードの応答を変化させ、ニューロンの活性化とモデルの出力との間に直接的な因果関係を実証し、AIの動作を微調整して安全性とパフォーマンスを向上させることができます[2]。
*人類の推論：人類の推論は、観察者の存在が宇宙の特性に制約を課すと仮定しています[1]。弱い人類の原理（WAP）は、観察者としての私たちの存在と互換性のある宇宙の側面のみを観察できることを示唆しています[1]。強い人類の原理（SAP）は、宇宙の法則と定数が構造化されているため、生命が避けられないことを提案しています[1]。人類の推論は、私たちの観察に固有の選択バイアスを強調し、宇宙の微調整と科学的調査の制約に関する洞察を提供します[1]。
引用：
[1] https://newspaceConomy.ca/2024/11/23/the-role-of-antopic-raisoning-in-understanding-the Universe/
[2] https://theaitrack.com/anthropic-mapping-the-mind-of-larguage-models/
[3] https://help.promptitute.io/en/articles/8892919-understanding-anthropic-models-a-simple-guide
[4] https://www.techrepublic.com/article/anthropic-claude-language-model-research/
[5] https://risingentropy.com/in-favor-of-anthopic-rasinoning/
[6] https://www.anthropic.com/research/mapping-mind-language-model
[7] https://www.marketingaiinstitute.com/blog/anthropic-claude-constitutional-ai
[8] https://www.activeloop.ai/resources/how-to-compare-language-models-gpt-4-3-5-vs-antropic-claude-cohere/