GPT-4.5 är utformad för att hantera motstridiga instruktioner mellan system- och användarmeddelanden genom en instruktionshierarki. Denna hierarki hjälper modellen att prioritera systemmeddelanden framför användarmeddelanden för att mildra risker förknippade med motstridiga anvisningar, till exempel snabba injektioner eller andra attacker som kan åsidosätta modellens säkerhetsinstruktioner.
Nyckelfunktioner i instruktionshierarkin
1. Meddelandeklassificering: GPT-4.5 skiljer mellan två typer av meddelanden: systemmeddelanden och användarmeddelanden. Systemmeddelanden betraktas som högre myndighet och används för att ställa in säkerhetsriktlinjer eller specifika instruktioner för modellen.
2. Konfliktupplösning: När system- och användarmeddelanden konflikt utbildas GPT-4.5 för att följa instruktionerna i systemmeddelandet. Detta säkerställer att modellen följer säkerhetsriktlinjerna och inte bedriver skadliga eller tillåtna aktiviteter.
3. Utvärdering och utbildning: Modellen utvärderas på sin förmåga att hantera konflikter genom olika scenarier. Till exempel, i ett scenario där modellen instrueras att inte ge bort svaret på ett matematikproblem (systemmeddelande), och användaren försöker lura det att göra det (användarmeddelande), måste GPT-4,5 motstå användarens försök och följa systeminstruktionen.
4. Prestanda: GPT-4.5 presterar vanligtvis bra i dessa utvärderingar, vilket visar en förbättring jämfört med tidigare modeller som GPT-4O i hantering av systemanvändarens meddelandekonflikter. Det finns emellertid specifika scenarier där det kanske inte fungerar så bra som GPT-4O eller GPT-4O1, till exempel i vissa jailbreak-test där det luras att avslöja information den inte bör [1] [7].
Säkerhetsutvärderingar
GPT-4.5 genomgår stränga säkerhetsutvärderingar för att säkerställa att det inte genererar tillåtet innehåll, såsom hatfulla eller olagliga råd. Dessa utvärderingar bedömer också modellens tendens att överrefusera godartade instruktioner relaterade till säkerhetsämnen. Modellens prestanda inom dessa områden är avgörande för att upprätthålla sin säkerhet och tillförlitlighet när man hanterar motstridiga instruktioner [1].
Modellspecifikationer och myndighetsnivåer
Modellspecifikationen beskriver myndighetsnivåerna för olika typer av instruktioner, med plattformsnivåinstruktioner som har den högsta myndigheten, följt av utvecklare och användarinstruktioner. Denna hierarki säkerställer att GPT-4,5 prioriterar säkerheten och följer riktlinjerna samtidigt som man tillåter anpassning av användare och utvecklare inom fastställda gränser [2] [5].
Sammantaget är GPT-4,5: s förmåga att hantera motstridiga instruktioner en viktig aspekt av dess design, vilket säkerställer att den upprätthåller säkerhet och integritet samtidigt som man interagerar med användare.
Citeringar:
[1] https://cdn.openai.com/gpt-4-5-system-card.pdf
[2] https://model-spec.openai.com
[3] https://community.openai.com/t/how-to-deal-with-lazy-gpt-4/689286
[4] https://arxiv.org/html/2408.10943v1
[5] https://bgr.com/tech/chatgpt-ai-will-finally-start-covering-controversial-topics/
[6] https://fortune.com/2025/02/14/sam-altman-openai-plans-gpt-5- release-timelines/
[7] https://www.reddit.com/r/singularity/comments/1izn175/openai_gpt45_system_card/
[8] https://www.reddit.com/r/openai/comments/197exmm/gpt4_has_only_been_geting_worse/