Här är några viktiga avancerade prompttekniker för kodningsuppgifter med stora språkmodeller:
1. Förstå modellens tolkning av kodningsrelaterade frågor: Detta innebär att ha en djup förståelse av programmeringskoncept och att kunna formulera dem på ett sätt som modellen kan bearbeta effektivt. Målet är att skapa uppmaningar som överensstämmer med modellens interna representationer och uppmärksamhetsmekanismer.[1]
2. Prompt Chaining och Multi-Turn Prompt: Dela upp en komplex kodningsuppgift i en sekvens av prompter, där utdata från en prompt används som indata för nästa. Detta gör att modellen kan ta sig an uppgiften steg-för-steg.[2][3]
3. Chain-of-Thought (CoT) Prompting: Förse modellen med exempel på steg-för-steg-resonemang för att lösa ett problem, vägleda den att generera sin egen kedja av resonemang.[4][5] Detta har visat sig avsevärt förbättra prestandan på komplexa resonemangsuppgifter.
4. Självkonsistensfråga: En förlängning av CoT där flera resonemangsvägar samplas och det mest självständiga svaret väljs. Detta är användbart för öppna problem med flera giltiga lösningar.[4]
5. Automatic Prompt Engineering (APE): En teknik som behandlar prompten i sig som det "program" som ska optimeras, med hjälp av språkmodeller för att generera och söka över kandidatprompter för att hitta den mest effektiva för en given uppgift. [5]
6. Tillhandahålla relevant kontext och exempel: Att inkludera domänspecifik information, riktlinjer för kodningsstil och exempel på input-output i prompten kan hjälpa till att styra modellen mot mer exakt och relevant kodgenerering.[1][3]
Nyckeln är att iterativt experimentera med snabb design, testning och förfining för att hitta de mest effektiva uppmaningarna för dina specifika kodningsuppgifter och språkmodell. Noggrann och snabb ingenjörskonst kan avsevärt förbättra kapaciteten hos stora språkmodeller för kodningshjälp.
[1] Prompt Engineering for Coding Tasks - Towards Data Science[2] Advanced Prompt Engineering Techniques - Mercity AI[3] Prompt Engineering in 2024: Techniques, Uses & Advanced... - Acorn[4] Avancerad promptteknik: Vad innebär det? - DataScientest.com[5] prompts-advanced-usage.md - GitHub
Citat:[1] https://towardsdatascience.com/prompt-engineering-llms-coding-chatgpt-artificial-intelligence-c16620503e4e?gi=54ae68d69ee0
[2] https://www.mercity.ai/blog-post/advanced-prompt-engineering-techniques
[3] https://www.acorn.io/resources/learning-center/prompt-engineering
[4] https://datascientest.com/en/advanced-prompt-engineering-what-does-it-involve
[5] https://github.com/dair-ai/Prompt-Engineering-Guide/blob/main/guides/prompts-advanced-usage.md