Aqui estão algumas técnicas avançadas de engenharia de prompt para tarefas de codificação com modelos de linguagem grandes:
1. Compreender a interpretação do modelo de consultas relacionadas à codificação: Isso envolve ter um entendimento profundo dos conceitos de programação e ser capaz de articulá-los de uma forma que o modelo possa processar de maneira eficaz. O objetivo é criar prompts que se alinhem com as representações internas e mecanismos de atenção do modelo.[1]
2. Encadeamento de prompts e prompts multivoltas: divisão de uma tarefa de codificação complexa em uma sequência de prompts, onde a saída de um prompt é usada como entrada para o próximo. Isso permite que o modelo resolva a tarefa passo a passo.[2][3]
3. Solicitação de Cadeia de Pensamento (CoT): Fornece ao modelo exemplos de raciocínio passo a passo para resolver um problema, orientando-o a gerar sua própria cadeia de raciocínio.[4][5] Foi demonstrado que isso melhora significativamente o desempenho em tarefas complexas de raciocínio.
4. Solicitação de autoconsistência: uma extensão do CoT onde vários caminhos de raciocínio são amostrados e a resposta mais autoconsistente é selecionada. Isso é útil para problemas abertos com múltiplas soluções válidas.[4]
5. Engenharia Automática de Prompts (APE): Uma técnica que trata o próprio prompt como o "programa" a ser otimizado, usando modelos de linguagem para gerar e pesquisar prompts candidatos para encontrar o mais eficaz para uma determinada tarefa. [5]
6. Fornecendo contexto e exemplos relevantes: Incluir informações específicas do domínio, diretrizes de estilo de codificação e exemplos de entrada-saída no prompt pode ajudar a orientar o modelo para uma geração de código mais precisa e relevante.[1][3]
A chave é experimentar iterativamente o design, teste e refinamento dos prompts para encontrar os prompts mais eficazes para suas tarefas de codificação e modelo de linguagem específicos. A engenharia cuidadosa e imediata pode aprimorar significativamente os recursos de grandes modelos de linguagem para assistência de codificação.
[1] Engenharia imediata para tarefas de codificação - Rumo à ciência de dados[2] Técnicas avançadas de engenharia imediata - Mercity AI[3] Engenharia Prompt em 2024: Técnicas, Usos e Avançados... - Acorn[4] Engenharia de Prompt Avançada: O que isso envolve? - DataScientest.com[5] prompts-advanced-usage.md - GitHub
Citações:[1] https://towardsdatascience.com/prompt-engineering-llms-coding-chatgpt-artificial-intelligence-c16620503e4e?gi=54ae68d69ee0
[2] https://www.mercity.ai/blog-post/advanced-prompt-engineering-techniques
[3] https://www.acorn.io/resources/learning-center/prompt-engineering
[4] https://datascientest.com/en/advanced-prompt-engineering-what-does-it-involve
[5] https://github.com/dair-ai/Prompt-Engineering-Guide/blob/main/guides/prompts-advanced-usage.md