Нижче наведено кілька ключових розширених інженерних методів підказок для завдань кодування за допомогою великих мовних моделей:
1. Розуміння інтерпретації моделлю запитів, пов’язаних із кодуванням: це передбачає глибоке розуміння концепцій програмування та здатність сформулювати їх таким чином, щоб модель могла ефективно обробляти. Мета полягає в створенні підказок, які відповідають внутрішнім представленням моделі та механізмам уваги.[1]
2. Ланцюжок підказок і багатоповоротні підказки: розбиття складного завдання кодування на послідовність підказок, де вихідні дані однієї підказки використовуються як вхідні дані для наступної. Це дозволяє моделі вирішувати завдання крок за кроком.[2][3]
3. Підказка за ланцюжком думок (CoT): надання моделі прикладів покрокових міркувань для вирішення проблеми, скеровуючи її для створення власного ланцюжка міркувань.[4][5] Було показано, що це значно покращує продуктивність складних завдань на аргументацію.
4. Підказ самоузгодженості: Розширення CoT, де відбирається кілька шляхів міркування та вибирається найбільш узгоджена відповідь. Це корисно для відкритих задач із декількома дійсними рішеннями.[4]
5. Automatic Prompt Engineering (APE): техніка, яка розглядає саму підказку як «програму», яку потрібно оптимізувати, використовуючи мовні моделі для генерації та пошуку підказок-кандидатів, щоб знайти найбільш ефективну для певного завдання. [5]
6. Надання релевантного контексту та прикладів: включення в підказку інформації, що стосується предметної області, інструкцій щодо стилю кодування та прикладів вводу-виводу, може допомогти скерувати модель до більш точного та релевантного генерування коду.[1][3]
Головне — ітеративно експериментувати зі швидким дизайном, тестуванням і вдосконаленням, щоб знайти найефективніші підказки для ваших конкретних завдань кодування та мовної моделі. Ретельна оперативна розробка може значно розширити можливості великих мовних моделей для допомоги в кодуванні.
[1] Швидка розробка для завдань кодування - На шляху до науки про дані[2] Advanced Prompt Engineering Techniques – Mercity AI[3] Prompt Engineering in 2024: Techniques, Uses & Advanced... – Acorn[4] Advanced Prompt Engineering: Що це включає? - DataScientest.com[5] prompts-advanced-usage.md - GitHub
цитати:[1] https://towardsdatascience.com/prompt-engineering-llms-coding-chatgpt-artificial-intelligence-c16620503e4e?gi=54ae68d69ee0
[2] https://www.mercity.ai/blog-post/advanced-prompt-engineering-techniques
[3] https://www.acorn.io/resources/learning-center/prompt-engineering
[4] https://datascientest.com/en/advanced-prompt-engineering-what-does-it-involve
[5] https://github.com/dair-ai/Prompt-Engineering-Guide/blob/main/guides/prompts-advanced-usage.md