Štai keletas pagrindinių pažangių greitosios inžinerijos metodų, skirtų kodavimo užduotims naudojant didelius kalbos modelius:
1. Supratimas, kaip modelis interpretuoja su kodavimu susijusias užklausas: tai apima gilų programavimo sąvokų supratimą ir gebėjimą jas suformuluoti taip, kad modelis galėtų efektyviai apdoroti. Tikslas yra sukurti raginimus, kurie atitiktų modelio vidinius vaizdus ir dėmesio mechanizmus.[1]
2. Prompt Chaining ir Multi-Turn Prompting: sudėtingos kodavimo užduoties suskaidymas į raginimų seką, kai vienos raginimo išvestis naudojama kaip kito įvestis. Tai leidžia modeliui atlikti užduotį žingsnis po žingsnio.[2][3]
3. Minčių grandinės (CoT) raginimas: modeliui pateikiami nuoseklaus samprotavimo pavyzdžiai, siekiant išspręsti problemą, nukreipti jį sukurti savo samprotavimo grandinę.[4][5] Įrodyta, kad tai žymiai pagerina sudėtingų samprotavimo užduočių našumą.
4. Savarankiško nuoseklumo raginimas: CoT plėtinys, kai atrenkami keli samprotavimo būdai ir pasirenkamas nuosekliausias atsakymas. Tai naudinga atviroms problemoms su keliais galiojančiais sprendimais.[4]
5. Automatinis raginimas (APE): metodas, kuris patį raginimą traktuoja kaip „programą“, kurią reikia optimizuoti, naudojant kalbos modelius kandidatų raginimams generuoti ir ieškoti, kad būtų galima rasti efektyviausią konkrečiai užduočiai atlikti. [5]
6. Atitinkamo konteksto ir pavyzdžių pateikimas: įtraukus konkretaus domeno informaciją, kodavimo stiliaus gaires ir įvesties-išvesties pavyzdžius į raginimą, modelis gali padėti sukurti tikslesnį ir aktualesnį kodą.[1][3]
Svarbiausia yra pakartotinai eksperimentuoti su greitu projektavimu, testavimu ir tobulinimu, siekiant rasti efektyviausius raginimus konkrečioms kodavimo užduotims ir kalbos modeliui. Kruopšti ir greita inžinerija gali žymiai padidinti didelių kalbų modelių, skirtų kodavimui, galimybes.
[1] Prompt Engineering for Coding Tasks – Towards Data Science[2] Advanced Prompt Engineering Techniques – Mercity AI[3] Prompt Engineering 2024 m.: Techniques, Uses & Advanced... – Acorn[4] Advanced Prompt Engineering: ką tai apima? – DataScientest.com[5] prompts-advanced-usage.md – GitHub
Citatos:[1] https://towardsdatascience.com/prompt-engineering-llms-coding-chatgpt-artificial-intelligence-c16620503e4e?gi=54ae68d69ee0
[2] https://www.mercity.ai/blog-post/advanced-prompt-engineering-techniques
[3] https://www.acorn.io/resources/learning-center/prompt-engineering
[4] https://datascientest.com/en/advanced-prompt-engineering-what-does-it-involve
[5] https://github.com/dair-ai/Prompt-Engineering-Guide/blob/main/guides/prompts-advanced-usage.md