Ακολουθούν ορισμένες βασικές προηγμένες τεχνικές άμεσης μηχανικής για την κωδικοποίηση εργασιών με μεγάλα γλωσσικά μοντέλα:
1. Κατανόηση της Ερμηνείας του Μοντέλου των Ερωτημάτων που σχετίζονται με την Κωδικοποίηση: Αυτό περιλαμβάνει τη βαθιά κατανόηση των εννοιών προγραμματισμού και τη δυνατότητα να τις διατυπώσετε με τρόπο που το μοντέλο μπορεί να επεξεργαστεί αποτελεσματικά. Ο στόχος είναι η δημιουργία προτροπών που ευθυγραμμίζονται με τις εσωτερικές αναπαραστάσεις και τους μηχανισμούς προσοχής του μοντέλου.[1]
2. Διασύνδεση προτροπής και προτροπή πολλαπλών στροφών: Ανάλυση μιας σύνθετης εργασίας κωδικοποίησης σε μια ακολουθία προτροπών, όπου η έξοδος μιας προτροπής χρησιμοποιείται ως είσοδος για την επόμενη. Αυτό επιτρέπει στο μοντέλο να αντιμετωπίσει την εργασία βήμα προς βήμα.[2][3]
3. Προτροπή Αλυσίδας Σκέψης (CoT): Παροχή στο μοντέλο παραδειγμάτων συλλογισμού βήμα προς βήμα για την επίλυση ενός προβλήματος, καθοδηγώντας το να δημιουργήσει τη δική του αλυσίδα συλλογισμών.[4][5] Αυτό έχει αποδειχθεί ότι βελτιώνει σημαντικά την απόδοση σε σύνθετες συλλογιστικές εργασίες.
4. Προτροπή αυτοσυνέπειας: Μια επέκταση του CoT όπου γίνεται δειγματοληψία πολλαπλών μονοπατιών συλλογισμού και επιλέγεται η πιο συνεπής απάντηση. Αυτό είναι χρήσιμο για ανοιχτά προβλήματα με πολλαπλές έγκυρες λύσεις.[4]
5. Automatic Prompt Engineering (APE): Μια τεχνική που αντιμετωπίζει το ίδιο το μήνυμα ως το "πρόγραμμα" που πρέπει να βελτιστοποιηθεί, χρησιμοποιώντας μοντέλα γλώσσας για τη δημιουργία και την αναζήτηση σε υποψήφιες προτροπές για την εύρεση του πιο αποτελεσματικού για μια δεδομένη εργασία. [5]
6. Παροχή σχετικού πλαισίου και παραδειγμάτων: Η συμπερίληψη πληροφοριών για συγκεκριμένο τομέα, κατευθυντήριων γραμμών στυλ κωδικοποίησης και παραδειγμάτων εισόδου-εξόδου στο μήνυμα προτροπής μπορεί να βοηθήσει στο να κατευθύνει το μοντέλο προς πιο ακριβή και συναφή δημιουργία κώδικα.[1][3]
Το κλειδί είναι να πειραματιστείτε επαναληπτικά με την άμεση σχεδίαση, τη δοκιμή και τη βελτίωση για να βρείτε τις πιο αποτελεσματικές προτροπές για τις συγκεκριμένες εργασίες κωδικοποίησης και το μοντέλο γλώσσας. Η προσεκτική άμεση μηχανική μπορεί να βελτιώσει σημαντικά τις δυνατότητες μεγάλων μοντέλων γλώσσας για βοήθεια κωδικοποίησης.
[1] Prompt Engineering for Coding Tasks - Towards Data Science[2] Advanced Prompt Engineering Techniques - Mercity AI[3] Prompt Engineering in 2024: Techniques, Uses & Advanced... - Acorn[4] Advanced Prompt Engineering: Τι περιλαμβάνει; - DataScientest.com[5] prompts-advanced-usage.md - GitHub
Αναφορές:[1] https://towardsdatascience.com/prompt-engineering-llms-coding-chatgpt-artificial-intelligence-c16620503e4e?gi=54ae68d69ee0
[2] https://www.mercity.ai/blog-post/advanced-prompt-engineering-techniques
[3] https://www.acorn.io/resources/learning-center/prompt-engineering
[4] https://datascientest.com/en/advanced-prompt-engineering-what-does-it-involve
[5] https://github.com/dair-ai/Prompt-Engineering-Guide/blob/main/guides/prompts-advanced-usage.md