Berikut adalah beberapa teknik rekayasa cepat tingkat lanjut yang penting untuk tugas pengkodean dengan model bahasa besar:
1. Memahami Interpretasi Model terhadap Kueri Terkait Pengkodean: Hal ini melibatkan pemahaman mendalam tentang konsep pemrograman dan kemampuan mengartikulasikannya sedemikian rupa sehingga model dapat memprosesnya secara efektif. Tujuannya adalah untuk menyusun petunjuk yang selaras dengan representasi internal model dan mekanisme perhatian.[1]
2. Prompt Chaining dan Multi-Turn Prompting: Memecah tugas pengkodean yang kompleks menjadi serangkaian perintah, dengan output dari satu perintah digunakan sebagai masukan untuk perintah berikutnya. Hal ini memungkinkan model untuk menangani tugas langkah demi langkah.[2][3]
3. Chain-of-Thought-Thought (CoT) Prompting: Memberikan contoh penalaran langkah demi langkah kepada model untuk memecahkan suatu masalah, memandu model untuk menghasilkan rantai penalarannya sendiri.[4][5] Hal ini telah terbukti secara signifikan meningkatkan kinerja pada tugas-tugas penalaran yang kompleks.
4. Self-Consistency Prompting: Perpanjangan CoT di mana beberapa jalur penalaran diambil sampelnya, dan jawaban yang paling konsisten dipilih. Ini berguna untuk masalah terbuka dengan beberapa solusi valid.[4]
5. Automatic Prompt Engineering (APE): Sebuah teknik yang memperlakukan prompt itu sendiri sebagai "program" yang akan dioptimalkan, menggunakan model bahasa untuk menghasilkan dan mencari kandidat prompt untuk menemukan yang paling efektif untuk tugas tertentu. [5]
6. Memberikan Konteks dan Contoh yang Relevan: Menyertakan informasi khusus domain, pedoman gaya pengkodean, dan contoh input-output dalam perintah dapat membantu mengarahkan model ke arah pembuatan kode yang lebih akurat dan relevan.[1][3]
Kuncinya adalah bereksperimen secara berulang dengan desain, pengujian, dan penyempurnaan yang cepat untuk menemukan perintah yang paling efektif untuk tugas pengkodean dan model bahasa spesifik Anda. Rekayasa cepat yang cermat dapat secara signifikan meningkatkan kemampuan model bahasa besar untuk bantuan pengkodean.
[1] Rekayasa Cepat untuk Tugas Pengkodean - Menuju Ilmu Data[2] Teknik Rekayasa Cepat Tingkat Lanjut - Mercity AI[3] Rekayasa Cepat pada tahun 2024: Teknik, Kegunaan & Tingkat Lanjut... - Acorn[4] Rekayasa Prompt Tingkat Lanjut: Apa saja yang tercakup di dalamnya? - DataScientest.com[5] prompts-advanced-usage.md - GitHub
Kutipan:[1] https://towardsdatascience.com/prompt-engineering-llms-coding-chatgpt-artificial-intelligence-c16620503e4e?gi=54ae68d69ee0
[2] https://www.mercity.ai/blog-post/advanced-prompt-engineering-techniques
[3] https://www.acorn.io/resources/learning-center/prompt-engineering
[4] https://datascientest.com/en/advanced-prompt-engineering-what-does-it-involve
[5] https://github.com/dair-ai/Prompt-Engineering-Guide/blob/main/guides/prompts-advanced-usage.md