Kỹ thuật nhanh tự động (APE) là một phương pháp được phát triển để tự động tạo và chọn hướng dẫn ngôn ngữ tự nhiên (lời nhắc) cho các mô hình ngôn ngữ lớn (LLM) để cải thiện hiệu suất nhiệm vụ. Nó coi hướng dẫn là một "chương trình" được tối ưu hóa bằng cách tìm kiếm qua một nhóm các ứng cử viên hướng dẫn được tạo bởi LLM, nhằm mục đích tối đa hóa chức năng điểm được chọn cho một nhiệm vụ cụ thể. Hiệu suất của hướng dẫn đã chọn sau đó được đánh giá bằng cách áp dụng nó vào các tác vụ không bắn với LLM khác. Cách tiếp cận này tương phản với kỹ thuật nhắc nhở truyền thống, nơi những lời nhắc được con người chế tạo thủ công.
APE đã được chứng minh là vượt trội so với các lời nhắc cơ sở LLM trước bằng một biên độ đáng kể và đạt được hiệu suất tốt hơn hoặc tương đương với các hướng dẫn do con người tạo ra trên nhiều điểm chuẩn. Ví dụ, các thí nghiệm chứng minh rằng APE vượt trội so với những lời nhắc của con người trên tất cả các số liệu bao gồm tính trung thực và thông tin trong các nhiệm vụ đã định. Trong một bộ gồm 24 nhiệm vụ cảm ứng hướng dẫn và 21 nhiệm vụ băng ghế lớn, các lời nhắc do APE tạo ra tốt hơn hoặc so sánh với các lời nhắc của con người trong 19 và 17 nhiệm vụ tương ứng, cho thấy tính tổng quát và hiệu suất mạnh mẽ.
Quá trình APE liên quan đến việc tạo ra một tập hợp các lời nhắc ứng cử viên đa dạng dựa trên các ví dụ đầu vào đầu vào ban đầu, tiếp theo là ghi điểm các ứng cử viên này theo hiệu quả của họ trong nhiệm vụ. Điều này thường bao gồm đánh giá tự động về tính đúng đắn, thông tin hoặc tính trung thực. Các ứng cử viên trên các tiêu chí nhất định được chọn để cải thiện thêm trong một quy trình lặp, với mô hình ngôn ngữ tạo ra các phiên bản lời nhắc được cải thiện dựa trên phản hồi hiệu suất trước đó. Sự tinh chỉnh lặp đi lặp lại đáng chú ý cho phép APE khám phá các lời nhắc theo chuỗi không cần phải có tốt hơn so với các lời nhắc được thiết kế theo tiêu chuẩn của con người như "Hãy nghĩ từng bước".
Phương pháp tự động của APE mang lại một số lợi ích thực tế so với kỹ thuật nhanh chóng thủ công:
- Nó làm giảm đáng kể thời gian và lao động liên quan đến việc tạo ra kịp thời, với các báo cáo giảm tới 70% trong các chu kỳ phát triển, tăng tốc triển khai các ứng dụng AI.
- Độ chính xác của các phản hồi AI có thể được cải thiện bằng 35% so với các lời nhắc được chế tạo thủ công do thử nghiệm và sàng lọc kỹ lưỡng.
- Tỷ lệ lỗi trong đầu ra AI giảm khoảng 45%, tăng cường độ tin cậy.
- Lợi ích hiệu quả đào tạo vì APE có thể tạo ra dữ liệu đào tạo tổng hợp giúp tăng tốc học mô hình, đặc biệt là có giá trị trong các lĩnh vực chuyên biệt hoặc gây hại dữ liệu.
- Nó cung cấp tùy chỉnh cao và khả năng thích ứng với các trường hợp sử dụng đa dạng, tự động điều chỉnh các chiến lược tạo nhanh theo các nhiệm vụ cụ thể mà không cần chuyên môn của con người.
- Tính nhất quán về chất lượng và đầu ra kịp thời được đảm bảo bằng các quy trình tạo nhắc nhở có hệ thống và lặp lại, giảm sự phụ thuộc vào trực giác hoặc kỹ năng của con người.
So sánh APE với các phương pháp hướng dẫn nhắc nhở khác minh họa những lợi thế độc đáo của nó. Truy xuất thế hệ (RAG) retrieval kết hợp thu hồi và tạo ra nhưng vẫn dựa vào kỹ thuật nhanh chóng thủ công. Tinh chỉnh sửa đổi các tham số mô hình với dữ liệu miền nhưng yêu cầu các bộ dữ liệu lớn và tài nguyên tính toán. Kỹ thuật nhắc nhở thủ công cho phép linh hoạt nhưng tốn thời gian và không nhất quán, trong khi APE tự động hóa sự sáng tạo và tinh chỉnh nhanh chóng, kết hợp khả năng mở rộng với khả năng thích ứng của Kỹ thuật nhanh.
Các phân tích định tính cho thấy các hướng dẫn do APE tạo ra có xu hướng chuyên về các kích thước của tính trung thực và khả năng thông tin, đạt được sự đánh đổi tối ưu Pareto vượt qua những lời nhắc kỹ thuật của con người điển hình. Điều này cho thấy rằng APE có thể hướng dẫn LLM không chỉ cải thiện độ chính xác mà còn hướng tới các đặc tính đầu ra sắc thái phù hợp với nhu cầu ứng dụng. Nó cũng có thể tạo ra các lời nhắc APE được tối ưu hóa cho các thiết lập học tập ít ảnh, nâng cao hiệu suất học tập tổng thể.
Mặc dù có lợi thế, APE có một số hạn chế so với các phương pháp thủ công. Quá trình tìm kiếm lặp để tối ưu hóa có thể được tính toán chuyên sâu và yêu cầu các tài nguyên bổ sung. Hiệu suất hiệu quả phụ thuộc rất nhiều vào chất lượng của chức năng tính điểm được sử dụng để đánh giá lời nhắc của ứng viên và kết quả có thể thay đổi theo các miền hoặc mô hình nhiệm vụ khác nhau. Chuyển hướng dẫn mô hình chéo, trong đó các hướng dẫn được tạo cho một mô hình được áp dụng cho một mô hình khác, bị hạn chế, đòi hỏi phải điều chỉnh các lời nhắc dành riêng cho nhiệm vụ để có kết quả tốt nhất.
Tóm lại, sự khác biệt về hiệu suất chính giữa APE và lời nhắc của con người là:
- APE tạo ra một cách có hệ thống và tinh chỉnh các lời nhắc để tối ưu hóa hiệu suất trên các nhiệm vụ khác nhau, dẫn đến kết quả tốt hơn hoặc có thể so sánh trên nhiều số liệu đánh giá bao gồm độ chính xác, tính trung thực và thông tin.
- Lời nhắc của con người có thể không nhất quán và đòi hỏi nỗ lực của chuyên gia; APE tự động hóa các quy trình này, tiết kiệm thời gian trong khi cải thiện độ chính xác.
- APE có thể thích nghi hơn giữa các nhiệm vụ mà không cần thiết kế lại thủ công, hướng dẫn điều chỉnh hiệu quả.
-Sự đánh đổi là tăng chi phí tính toán và nhu cầu tiềm năng cho tối ưu hóa điểm cụ thể theo nhiệm vụ.
-APE đã được chứng minh như một công cụ thực tế để tăng cường các mô hình không có shot, ít bắn và suy nghĩ về chuỗi, thường vượt qua các gợi ý cơ bản truyền thống của con người.