AsyncCallbackManagerforfortoolrun i CallbackManagerforfortoolrun są częścią biblioteki Langchain, zaprojektowanej do obsługi zwrotów podczas wykonywania narzędzia. Różnią się jednak zasadniczo podejściem do operacji asynchronicznych.
Prowadzenie asynchroniczne
** AsyncCallbackManagerforfortoolrun jest specjalnie zaprojektowany do zarządzania połączeniami asynchronicznymi. Wykorzystuje funkcje Pythona „async” i „czekają”, pozwalając mu obsługiwać operacje, które mogą zająć czas bez blokowania wykonywania innego kodu. Oznacza to, że po wywołaniu funkcji asynchronicznej program może kontynuować wykonywanie innych zadań podczas oczekiwania na wynik działania asynchronicznego. Na przykład może skutecznie zarządzać zadaniami, takimi jak połączenia API lub operacje we/wy, dając kontrolę z powrotem do pętli zdarzenia, dopóki operacja się nie zakończy [1] [7].
Natomiast CallbackManagerforfortoolrun działa synchronicznie. Oznacza to, że po wywołaniu funkcji musi ukończyć wykonanie przed zwróceniem kontroli do funkcji wywołania. Jeśli operacja synchroniczna polega na oczekiwaniu na zewnętrzny zasób (jak zapytanie bazy danych), będzie blokować dalsze wykonanie do momentu zakończenia operacji. Może to prowadzić do nieefektywności, szczególnie w scenariuszach, w których można wykonywać wiele zadań jednocześnie [3] [4].
przypadki użycia i wydajność
Wybór między tymi dwoma menedżerami często zależy od konkretnych wymagań aplikacji:
- AsynccallbackManagerforfortoolrun jest idealny do aplikacji wymagających dużej reakcji i muszą jednocześnie zarządzać wieloma zadaniami związanymi z we/wy. Umożliwia programistom pisanie kodu, który wygląda na synchronicznie, jednocześnie korzystając z zachowań nie blokujących, co może prowadzić do lepszej wydajności w aplikacjach z wieloma współbieżnymi operacjami [1] [5].
- Z drugiej strony CallbackManagerforfortoolrun może być bardziej odpowiedni do prostszych aplikacji lub tych, które nie wymagają obsługi wielu współbieżnych zadań. Upraszcza strukturę kodu, ale kosztem potencjalnych wąskich gardeł wydajności podczas oczekiwania na długotrwałe operacje [2] [6].
Podsumowując, AsyncCallbackManagerforfortoolrun zwiększa wydajność i reakcję poprzez asynchroniczne paradygmaty programowania, podczas gdy CallbackManagerforfortoolrun zapewnia proste synchroniczne podejście odpowiednie dla mniej złożonych scenariuszy.
Cytaty:
[1] https://api.python.langchain.com/en/latest/callbacks/langchain_core.callback.manager.asynccallbackmanagerforfortolrun.html
[2] https://www.reddit.com/r/dotnet/comments/fr8hae/is_there_any_benefit_to_asyncawait_if_youre_just/
[3] https://blog.langchain.dev/structured-tools/
[4] https://stackoverflow.com/questions/36213948/what-is-the-difference-between-aSynchronious-calls-and-callback
[5] https://github.com/langchain-ai/langchain/blob/master/libs/core/langchain_core/callbacks/manager.py
[6] https://anvil.works/forum/t/what-is-the-best-practice-for-asynchronicznie-loading-component-data/3575
[7] https://python.langchain.com/api_reference/core/callbacks.html
[8] https://www.digitalocean.com/community/tutorials/understanding-the-event-loop-callbacks-promises-and-async-await-in-javascript