| AsyncCallBackManagerForFoolRun a CallbackManagerFortOolRun jsou součástí knihovny Langchain, která je navržena tak, aby zpracovávala zpětná volání během provádění nástroje. V zásadě se však liší ve svém přístupu k asynchronním operacím.
Asynchronní manipulace
** AsyncCallbackManagerFortOolRun je speciálně navržen pro správu asynchronních hovorů. Využívá funkce Pythona „async“ a `čeká“, což mu umožňuje zvládnout operace, které mohou trvat čas na dokončení bez blokování provedení jiného kódu. To znamená, že když je volána asynchronní funkce, může program pokračovat v provádění dalších úkolů při čekání na výsledek asynchronní operace. Například může efektivně spravovat úkoly, jako jsou volání API nebo I/O operace, tím, že ovládá kontrolu zpět do smyčky události, dokud operace dokončí [1] [7].
Naproti tomu CallbackManagerforToolRun působí synchronně. To znamená, že když je funkce volána, musí dokončit provedení před vrácením ovládání do volací funkce. Pokud synchronní operace zahrnuje čekání na externí zdroj (jako je dotaz databáze), bude blokovat další provedení, dokud nebude operace dokončena. To může vést k neefektivnosti, zejména ve scénářích, kde by mohlo být souběžně prováděno více úkolů [3] [4].
Případy a výkon použití
Volba mezi těmito dvěma manažery často závisí na specifických požadavcích aplikace:
- AsyncCallbackManagerForFoolRun je ideální pro aplikace, které vyžadují vysokou citlivost a potřebují současně spravovat více úkolů vázaných na I/O. Umožňuje vývojářům psát kód, který vypadá synchronně, přičemž stále těží z neblokovacího chování, což může vést k lepšímu výkonu v aplikacích s mnoha souběžnými operacemi [1] [5].
- CallbackManagerFortOolRun, na druhé straně, může být vhodnější pro jednodušší aplikace nebo ty, které nevyžadují zpracování více souběžných úkolů. Zjednodušuje strukturu kódu, ale za cenu potenciálních úzkých míst výkonu při čekání na dlouhodobé operace [2] [6].
Stručně řečeno, AsyncCallbackManagerForFoolRun zvyšuje výkon a citlivost prostřednictvím asynchronních programovacích paradigmat, zatímco CallbackManagerFortOolrun poskytuje přímý synchronní přístup vhodný pro méně složité scénáře.
Citace:
[1] https://api.python.langchain.com/en/latest/callbacks/langchain_core.callbacks.manager.asynccallbackManagerforToolrun.html
[2] https://www.reddit.com/r/dotnet/comments/fr8hae/is_there_any_benefit_to_asyncawait_if_youre_just/
[3] https://blog.langchain.dev/structured-tools/
[4] https://stackoverflow.com/questions/36213948/what-is-the-difference-between-asynchronní-calls-and-callbacks
[5] https://github.com/langchain-ai/langchain/blob/master/libs/core/langchain_core/callbacks/manager.py
[6] https://anvil.works/forum/t/what-is-the-best-pactice-for-Asynchrons-loading-component-tata/3575
[7] https://python.langchain.com/api_reference/core/callbacks.html
[8] https://www.digitaliocean.com/community/tutorials/unstanding-the-event-loop-callbacks-promise-and-async-await-in-javascript