Naudojant „AsynccallbackManagerforToolrun“ gali pasiūlyti keletą našumo pranašumų, palyginti su „callbackManagerforToolrun“, ypač scenarijuose, kuriuose apima I/O sujungtas operacijas. Čia yra keletas svarbiausių punktų:
„AsynccallbackManagerforToolrun“ veiklos pranašumai
1. Tai reiškia, kad gijos nėra blokuojamos, leidžiančios geresnį išteklių panaudojimą ir reagavimą programose, ypač žiniatinklio serveriuose ar programose, kuriose tvarkomos kelios vienalaikės užklausos [1] [2].
2. Mastelio keitimas: asinchroninės operacijos gali žymiai pagerinti mastelio keitimą. Leisdamos vieną giją valdyti kelias užduotis neužblokuojant, programos gali atlikti daugiau tuo pačiu metu vykstančių operacijų su mažiau gijų. Tai sumažina pridėtines išlaidas, susijusias su konteksto perjungimu ir sriegių valdymu, o tai ypač naudinga aukšto apkrovos scenarijams [1] [7].
3. Efektyvumas atliekant I/O sujungtas užduotis: Jei jūsų programa dažnai atlieka I/O susijusias užduotis (pvz. . Taip yra todėl, kad „Async“ modelis leidžia programai gauti valdymą į gijų baseiną I/O laukimo metu, atlaisvinant išteklius kitoms užduotims [2] [7].
4. Sumažintos gijos pridėtinės vertės: Tradiciniai atgalinio ryšio mechanizmai dažnai apima sudėtingesnį gijų valdymą ir gali padidinti pridėtines išlaidas dėl konteksto perjungimo tarp gijų. Priešingai, „Async“/„Laukimas“ tai supaprastina, leisdamas tiesiogiau vykdyti vykdymą, išlaikant mažesnį atminties panaudojimą vienoje užduotyje [6] [8].
5. Geresnis šaltinių panaudojimas: kadangi „Async“ operacijoms nereikia skirti specialių gijų kiekvienai užduočiai, jos leidžia geriau panaudoti CPU. Tai ypač svarbu aplinkoje, kurioje daug užduočių yra su I/O, nes tai leidžia sistemai pateikti daugiau prašymų vienu metu, nereikia proporcingai padidinti gijų [1] [6].
Apsvarstymai
Nors yra pastebimų privalumų, būtina pripažinti, kad naudojant „ASYNC/Laukimas“, dėl užduočių kūrimo ir planavimo pateikiami šiek tiek pridėtinės išlaidos. Vykdant CPU susijusias užduotis, našumas gali nepagerėti ir dėl šios pridėtinės išlaidos net gali šiek tiek pablogėti. Taigi sprendimas naudoti „asinccallbackManagerforToolrun“ turėtų būti grindžiamas konkrečiomis jūsų programos darbo krūvio charakteristikomis, teikiant pirmenybę jam dirbant su reikšmingomis I/O operacijomis, tačiau atsargiai atliekant CPU reikalaujančias užduotis [1] [2] [7].
Apibendrinant galima pasakyti, kad jei jūsų programa apima daugybę asinchroninių I/O operacijų, „AsynccallbackManagerforToolrun“ greičiausiai užtikrins geresnį našumą ir mastelį, palyginti su „callbackManagerforToolrun“.
Citatos:
[1] https://stackoverflow.com/questions/36683468/can-using-async-aweit-give-you- oan-coform-benefits
]
[3] https://api.python.langchain.com/en/latest/callbacks/langchain_core.callbacks.manager.asynccallbackManagerforToolrun.html
[4] https://api.python.langchain.com/en/latest/core/callbacks/langchain_core.callbacks.manager.asynclbackManagerforToolrun.html
[5] https://www.reddit.com/r/reActjs/comments/nlnzvl/what_is_the_benefit_of_asyncawait/
[6] https://users.rust-lang.org/t/when-why-is-async-good-for-performance/35187
[7] https://ardalis.com/better-performance-from-async-operations/
[8] https://kobzol.github.io/rust/2025/01/15/async-riust-is-out-concurrency.html