„AsynccallbackManagerforToolrun“ inicijavimo procesas ir „CallbackManagerforToolrun“ Langchaino bibliotekoje pirmiausia skiriasi tvarkant asinchronines operacijas.
AsynccallbackManagerforToolrun
** Inicijavimas:
- „AsynccallbackManagerforToolrun“ yra skirtas valdyti asinchroninius atšaukimus vykdant įrankį. Jis inicijuojamas keliais parametrais, įskaitant:
- „Run_ID“: unikalus bėgimo identifikatorius.
- „Prižiūrėtojai“: atgalinio ryšio tvarkytojų sąrašas, kuris bus naudojamas bėgimo metu.
- `paveldėti_handlers`,` parent_run_id`, `etiketės", `paveldėti_tags`,` metaduomenys ir `paveldimai_metadata`: pasirenkami parametrai, leidžiantys sudėtingesnes konfigūracijas ir duomenų tvarkymą vykdant asinchronines užduotis [1] [2].
** Asinchroninės operacijos:
- Šis vadovas leidžia operacijoms neužblokuoti, tai reiškia, kad ji gali atlikti kelias užduotis vienu metu, nelaukdamas, kol kiekviena bus baigta prieš pradedant kitą. Tai ypač naudinga scenarijuose, kai užduotys gali užtrukti įvairaus laiko, nes tai padidina pralaidumą ir reagavimą [8].
„CallbackManagerforToolRun“
** Inicijavimas:
- Kita vertus, „CallbackManagerforToolrun“ yra skirtas sinchroninėms operacijoms. Jis dalijasi panašiu inicijavimo parašu, priimančiu parametrus, tokius kaip „run_id“, „tvarkytojai“ ir kt., Tačiau jis veikia pagal sinchroninę paradigmą [9].
** Sinchroninės operacijos:
- Šiuo atveju operacijos blokuoja; Kiekviena užduotis turi būti atlikta prieš prasidedant kitam. Tai gali sukelti neveiksmingumą, kai reikia atlikti užduotis, kurių vykdymo laikas yra kintamas, nes visą procesą galima sulėtinti atliekant vieną ilgai trunkančią užduotį [8].
Skirtumų santrauka
- Asinchroninis ir sinchroninis: Pagrindinis skirtumas yra jų veikimo modelio „AsynccallbackManagerforToolRun“ palaikymas palaiko neužblokavimo vykdymą, o „CallbackManagerforToolrun“ laikosi blokavimo požiūrio.
- Poveikis našumui: „Async Manager“ geriau tinka didelio pralaidumo aplinkai, kai tuo pačiu metu reikia apdoroti daugybę užduočių, tuo tarpu sinchronizavimo tvarkyklė gali būti paprastesnė, tačiau dėl blokuojančio pobūdžio gali būti lėtesnis.
Šie skirtumai pabrėžia, kaip kiekvienas vadybininkas yra pritaikytas konkretiems naudojimo atvejams „Langchain“ sistemoje, leidžiant kūrėjams pasirinkti tinkamą modelį, atsižvelgiant į jų programos reikalavimus.
Citatos:
[1] https://api.python.langchain.com/en/latest/core/callbacks/langchain_core.callbacks.manager.asynccallbackManagerforToolrun.html
[2] https://api.python.langchain.com/en/latest/callbacks/langchain_core.callbacks.manager.asynccallbackManagerforToolrun.html
[3] https://sj-langchain.readthedocs.io/en/latest/callbacks/langchain.callbacks.manager.asynccallbackManagerforToolrun.html
]
[5] https://github.com/langchain-ai/langchain/issues/6828
[6] https://thomaslevesque.com/tags/async/
[7] https://stackoverflow.com/questions/26268870/initialize-async-onsicy-once-pattern
[8] https://www.mendix.com/blog/asynchronous-vs-synchronous-programming/
[9] https://github.com/langchain-ai/langchain/blob/master/libs/core/langchain_core/callbacks/manager.py