„Deepseek“ naudojimas komercinės lentynos (COTS) aparatūra žymiai padidina jos ekonomiškumą keliais pagrindiniais būdais:
1. Sumažėjusios infrastruktūros išlaidos: Pasinaudojant COTS aparatine įranga, „Deepseek“ išvengia brangių, specializuotų sistemų, paprastai reikalingų didelio našumo AI plėtrai, poreikį. Šis požiūris sumažina infrastruktūros išlaidas, todėl pažangiosios AI galimybės tampa prieinamesnės mažesnėms įmonėms ir sumažina finansines kliūtis patekti į AI rinką [1] [3].
2. Optimizuotas išteklių panaudojimas: „Deepseek“ strategija apima programinės įrangos optimizavimą, kad būtų galima išgauti maksimalią vertę iš esamų išteklių. Tokie metodai, tokie kaip ekspertų mišinio (MOE) architektūra, leidžia modeliui suaktyvinti tik reikiamus parametrus konkrečioms užduotims, sumažinti skaičiavimo atliekas ir sumažinti aukštos klasės GPU poreikį [3] [10]. Šis tikslinis požiūris ne tik sumažina sąnaudas, bet ir pratęsia aparatinės įrangos gyvenimo trukmę bei sumažina energijos suvartojimą.
3. Racionalus mokymo procesas: „DeepSeee“ apeina tradicinius mokymo etapus, tokius kaip prižiūrimas Fin-Shot (SFS) stadija, įgyvendinant tiesioginį dujotiekį nuo išankstinio rašymo iki sustiprinimo iš žmonių atsiliepimų (RLHF). Šis supaprastintas procesas sumažina mokymo laiką ir skaičiavimo išteklius, reikalingus modelio kūrimui, dar labiau prisidedant prie ekonominio efektyvumo [1] [3].
4. Žinių distiliavimas: „Deepseek“ sėkmingai distiliuoja žinias iš didesnių modelių iki mažesnių, be reikšmingo našumo pablogėjimo. Pavyzdžiui, jis suspaudė 671B parametro modelį į 70B, išlaikydamas beveik identišką našumą. Šis modelio dydžio efektyvumas leidžia diegti mažiau galingą aparatinę įrangą, suderinti su COTS strategija ir sumažinti veiklos sąnaudas [1] [3].
Tačiau taip pat yra pranešimų, teigiančių, kad faktinės „Deepseek“ aparatinės įrangos investicijos gali būti reikšmingesnės, nei teigiama iš pradžių, o įvertinimai rodo dideles išlaidas GPU [4]. Nepaisant to, bendrovės požiūris į ekonomiškos aparatinės įrangos panaudojimą ir programinės įrangos efektyvumo optimizavimas išlieka pagrindinis jo ekonominio efektyvumo veiksnys, palyginti su konkurentais, tokiais kaip „Openai“ [2] [3].
Apskritai, „Deepseek“ COTS aparatinės įrangos naudojimas kartu su novatoriškomis programinės įrangos optimizavimais nurodo ją kaip ekonomiškos AI plėtros lyderę, siūlančią tiek finansinius, tiek strateginius pranašumus AI kraštovaizdyje [2] [3].
Citatos:
[1] https://fabrix.ai/blog/deepseek-revolutionizing-ai-development-reugh-cost-fost-fefictive innovation/
[2] https://www.linkedin.com/pulse/deepseek-vs-openai-comparion-ai-strategies-hardware-costs-george-l5n3e
[3] https://www.chitika.com/deepseek-enterprise-implications/
[4] https://economictimes.com/news/international/us/was-it-a-lie-by-the-chinese-startup-industry-analyst-says-deepseek-curred-1-6 milijardo-in-hard-hos-and-has-a-fleet-50000-nvidia-hopper-gpus/articleshowleshhow/11789460.cms
[5] https://www.reddit.com/r/localllama/comments/1hp6ejz/seeing_advice_on_cosffective_hardware_for/
[6] https://cloudfabrix.com/blog/deepseek-revolutionizing-ai-development-reugh-cost-fost-fefctive-inovation/
[7] https://www.capacitymedia.com/article/behind-the-deepseek-hype-costs-safety-disks-and-censorship-išspausdinta
[8] https://www.byteplus.com/en/topic/382891
[9] https://www.reddit.com/r/singularity/comments/1id60qi/big_misconceptions_of_training_costs_for_deepsee/
[10] https://news.cgtn.com/news/2025-02-09/catalyst-deepseee-the-innovation-rehind-its-cost-fost-feficicy-1arbdoshtq8/p.html