Запуск DeepSeek Onlise передбачає кілька факторів, які впливають на витрати на споживання енергії. Ось детальний розбиття цих факторів та те, як вони сприяють загальній енергетичній витратах:
1. Енергоефективність апаратного забезпечення DeepSeek: DeepSeek відома своїми енергоефективними системами, які споживають значно меншу потужність порівняно з іншими постачальниками ШІ. Наприклад, сервери DeepSeek використовують близько 1,2 кВт / год для інтенсивних навантажень, тоді як подібні системи можуть використовувати до 1,8 кВт / год [1]. Ця ефективність може призвести до значної економії витрат на енергію, особливо для центрів обробки даних, які працюють постійно.
2. Масштабованість та модульна конструкція: Масштабована інфраструктура DeepSeek дозволяє підприємствам починати з менших налаштувань та розширювати за потребою. Цей модульний підхід допомагає уникнути непотрібних інвестицій в апаратне забезпечення, що також може зменшити загальне споживання енергії, гарантуючи, що лише необхідні компоненти працюють [1]. Крім того, можливість модернізації окремих компонентів, таких як GPU, замість заміни цілих систем може додатково зменшити використання енергії та витрати.
3. Оптимізований висновок та навчання: архітектура DeepSeek, яка включає суміш експертів (MOE) рамки та багатоголівної латентної уваги (MLA), оптимізує обчислювальні показники, зменшуючи споживання електроенергії [6]. Ця оптимізація має вирішальне значення для підтримки високої продуктивності, мінімізуючи використання енергії як на навчальних, так і умовах виводу.
4. Вимоги до апаратних засобів: Запуск моделей DeepSeek вимагає значних обчислювальних ресурсів, включаючи висококласні графічні процесори та значну оперативну пам’ять. Наприклад, налаштування з подвійним процесором EPYC та 384 ГБ оперативної пам’яті може запускати певні версії DeepSeek без GPU, але більш потужні моделі, такі як DeepSeek-R1, потребують значної потужності GPU [8] [9]. Вартість апаратного забезпечення прискорення AI для DeepSeek-R1 може становити близько 250 000 доларів, а запуск таких моделей на місцях буде споживати значну енергію [9].
5. Порівняння з хмарними послугами: під час роботи DeepSeek Onlise пропонує повний контроль над даними і може бути економічно вигідним у довгостроковій перспективі, використання хмарних послуг, таких як Azure, може забезпечити альтернативу з потенційно нижчими передовими витратами. Однак хмарні послуги несуть постійні операційні витрати, включаючи витрати на енергоносії опосередковано передані через плату за обслуговування [9].
6. Зниження споживання енергії: енергоефективність DeepSeek може зменшити споживання електроенергії на 50% до 75% порівняно з конкурентами, що особливо корисно для масштабних розгортання [4]. Ця ефективність не тільки знижує експлуатаційні витрати, але й сприяє більш стійкому рішенням AI.
Підсумовуючи це, під час роботи DeepSeek Online може бути рентабельним завдяки енергоефективній конструкції та масштабованій інфраструктурі, початкові інвестиції в апаратні та постійні витрати на енергоносії залишаються значущими. Вибір між локальною розгортанням та хмарними послугами залежить від конкретних організаційних потреб, включаючи безпеку даних, вимоги масштабності та бюджетні обмеження.
Цитати:
[1] https://redresscompliance.com/10-reasons-why-deepseek-hardware-and-technology-is-lower-cost-than-other-ai-providers/
[2] https://www.oneclickitsolution.com/centerofexcellence/aiml/deepseek-models-minimum-system-requirements
[3] https://www.reddit.com/r/ollama/comments/1i9zv0u/deepseek_r1_webui_energy_costs/
[4] https://www.rinnovabili.net/business/markets/deepseeks-energy-consumpy-ais-75-cute-cut/
[5] https://www.reddit.com/r/localllm/comments/1i6j3ih/how_to_install_deepseek_what_models_and/
[6] https://www.n-ix.com/deepseek-explained/
[7] https://www.gptbots.ai/blog/deepseek-enterprise-on-premise
[8] https://huggingface.co/deepseek-ai/deepseek-r1/discussions/19
4