Deepseek-r1, enquanto um avanço notável em inteligência artificial, enfrenta vários desafios específicos nas tarefas de engenharia de software:
1. Longos tempos de avaliação: o modelo luta com tarefas que requerem verificação extensa, que pode retardar o processo de aprendizado de reforço (RL). Essa ineficiência afeta seu desempenho nos benchmarks de engenharia de software, pois o modelo não mostra melhorias significativas em relação ao seu antecessor, Deepseek-V3, nesta área [2] [3].
2. Sensibilidade ao aviso: Deepseek-r1 é sensível à estrutura e formato dos avisos. Ele tem um desempenho ruim com cenários com vários turnos ou poucos anos, que são comuns em contextos de engenharia de software. A recomendação é usar uma abordagem de tiro zero para obter melhores resultados, indicando uma limitação em sua flexibilidade e adaptabilidade durante as interações [2] [4].
3. Limitações gerais de capacidade: embora o Deepseek-R1 se destaque nas tarefas de raciocínio, ela fica aquém dos recursos mais amplos necessários para tarefas complexas de engenharia de software, como chamadas de função e lidar com saídas JSON. Essa lacuna sugere que, embora possa enfrentar alguns desafios de codificação, pode não ser confiável para requisitos de programação mais complexos [3] [4].
4. Vieses culturais e contextuais: o treinamento em conjuntos de dados localizados pode levar a vieses que afetam seu desempenho globalmente. Essa limitação pode dificultar sua eficácia em diversos ambientes de engenharia de software que exigem uma compreensão diferenciada de vários contextos culturais [1] [2].
5. Falta de parcerias fortes: A ausência de parcerias e integrações robustas com plataformas estabelecidas pode limitar sua adoção entre os desenvolvedores que geralmente dependem de ferramentas bem apoiadas para tarefas de engenharia de software [1] [4].
Esses desafios indicam que, embora o DeepSeek-R1 tenha feito progressos nos recursos de IA, ele ainda exige um desenvolvimento adicional para abordar completamente as complexidades inerentes às tarefas de engenharia de software.
Citações:[1] https://arbisoft.com/blogs/deep-seek-r1-the-chinese-ai-powerhouse-oundforming-open-ai-s-o1-at-95-sem-custo
[2] https://www.ctol.digital/news/technical-review-deepseek-r1-redefining-reonomening-ai/
[3] https://arxiv.org/html/2501.12948v1
[4] https://felloai.com/2025/01/deepseek-r1-the-open-source-ai-thats-beating-google-an
[5] https://www.reddit.com/r/localllama/comments/1i7fjqm/deepseek_r1_is_unusable_imho/
[6] https://aipapersacademy.com/deepseek-r1/
[7] https://github.com/deepseek-ai/deepseek-r1/issues/26
[8] https://www.reddit.com/r/openai/comments/1i5pr7q/it_just_happened_deepseekr1_is_here/