Servidor de inferência LLM local AS711 / AS713 — 512 GB / 1024 GB de memória para IA

Inferência local de modelos LLM para projetos de IA empresarial

Os modelos AS711 e AS713 são servidores de inferência de IA com grande capacidade de memória, concebidos para executar modelos linguísticos de grande dimensão em infraestruturas locais. Destinam-se a implementações de IA em empresas, projetos de integração de software e organizações que estejam a avaliar hardware dedicado para aplicações privadas de IA.

O AS713 oferece 512 GB de memória aceleradora LPDDR5X. O AS711 aumenta esta capacidade para 1024 GB e inclui mais memória RAM do sistema e um SSD de dados adicional.

Ambos os modelos utilizam uma caixa compacta em formato de torre com refrigeração ativa a ar. O Ubuntu e o Kylin Linux constam na lista de sistemas operativos suportados.

AS711 vs AS713: Que configuração deve escolher?

Escolha o AS713 quando a configuração da memória do acelerador de 512 GB corresponder aos requisitos do modelo e da carga de trabalho que selecionou.

Considere o AS711 quando o seu projeto necessitar de memória adicional para o acelerador, de RAM do sistema ou de armazenamento local. A compatibilidade do modelo e o desempenho efetivo devem ser avaliados separadamente da capacidade de memória.

Especificações de hardware

As seguintes especificações da plataforma constam na apresentação do produto AS71X do fornecedor, versão 1.2.0. Confirme a configuração selecionada na sua cotação.

Os valores de desempenho referem-se às especificações de hardware publicadas. O rendimento das aplicações depende do modelo, da precisão, do comprimento do contexto, do software e da carga de trabalho.

O valor de 2000 W corresponde à potência nominal da fonte de alimentação, e não ao consumo típico de funcionamento indicado.

Benchmarks publicados sobre inferência em LLM

O fornecedor apresenta os seguintes resultados, utilizando a precisão FP8 e a ferramenta de teste vLLM.

Como interpretar estes resultados: O resultado de 520 tokens/s aplica-se ao Qwen3.5-35B no lote 32 e com a configuração de contexto de 8K indicada. Trata-se de um resultado de rendimento em lote, não de uma velocidade de geração garantida para cada utilizador.

Estes são resultados comunicados pelo fornecedor, não testes de desempenho independentes realizados pela PunkHash. A fonte não identifica a configuração exata do AS711 ou do AS713 utilizada em cada teste, a versão do software nem os comprimentos completos das entradas e saídas. Solicite uma avaliação específica para a sua carga de trabalho antes de utilizar estes valores para o planeamento da capacidade.

Fonte: Introdução ao produto AS71X v1.2.0, agosto de 2026, secção de testes de desempenho.

Compatibilidade do modelo e estado da adaptação

A documentação do fornecedor distingue entre adaptações concluídas, otimizações em curso e trabalhos futuros.

A documentação refere também a compatibilidade com um contexto de 32K com o MiniMax-M2.7. A tabela de resultados de testes de desempenho publicada acima utiliza uma configuração de contexto de 8K.

As versões dos modelos e os pacotes de software vão evoluindo. Confirme o ponto de verificação exato do modelo, a precisão e o pacote de implementação correspondentes à sua encomenda.

Cenários práticos de implementação

Assistentes de Conhecimento Empresarial

Avaliar um modelo de linguagem local no âmbito de um assistente de conhecimento interno. A aplicação completa poderá também requerer a importação de documentos, software de pesquisa, permissões e uma interface de utilizador.

Fluxos de trabalho relativos a concursos e propostas

Com uma camada de aplicação adequada, a inferência local pode apoiar os fluxos de trabalho de pesquisa, resumo e elaboração de documentos de concurso. O fornecedor inclui as soluções de assistência a concursos entre as suas aplicações-alvo.

Aplicações nas áreas financeira, editorial e da saúde

O fornecedor identifica os setores bancário, de valores mobiliários, editorial e da saúde como setores-alvo para soluções fornecidas por parceiros. A integração específica para cada aplicação, os controlos de acesso e os testes de aceitação devem ser incluídos no âmbito do projeto.

Software de IA e integração de sistemas

Os fornecedores independentes de software (ISV) e os integradores de sistemas podem avaliar os modelos AS711 e AS713 como hardware de inferência no âmbito de uma solução para o cliente. O fornecedor descreve a cooperação com os parceiros, que abrange a adaptação de modelos, a entrega e as operações contínuas.

As aplicações industriais e os serviços de software dependem de cada projeto e não estão automaticamente incluídos com o hardware.

Avaliação remota antes da implementação

Os testes à distância podem ser agendados através de:

• Acesso à área de trabalho remota.
• Acesso à API HTTP.

Para uma avaliação útil, indique o seu modelo-alvo, a duração prevista do contexto, o número esperado de pedidos simultâneos e tarefas representativas.

Chegar a acordo quanto à configuração de teste e avaliar a latência de resposta, o débito de saída, a estabilidade e os requisitos de integração antes de selecionar o sistema definitivo.

Planeamento da instalação e da entrega

Verifique se o local de instalação está em conformidade com o intervalo de funcionamento indicado (0 °C a 40 °C), os requisitos de alimentação e as necessidades de ventilação.

Embora o invólucro permita a instalação fora de um formato de rack tradicional, a adequação ao ambiente de escritório depende também das expectativas em termos de dissipação de calor e ruído. A documentação do produto não fornece uma classificação acústica.

Antes de efetuar a encomenda, confirme:

• Modelo exato do servidor e configuração dos componentes.
• Identificação do processador e do acelerador de IA.
• Versões do sistema operativo e do software incluído.
• Adaptação do modelo e âmbito de instalação da aplicação.
• É necessária ligação à rede.
• Garantia, assistência remota e condições de reparação.
• Local de entrega e prazo de entrega.

Perguntas Frequentes

Qual é a principal diferença entre o AS711 e o AS713?

O AS711 possui 1024 GB de memória aceleradora LPDDR5X, 256 GB de RAM do sistema DDR5 e dois SSDs de dados de 3,84 TB. O AS713 possui 512 GB de memória de acelerador, 128 GB de RAM do sistema e um SSD de dados de 3,84 TB.

A capacidade de 1024 GB anunciada refere-se à memória RAM do sistema?

Não. A documentação indica que a capacidade de memória do acelerador AS711 é de 1024 GB. A sua memória RAM DDR5 do sistema, que é independente, é de 256 GB.

O servidor consegue executar modelos Qwen e MiniMax?

O fornecedor publica resultados de benchmarks do FP8 para os modelos Qwen3.5-35B, Qwen3.5-122B, Qwen3.5-397B e MiniMax-M2.7. Confirme a versão exata do modelo e o pacote de software da configuração que selecionou.

520 tokens/s significa que todos os utilizadores beneficiam dessa velocidade?

Não. O resultado publicado refere-se ao Qwen3.5-35B no lote 32, com uma configuração de contexto de 8K, segundo o relatório. Não deve ser considerado como uma garantia de velocidade por utilizador.

O servidor consome continuamente 2000 W?

Não. A documentação indica uma fonte de alimentação CA de 2000 W, um consumo típico inferior a 1000 W e um consumo máximo de 1300 W. O consumo real varia consoante a configuração e a carga de trabalho.

Pode funcionar sem ligação à Internet?

A implementação local não implica automaticamente um funcionamento totalmente offline. Verifique a disponibilidade do modelo, as licenças de software, as dependências de instalação e as integrações externas, caso o seu projeto exija um ambiente sem ligação à Internet.

As aplicações de IA para empresas estão incluídas?

O software de aplicação, a adaptação do modelo, a instalação e o apoio operacional dependem do pacote do projeto. Confirme os resultados incluídos na cotação.

Posso testar o sistema remotamente?

O fornecedor disponibiliza a avaliação através do acesso por ambiente de trabalho remoto e da API HTTP. Contacte a PunkHash para discutir a disponibilidade dos testes e os requisitos da sua carga de trabalho.

Solicitar uma configuração ou um teste remoto

Diz ao PunkHash:

• Qual o modelo ou a aplicação que pretende executar.
• O número previsto de utilizadores simultâneos ou de pedidos.
• Os vossos requisitos relativos ao comprimento do contexto e ao tempo de resposta.
• Quantidade pretendida e país de entrega.

Solicite uma configuração, um orçamento ou uma avaliação remota do AS711 / AS713 para o seu projeto.