Servidor local de inferencia LLM AS711 / AS713 — 512 GB / 1024 GB de memoria para IA

Inferencia local de modelos de lenguaje grande (LLM) para proyectos de IA empresarial

Los modelos AS711 y AS713 son servidores de inferencia de IA con gran capacidad de memoria, diseñados para ejecutar modelos de lenguaje de gran tamaño en infraestructura local. Están pensados para implementaciones de IA en empresas, proyectos de integración de software y organizaciones que estén evaluando hardware dedicado para aplicaciones de IA privadas.

El AS713 ofrece 512 GB de memoria aceleradora LPDDR5X. El AS711 aumenta esta capacidad a 1024 GB e incluye más memoria RAM del sistema y un SSD de datos adicional.

Ambos modelos cuentan con una carcasa tipo torre compacta con refrigeración activa por aire. Ubuntu y Kylin Linux figuran como sistemas operativos compatibles.

AS711 frente a AS713: ¿qué configuración deberías elegir?

Elige el modelo AS713 cuando la configuración de la memoria del acelerador de 512 GB cumpla con los requisitos del modelo y la carga de trabajo que hayas seleccionado.

Ten en cuenta el AS711 cuando tu proyecto requiera memoria adicional para el acelerador, memoria RAM del sistema o almacenamiento local. La compatibilidad del modelo y el rendimiento efectivo deben evaluarse independientemente de la capacidad de memoria.

Especificaciones de hardware

Las siguientes especificaciones de la plataforma figuran en la presentación del producto AS71X del proveedor, versión 1.2.0. Confirma la configuración seleccionada en tu presupuesto.

Las cifras de rendimiento se refieren a las especificaciones de hardware publicadas. El rendimiento de las aplicaciones depende del modelo, la precisión, la longitud del contexto, el software y la carga de trabajo.

La cifra de 2000 W corresponde a la potencia nominal de la fuente de alimentación, no al consumo típico de funcionamiento indicado.

Pruebas de rendimiento publicadas sobre inferencia con modelos de lenguaje grande (LLM)

El proveedor presenta los siguientes resultados utilizando la precisión FP8 y la herramienta de pruebas vLLM.

Cómo interpretar estos resultados: El resultado de 520 tokens/s corresponde a Qwen3.5-35B en el lote 32 y con la configuración de contexto de 8K indicada. Se trata de un resultado de rendimiento por lotes, no de una velocidad de generación garantizada para cada usuario.

Estos son resultados facilitados por el proveedor, no pruebas de rendimiento independientes de PunkHash. La fuente no especifica la configuración exacta de AS711 o AS713 utilizada en cada prueba, la versión del software ni las longitudes completas de entrada y salida. Solicita una evaluación específica para tu carga de trabajo antes de utilizar estas cifras para la planificación de la capacidad.

Fuente: Presentación del producto AS71X, v. 1.2.0, agosto de 2026, sección de pruebas comparativas.

Compatibilidad de los modelos y estado de la adaptación

La documentación del proveedor distingue entre la adaptación ya realizada, la optimización en curso y los trabajos futuros.

La documentación también indica que es compatible con un contexto de 32K con MiniMax-M2.7. La tabla de pruebas de rendimiento publicada anteriormente utiliza una configuración de contexto de 8K.

Las versiones de los modelos y los paquetes de software van evolucionando. Confirma el punto de control exacto del modelo, la precisión y el paquete de implementación correspondientes a tu pedido.

Casos prácticos de implementación

Asistentes de conocimiento empresarial

Evaluar un modelo de lenguaje local como parte de un asistente de conocimiento interno. La aplicación completa también puede requerir la ingesta de documentos, software de recuperación, permisos y una interfaz de usuario.

Flujos de trabajo de licitaciones y propuestas

Con una capa de aplicación adecuada, la inferencia local puede facilitar los flujos de trabajo de búsqueda, resumen y redacción de documentos de licitación. El proveedor incluye las soluciones de asistencia en licitaciones entre sus aplicaciones objetivo.

Aplicaciones en los sectores financiero, editorial y sanitario

El proveedor señala la banca, el mercado de valores, la edición y la sanidad como sectores objetivo para las soluciones proporcionadas por los socios. La integración específica para cada aplicación, los controles de acceso y las pruebas de aceptación deben incluirse en el alcance del proyecto.

Software de IA e integración de sistemas

Los proveedores independientes de software (ISV) y los integradores de sistemas pueden evaluar los modelos AS711 y AS713 como hardware de inferencia dentro de una solución para el cliente. El proveedor describe la colaboración con los socios, que abarca la adaptación de modelos, la entrega y las operaciones continuadas.

Las aplicaciones industriales y los servicios de software dependen de cada proyecto y no se incluyen automáticamente con el hardware.

Evaluación remota antes de la puesta en marcha

Las pruebas a distancia pueden organizarse a través de:

• Acceso remoto al escritorio.
• Acceso a la API HTTP.

Para que la evaluación resulte útil, facilítanos el modelo de destino, la longitud prevista del contexto, el número esperado de solicitudes simultáneas y unas tareas representativas.

Acordar la configuración de las pruebas y evaluar la latencia de respuesta, el rendimiento de salida, la estabilidad y los requisitos de integración antes de seleccionar el sistema definitivo.

Planificación de la instalación y la entrega

Comprueba que el lugar de instalación se ajuste al rango de temperatura de funcionamiento indicado (entre 0 °C y 40 °C), así como a los requisitos de alimentación eléctrica y a las necesidades de ventilación.

Aunque la carcasa permite su instalación fuera del formato tradicional de rack, su idoneidad para su uso en oficinas también depende de las expectativas en cuanto a la disipación del calor y el ruido. La documentación del producto no incluye datos sobre el nivel de ruido.

Antes de realizar el pedido, comprueba lo siguiente:

• Modelo exacto del servidor y configuración de los componentes.
• Identificación del procesador y del acelerador de IA.
• Versiones del sistema operativo y del software incluido.
• Adaptación del modelo y alcance de la instalación de la aplicación.
• Se requiere conexión a la red.
• Garantía, asistencia remota y condiciones de reparación.
• Lugar de entrega y plazo de entrega.

Preguntas frecuentes

¿Cuál es la principal diferencia entre el AS711 y el AS713?

El AS711 cuenta con 1024 GB de memoria aceleradora LPDDR5X, 256 GB de RAM del sistema DDR5 y dos SSD de datos de 3,84 TB. El AS713 cuenta con 512 GB de memoria aceleradora, 128 GB de RAM del sistema y un SSD de datos de 3,84 TB.

¿La capacidad de 1024 GB que se anuncia corresponde a la memoria RAM del sistema?

No. La documentación indica que la capacidad de memoria del acelerador AS711 es de 1024 GB. Su memoria RAM DDR5 independiente es de 256 GB.

¿Puede el servidor ejecutar modelos Qwen y MiniMax?

El proveedor publica los resultados de las pruebas de rendimiento del 8.º Programa Marco (FP8) para los modelos Qwen3.5-35B, Qwen3.5-122B, Qwen3.5-397B y MiniMax-M2.7. Comprueba la versión exacta del modelo y el paquete de software correspondientes a la configuración que hayas seleccionado.

¿Significa que 520 tokens/s que todos los usuarios disfrutan de esa velocidad?

No. El resultado publicado corresponde a Qwen3.5-35B en el lote 32, con una configuración de contexto de 8K según se indica. No debe considerarse una garantía de velocidad para cada usuario.

¿El servidor consume 2000 W de forma continua?

No. La documentación indica una fuente de alimentación de CA de 2000 W, un consumo típico inferior a 1000 W y un consumo máximo de 1300 W. El consumo real varía en función de la configuración y la carga de trabajo.

¿Funciona sin conexión a Internet?

La implementación local no implica automáticamente un funcionamiento totalmente sin conexión. Comprueba la disponibilidad del modelo, las licencias de software, las dependencias de instalación y las integraciones externas si tu proyecto requiere un entorno sin conexión.

¿Se incluyen las aplicaciones de IA para empresas?

El software de aplicación, la adaptación del modelo, la instalación y el soporte operativo dependen del paquete del proyecto. Confirma los elementos incluidos en el presupuesto.

¿Puedo probar el sistema de forma remota?

El proveedor ofrece la posibilidad de realizar pruebas mediante acceso a escritorio remoto y API HTTP. Ponte en contacto con PunkHash para consultar la disponibilidad de las pruebas y tus requisitos de carga de trabajo.

Solicitar una configuración o una prueba remota

Dile a PunkHash:

• Qué modelo o aplicación quieres ejecutar.
• El número previsto de usuarios simultáneos o de solicitudes.
• Tus requisitos en cuanto a la longitud del contexto y el tiempo de respuesta.
• Cantidad solicitada y país de destino.

Solicita una configuración, un presupuesto o una evaluación remota de los modelos AS711 / AS713 para tu proyecto.