{"id":13741,"date":"2026-10-13T02:43:57","date_gmt":"2026-10-13T10:43:57","guid":{"rendered":"https:\/\/www.punkhash.com\/?post_type=product&p=13741"},"modified":"2026-10-30T01:14:03","modified_gmt":"2026-10-30T09:14:03","slug":"as711-as713-local-llm-inference-server-512gb-1024gb-ai-memory","status":"publish","type":"product","link":"https:\/\/www.punkhash.com\/de\/product\/as711-as713-local-llm-inference-server-512gb-1024gb-ai-memory\/","title":{"rendered":"AS711 \/ AS713 Lokaler LLM-Inferenzserver \u2013 512 GB \/ 1024 GB KI-Speicher"},"content":{"rendered":"

Lokale LLM-Inferenz f\u00fcr KI-Projekte in Unternehmen<\/h2>\n

Die Modelle AS711 und AS713 sind KI-Inferenzserver mit gro\u00dfem Arbeitsspeicher, die f\u00fcr die Ausf\u00fchrung gro\u00dfer Sprachmodelle auf lokaler Infrastruktur konzipiert sind. Sie sind f\u00fcr KI-Implementierungen in Unternehmen, Software-Integrationsprojekte und Organisationen gedacht, die dedizierte Hardware f\u00fcr private KI-Anwendungen evaluieren.<\/p>\n

Der AS713 verf\u00fcgt \u00fcber 512 GB LPDDR5X-Beschleunigerspeicher. Der AS711 erweitert diesen auf 1024 GB und verf\u00fcgt \u00fcber mehr System-RAM sowie eine zus\u00e4tzliche Daten-SSD.<\/p>\n

Beide Modelle verf\u00fcgen \u00fcber ein kompaktes Tower-Geh\u00e4use mit aktiver Luftk\u00fchlung. Ubuntu und Kylin Linux sind als unterst\u00fctzte Betriebssysteme aufgef\u00fchrt.<\/p>\n

AS711 vs. AS713: Welche Konfiguration sollten Sie w\u00e4hlen?<\/h2>\n\n\n\n\n\n\n\n\n\n
Spezifikation<\/th>\nAS711<\/th>\nAS713<\/th>\n<\/tr>\n
Produktpositionierung<\/td>\nKonfiguration mit mehr Speicher f\u00fcr Modelle mit h\u00f6heren Anforderungen<\/td>\nStandardkonfiguration f\u00fcr g\u00e4ngige Inferenz-Bereitstellungen<\/td>\n<\/tr>\n
AI-Beschleuniger-Speicher<\/td>\n1024 GB LPDDR5X<\/td>\n512 GB LPDDR5X<\/td>\n<\/tr>\n
System-RAM<\/td>\n256 GB DDR5, 4 \u00d7 64 GB<\/td>\n128 GB DDR5, 2 \u00d7 64 GB<\/td>\n<\/tr>\n
System-SSD<\/td>\n1 \u00d7 512 GB M.2 NVMe<\/td>\n1 \u00d7 512 GB M.2 NVMe<\/td>\n<\/tr>\n
Daten-SSDs<\/td>\n2 \u00d7 3,84 TB U.2 NVMe<\/td>\n1 \u00d7 3,84 TB U.2 NVMe<\/td>\n<\/tr>\n
Betriebssystemoptionen<\/td>\nUbuntu \/ Kylin Linux<\/td>\nUbuntu \/ Kylin Linux<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

W\u00e4hlen Sie AS713<\/strong> wenn die Konfiguration des 512-GB-Beschleunigerspeichers den Anforderungen Ihres ausgew\u00e4hlten Modells und Ihrer Arbeitslast entspricht.<\/p>\n

Beachten Sie AS711<\/strong> wenn Ihr Projekt zus\u00e4tzlichen Beschleunigerspeicher, System-RAM oder lokalen Speicher ben\u00f6tigt. Die Modellkompatibilit\u00e4t und die nutzbare Leistung sollten unabh\u00e4ngig von der Speicherkapazit\u00e4t bewertet werden.<\/p>\n

Hardware-Spezifikationen<\/h2>\n

Die folgenden Plattformspezifikationen sind in der Produktbeschreibung AS71X v1.2.0 des Anbieters aufgef\u00fchrt. Bitte best\u00e4tigen Sie die ausgew\u00e4hlte Konfiguration in Ihrem Angebot.<\/p>\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
Artikel<\/th>\nVer\u00f6ffentlichte Spezifikation<\/th>\n<\/tr>\n
CPU<\/td>\nIn China entwickelter Prozessor, 2,8 GHz, 16 Kerne \/ 32 Threads<\/td>\n<\/tr>\n
INT8-Berechnung<\/td>\n1024 TOPS<\/td>\n<\/tr>\n
FP8-Rechenleistung<\/td>\n1024 TFLOPS<\/td>\n<\/tr>\n
FP16-\/BF16-Rechenleistung<\/td>\n512 TFLOPS<\/td>\n<\/tr>\n
TF32-Rechenleistung<\/td>\n256 TFLOPS<\/td>\n<\/tr>\n
FP32-Berechnung<\/td>\n64 TFLOPS<\/td>\n<\/tr>\n
Typ des Beschleunigerspeichers<\/td>\nLPDDR5X, 8533 Mbit\/s<\/td>\n<\/tr>\n
Speicherbandbreite<\/td>\n2184 GB\/s<\/td>\n<\/tr>\n
Host-Schnittstelle<\/td>\nPCIe Gen 5 \u00d716<\/td>\n<\/tr>\n
Erweiterungssteckpl\u00e4tze<\/td>\n2 \u00d7 PCIe 5.0 \u00d716<\/td>\n<\/tr>\n
Netzwerkanschl\u00fcsse<\/td>\n2 \u00d7 Gigabit-Ethernet<\/td>\n<\/tr>\n
Verbindung zur Gesch\u00e4ftsleitung<\/td>\n1 \u00d7 BMC-Management-Netzwerkanschluss<\/td>\n<\/tr>\n
Externe Schnittstellen<\/td>\n1 \u00d7 USB Typ C, 1 \u00d7 HDMI, 2 \u00d7 USB 3.0<\/td>\n<\/tr>\n
Speicheranbindung<\/td>\n3 \u00d7 M.2-SSD-Steckpl\u00e4tze und 4 \u00d7 U.2-2,5-Zoll-SSD-Steckpl\u00e4tze<\/td>\n<\/tr>\n
Nennleistung des Netzteils<\/td>\n2000 W Wechselstrom<\/td>\n<\/tr>\n
Vom Hersteller angegebener typischer Stromverbrauch<\/td>\nUnter 1000 W<\/td>\n<\/tr>\n
Vom Hersteller angegebene Spitzenleistungsaufnahme<\/td>\n1300 W<\/td>\n<\/tr>\n
K\u00fchlung<\/td>\nAktive Luftk\u00fchlung<\/td>\n<\/tr>\n
Betriebstemperatur<\/td>\n0 \u00b0C bis 40 \u00b0C<\/td>\n<\/tr>\n
Abmessungen<\/td>\n300 mm B \u00d7 300 mm H \u00d7 500 mm T<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

Die Rechenwerte entsprechen den ver\u00f6ffentlichten Hardware-Spezifikationen. Der Anwendungsdurchsatz h\u00e4ngt vom Modell, der Genauigkeit, der Kontextl\u00e4nge, der Software und der Arbeitslast ab.<\/p>\n

Der Wert von 2000 W bezieht sich auf die Nennleistung des Netzteils und nicht auf die angegebene typische Betriebsaufnahme.<\/p>\n

Ver\u00f6ffentlichte LLM-Inferenz-Benchmarks<\/h2>\n

Der Anbieter gibt unter Verwendung der FP8-Pr\u00e4zision und des vLLM-Benchmark-Tools folgende Ergebnisse an.<\/p>\n\n\n\n\n\n\n\n\n\n\n\n
Modell<\/th>\nKontext der Meldung<\/th>\nStapel<\/th>\nAngegebener Dekodierungsdurchsatz<\/th>\n<\/tr>\n
Qwen3.5-35B<\/td>\n8K<\/td>\n4<\/td>\n120 Token\/s<\/td>\n<\/tr>\n
Qwen3.5-35B<\/td>\n8K<\/td>\n32<\/td>\n520 Token\/s<\/td>\n<\/tr>\n
Qwen3.5-122B<\/td>\n8K<\/td>\n1<\/td>\n38 Token\/s<\/td>\n<\/tr>\n
Qwen3.5-122B<\/td>\n8K<\/td>\n8<\/td>\n195 Token\/s<\/td>\n<\/tr>\n
Qwen3.5-397B<\/td>\n8K<\/td>\n1<\/td>\n29 Token\/s<\/td>\n<\/tr>\n
Qwen3.5-397B<\/td>\n8K<\/td>\n8<\/td>\n125 Token\/s<\/td>\n<\/tr>\n
MiniMax-M2.7<\/td>\n8K<\/td>\n1<\/td>\n30 Token\/s<\/td>\n<\/tr>\n
MiniMax-M2.7<\/td>\n8K<\/td>\n8<\/td>\n118 Token\/s<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

So sind diese Ergebnisse zu interpretieren:<\/strong> Der Wert von 520 Tokens\/s gilt f\u00fcr Qwen3.5-35B bei Batch 32 und der angegebenen 8K-Kontext-Einstellung. Es handelt sich um ein Durchsatzergebnis im Batch-Betrieb und nicht um eine garantierte Generierungsgeschwindigkeit f\u00fcr jeden einzelnen Nutzer.<\/p>\n

Es handelt sich hierbei um vom Anbieter gemeldete Ergebnisse und nicht um unabh\u00e4ngige PunkHash-Benchmarks. Die Quelle gibt weder die genaue AS711- oder AS713-Konfiguration an, die f\u00fcr die einzelnen Tests verwendet wurde, noch den Software-Build oder die vollst\u00e4ndigen Eingabe- und Ausgabel\u00e4ngen. Fordern Sie eine arbeitslastspezifische Bewertung an, bevor Sie diese Zahlen f\u00fcr die Kapazit\u00e4tsplanung verwenden.<\/p>\n

Quelle: AS71X-Produkteinf\u00fchrung v1.2.0, August 2026, Abschnitt \u201eBenchmark\u201c.<\/p>\n

Modellkompatibilit\u00e4t und Anpassungsstatus<\/h2>\n

In der Dokumentation des Lieferanten wird zwischen abgeschlossenen Anpassungen, laufenden Optimierungen und k\u00fcnftigen Arbeiten unterschieden.<\/p>\n\n\n\n\n\n\n\n
Modellfamilie<\/th>\nIn der Produktdokumentation beschriebener Status<\/th>\n<\/tr>\n
MiniMax<\/td>\nDie Anpassung wurde als abgeschlossen gemeldet; die Ergebnisse des MiniMax-M2.7-Benchmarks liegen vor<\/td>\n<\/tr>\n
Qwen3.5<\/td>\nEs liegen Benchmark-Ergebnisse f\u00fcr 35B, 122B und 397B vor; die Leistungsoptimierung wird fortgesetzt<\/td>\n<\/tr>\n
GLM5-Familie<\/td>\nDemonstrationen wurden erw\u00e4hnt; die konkrete Unterst\u00fctzung von GLM5.1 \/ GLM5.2 muss noch best\u00e4tigt werden<\/td>\n<\/tr>\n
DeepSeek V4-Flash<\/td>\nIn der Roadmap f\u00fcr zuk\u00fcnftige Anpassungen aufgef\u00fchrt<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

In der Dokumentation wird au\u00dferdem die Unterst\u00fctzung eines 32K-Kontexts mit MiniMax-M2.7 angegeben. Die oben ver\u00f6ffentlichte Benchmark-Tabelle basiert auf einer 8K-Kontexteinstellung.<\/p>\n

Modellversionen und Softwarepakete werden st\u00e4ndig weiterentwickelt. Bitte \u00fcberpr\u00fcfen Sie den genauen Modell-Checkpoint, die Genauigkeit und das Bereitstellungspaket f\u00fcr Ihre Bestellung.<\/p>\n

Praktische Einsatzszenarien<\/h2>\n

Wissensassistenten f\u00fcr Unternehmen<\/h3>\n

Bewerten Sie ein lokales Sprachmodell als Teil eines internen Wissensassistenten. Die vollst\u00e4ndige Anwendung erfordert m\u00f6glicherweise auch die Erfassung von Dokumenten, Suchsoftware, Zugriffsberechtigungen und eine Benutzeroberfl\u00e4che.<\/p>\n

Workflows f\u00fcr Ausschreibungen und Angebote<\/h3>\n

Mit einer geeigneten Anwendungsschicht kann die lokale Inferenz die Suche in Ausschreibungsunterlagen sowie Arbeitsabl\u00e4ufe zur Zusammenfassung und Erstellung von Entw\u00fcrfen unterst\u00fctzen. Der Anbieter z\u00e4hlt L\u00f6sungen zur Unterst\u00fctzung bei Ausschreibungen zu seinen Zielanwendungen.<\/p>\n

Anwendungen in den Bereichen Finanzen, Verlagswesen und Gesundheitswesen<\/h3>\n

Der Anbieter nennt das Bankwesen, den Wertpapierhandel, das Verlagswesen und das Gesundheitswesen als Zielbranchen f\u00fcr von Partnern bereitgestellte L\u00f6sungen. Anwendungsspezifische Integration, Zugriffskontrollen und Abnahmetests sollten im Projektumfang enthalten sein.<\/p>\n

KI-Software und Systemintegration<\/h3>\n

Unabh\u00e4ngige Softwareanbieter (ISVs) und Systemintegratoren k\u00f6nnen die Modelle AS711 und AS713 als Inferenz-Hardware im Rahmen einer Kundenl\u00f6sung evaluieren. Der Anbieter beschreibt die Zusammenarbeit mit Partnern in den Bereichen Modellanpassung, Bereitstellung und laufender Betrieb.<\/p>\n

Branchenanwendungen und Software-Services sind projektabh\u00e4ngig und nicht automatisch im Lieferumfang der Hardware enthalten.<\/p>\n

Fernbewertung vor der Bereitstellung<\/h2>\n

Fernpr\u00fcfungen k\u00f6nnen wie folgt vereinbart werden:<\/p>\n

    \n
  • Fernzugriff auf den Desktop.<\/li>\n
  • Zugriff \u00fcber die HTTP-API.<\/li>\n<\/ul>\n

    F\u00fcr eine aussagekr\u00e4ftige Bewertung geben Sie bitte Ihr Zielmodell, die geplante Kontextl\u00e4nge, die erwartete Anzahl gleichzeitiger Anfragen sowie repr\u00e4sentative Aufgaben an.<\/p>\n

    Einigen Sie sich auf die Testkonfiguration und bewerten Sie die Reaktionslatenz, den Durchsatz, die Stabilit\u00e4t sowie die Integrationsanforderungen, bevor Sie sich f\u00fcr das endg\u00fcltige System entscheiden.<\/p>\n

    Installations- und Lieferplanung<\/h2>\n

    Pr\u00fcfen Sie den Aufstellungsort hinsichtlich des angegebenen Betriebsbereichs von 0 \u00b0C bis 40 \u00b0C, der Stromversorgung und der Bel\u00fcftungsanforderungen.<\/p>\n

    Obwohl das Geh\u00e4use den Einsatz au\u00dferhalb eines herk\u00f6mmlichen Rack-Formats unterst\u00fctzt, h\u00e4ngt die Eignung f\u00fcr den Einsatz im B\u00fcro auch von den Anforderungen an die W\u00e4rmeableitung und die Ger\u00e4uschentwicklung ab. In der Produktdokumentation sind keine Angaben zur Ger\u00e4uschentwicklung enthalten.<\/p>\n

    Bitte \u00fcberpr\u00fcfen Sie vor der Bestellung Folgendes:<\/p>\n

      \n
    • Genaues Servermodell und genaue Komponentenkonfiguration.<\/li>\n
    • Identifizierung von Prozessoren und KI-Beschleunigern.<\/li>\n
    • Betriebssystem und Versionen der mitgelieferten Software.<\/li>\n
    • Modellanpassung und Umfang der Anwendungsinstallation.<\/li>\n
    • Netzwerkverbindung erforderlich.<\/li>\n
    • Garantie, Fernunterst\u00fctzung und Reparaturvereinbarungen.<\/li>\n
    • Lieferort und Lieferzeit.<\/li>\n<\/ul>\n

      H\u00e4ufig gestellte Fragen<\/h2>\n

      Was ist der Hauptunterschied zwischen AS711 und AS713?<\/h3>\n

      Der AS711 verf\u00fcgt \u00fcber 1024 GB LPDDR5X-Beschleunigerspeicher, 256 GB DDR5-System-RAM und zwei 3,84 TB gro\u00dfe Daten-SSDs. Der AS713 verf\u00fcgt \u00fcber 512 GB Beschleunigerspeicher, 128 GB System-RAM und eine 3,84 TB gro\u00dfe Daten-SSD.<\/p>\n

      Bezieht sich die angegebene Kapazit\u00e4t von 1024 GB auf den System-RAM?<\/h3>\n

      Nein. In der Dokumentation wird die Speicherkapazit\u00e4t des AS711-Beschleunigers mit 1024 GB angegeben. Der separate DDR5-System-RAM betr\u00e4gt 256 GB.<\/p>\n

      Kann der Server Qwen- und MiniMax-Modelle ausf\u00fchren?<\/h3>\n

      Der Anbieter ver\u00f6ffentlicht FP8-Benchmarks f\u00fcr Qwen3.5-35B, Qwen3.5-122B, Qwen3.5-397B und MiniMax-M2.7. Vergewissern Sie sich, welche Modellversion und welches Softwarepaket genau zu Ihrer ausgew\u00e4hlten Konfiguration geh\u00f6ren.<\/p>\n

      Bedeutet \u201e520 Token\/s\u201c, dass jeder Nutzer diese Geschwindigkeit erh\u00e4lt?<\/h3>\n

      Nein. Das ver\u00f6ffentlichte Ergebnis bezieht sich auf Qwen3.5-35B aus Batch 32 mit einer angegebenen Kontextgr\u00f6\u00dfe von 8K. Es sollte nicht als Geschwindigkeitsgarantie f\u00fcr jeden einzelnen Nutzer angesehen werden.<\/p>\n

      Verbraucht der Server st\u00e4ndig 2000 W?<\/h3>\n

      Nein. In der Dokumentation sind ein 2000-W-Wechselstromnetzteil, eine typische Leistungsaufnahme von unter 1000 W und eine Spitzenleistungsaufnahme von 1300 W angegeben. Die tats\u00e4chliche Leistungsaufnahme h\u00e4ngt von der Konfiguration und der Auslastung ab.<\/p>\n

      Funktioniert es auch ohne Internetverbindung?<\/h3>\n

      Eine lokale Bereitstellung bedeutet nicht automatisch einen vollst\u00e4ndig offlineen Betrieb. \u00dcberpr\u00fcfen Sie die Modellverf\u00fcgbarkeit, die Softwarelizenzen, die Installationsvoraussetzungen und die externen Integrationen, falls Ihr Projekt eine Umgebung ohne Internetverbindung erfordert.<\/p>\n

      Sind KI-Anwendungen f\u00fcr Unternehmen enthalten?<\/h3>\n

      Anwendungssoftware, Modellanpassung, Installation und Betriebsunterst\u00fctzung sind vom jeweiligen Projektpaket abh\u00e4ngig. Bitte \u00fcberpr\u00fcfen Sie die im Angebot enthaltenen Leistungen.<\/p>\n

      Kann ich das System aus der Ferne testen?<\/h3>\n

      Der Anbieter erm\u00f6glicht eine Evaluierung \u00fcber Remote-Desktop- und HTTP-API-Zugriff. Wenden Sie sich an PunkHash, um die Verf\u00fcgbarkeit von Testversionen und Ihre Anforderungen an die Arbeitslast zu besprechen.<\/p>\n

      Konfiguration oder Fernpr\u00fcfung anfordern<\/h2>\n

      Sag es PunkHash:<\/p>\n

        \n
      • Welches Modell oder welche Anwendung Sie ausf\u00fchren m\u00f6chten.<\/li>\n
      • Die von Ihnen erwartete Anzahl gleichzeitiger Benutzer oder Anfragen.<\/li>\n
      • Ihre Anforderungen hinsichtlich Kontextl\u00e4nge und Antwortzeit.<\/li>\n
      • Gew\u00fcnschte Menge und Lieferland.<\/li>\n<\/ul>\n

        Fordern Sie eine Konfiguration, ein Angebot oder eine Fernbewertung f\u00fcr Ihr Projekt mit den Modellen AS711 bzw. AS713 an.<\/p>","protected":false},"excerpt":{"rendered":"

        Die AS711\/AS713 ist eine Serie eigenst\u00e4ndiger KI-Workstations, die f\u00fcr den lokalen KI-Einsatz konzipiert ist. Das Geh\u00e4use im Tower-Format vereint aktive Luftk\u00fchlung, PCIe 5.0-Erweiterungsm\u00f6glichkeiten und dedizierte BMC-Management-Anschl\u00fcsse.<\/p>\n

        Entdecken Sie eine Hardwarekonfiguration f\u00fcr Ihr KI-Projekt im Unternehmen, Ihre Entwicklungsumgebung oder Ihre Kundenbereitstellung. Wenden Sie sich mit Angaben zu Ihrer Anwendung, Ihrem Zielmodell und der erwarteten Anzahl gleichzeitiger Nutzer an PunkHash, um die Konfiguration und die Preise zu besprechen.<\/p>","protected":false},"featured_media":13742,"comment_status":"open","ping_status":"closed","template":"","meta":[],"product_brand":[210],"product_cat":[211],"product_tag":[212,214,219,218,216,215,217,213],"class_list":["post-13741","product","type-product","status-publish","has-post-thumbnail","product_brand-ai-server","product_cat-ai-server","product_tag-ai","product_tag-ai-memory","product_tag-ai-workstation-supplier","product_tag-deployment-hardware","product_tag-local-ai-server","product_tag-on-premise-ai-workstation","product_tag-private-ai","product_tag-server","first","instock","featured","shipping-taxable","product-type-simple"],"_links":{"self":[{"href":"https:\/\/www.punkhash.com\/de\/wp-json\/wp\/v2\/product\/13741","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.punkhash.com\/de\/wp-json\/wp\/v2\/product"}],"about":[{"href":"https:\/\/www.punkhash.com\/de\/wp-json\/wp\/v2\/types\/product"}],"replies":[{"embeddable":true,"href":"https:\/\/www.punkhash.com\/de\/wp-json\/wp\/v2\/comments?post=13741"}],"version-history":[{"count":2,"href":"https:\/\/www.punkhash.com\/de\/wp-json\/wp\/v2\/product\/13741\/revisions"}],"predecessor-version":[{"id":13748,"href":"https:\/\/www.punkhash.com\/de\/wp-json\/wp\/v2\/product\/13741\/revisions\/13748"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.punkhash.com\/de\/wp-json\/wp\/v2\/media\/13742"}],"wp:attachment":[{"href":"https:\/\/www.punkhash.com\/de\/wp-json\/wp\/v2\/media?parent=13741"}],"wp:term":[{"taxonomy":"product_brand","embeddable":true,"href":"https:\/\/www.punkhash.com\/de\/wp-json\/wp\/v2\/product_brand?post=13741"},{"taxonomy":"product_cat","embeddable":true,"href":"https:\/\/www.punkhash.com\/de\/wp-json\/wp\/v2\/product_cat?post=13741"},{"taxonomy":"product_tag","embeddable":true,"href":"https:\/\/www.punkhash.com\/de\/wp-json\/wp\/v2\/product_tag?post=13741"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}