HYLE

Θεῶν δημιούργημα

Göttliche Schöpfung

Für KI-Inferenz, Ressourcenstreaming und latenzarme Dienste. Messbare Vorteile gegenüber SOTA-Performancebibliotheken in 18 Vergleichen mit gleichwertiger Semantik.¹

Leistung ansehen Technik kennenlernen

GEMESSEN AN SOTA

Die besten Bibliotheken als Maßstab.

Highway, Boost.Beast, Abseil, Folly, oneTBB: SOTA-Bibliotheken, die auf Leistung ausgelegt sind. HYLE tritt bei gleichwertiger Funktionalität und Semantik direkt gegen sie an und erzielt 18 Siege in wichtigen Workloads.

18Siege in externen Vergleichen

SIMD

Maximaler Vorteil

7.463×

SIMD-Sortierung

Partielle / vollständige VQSort-Sortierung

vs. Highway VQSort

1.147–7.463×

io-http

Maximaler Vorteil

3.065×

HTTP-Streaming

Vollständiger Lebenszyklus fragmentierter HTTP/1-Streams

vs. Boost.Beast

3.030–3.065×

io-websocket

Maximaler Vorteil

3.354×

WebSocket-Maskierung

WebSocket-Maskierung, 124 B–1 MiB

vs. Boost.Beast

2.005–3.354×

sched

Maximaler Vorteil

1.663×

Request-Scheduling

Request-Verteilung und Ergebnissammlung auf vier P-Cores

vs. Marl

1.646–1.663×

Die hervorgehobene Zahl ist die Obergrenze des Bereichs für den jeweiligen Workload und die jeweilige Referenzimplementierung.

Diese Implementierungen sind bereits hochoptimiert. Selbst wenige zusätzliche Prozentpunkte sind ein Fortschritt. Von kleinen Vorteilen bis zu mehrfacher Leistung bleiben Workload, Vergleichspartner und vollständiger Ergebnisbereich sichtbar.

Vollständiger Leistungsvergleich · 18

Horizontal scrollen, um Workload, Referenz und Ergebnis vollständig zu sehen.

HYLE-Siege in externen Benchmarks bei gleichwertiger Funktionalität und Semantik
Modul	Workload mit Vorteil	Referenzimplementierung	HYLE-Vorteil
container-intrusive	Nicht besitzende Liste: stable sort + merge	Boost.Intrusive	1.088–1.119×
util-core	Traversierungsaufrufe mit gebundener Member-FunctionRef	Abseil FunctionRef	1.245–1.264×
error	Owning failure, first-error, Join failure, Result<T&> borrow	Abseil Status/StatusOr	1.21–4.78×
timer-queue	Vollständiger Lebenszyklus von 64 Timern	Seastar timer queue	1.129–1.190×
mem-reclaim	Lesen unveränderlicher Snapshots mit Speicherfreigabe	Folly reclamation	1.365–1.381×
mem	Logischer Bereichsallokator: Alignment, Split, Coalesce, Ownership	OffsetAllocator mit semantisch gleichwertigem Adapter	1.031–1.043×
mem-vm	Verzögerte Freigabe virtueller Bereiche beim Modellladen	llama.cpp: Vector-Neuaufbau	1.031–1.047×
SIMD	Partielle / vollständige VQSort-Sortierung	Highway VQSort	1.147–7.463×
container	Modellcache-LRU: Suchen, Einfügen, gewichtete Verdrängung	Abseil-Adapter	1.222–1.273×
container-queue	Unbegrenzte typisierte MPMC, 4 Produzenten / 4 Konsumenten	oneTBB queue	1.261–1.289×
container-text	Base64-Kodierung kleiner 20-Byte-Datensätze	simdutf	1.033–1.045×
sched	Request-Verteilung und Ergebnissammlung auf vier P-Cores	Marl	1.646–1.663×
sched	Aufwecken nach Abschluss	Marl	1.0266–1.0285×
io-http	Vollständiger Lebenszyklus fragmentierter HTTP/1-Streams	Boost.Beast	3.030–3.065×
io-tls	Verifizierter asynchroner TLS-Handshake	Asio, gleiches OpenSSL	1.099–1.102×
io-http2	64 Streams: kleine Antworten, Multiplexing und Flusskontrolle	nghttp2	1.466–1.478×
io-transfer	64 MiB HTTP Range: Wiederaufnahme und Prüfung	libcurl	1.206–1.247×
io-websocket	WebSocket-Maskierung, 124 B–1 MiB	Boost.Beast	2.005–3.354×

DIE TECHNIK HINTER DER LEISTUNG

Leistung für das ganze System.

Speicher, Container, SIMD, Scheduling und I/O teilen sich Allokator-, Fehler- und Lebenszyklusregeln. Eine einheitliche Grundlage reduziert wiederkehrenden Integrationsaufwand zwischen Subsystemen.

Abbruch und Beenden sind mitgedacht.

Abbruch, Timeouts, späte Abschlussmeldungen und Ressourcenfreigabe haben klare Zuständigkeitsregeln. Asynchrone Arbeit folgt einem definierten Ablauf bis zum vollständigen Abschluss und Herunterfahren.

Ressourcen gezielt steuern.

Allokatoren injizieren, Warteschlangenkapazitäten festlegen und Speicherquoten anwenden. Rückstau und Allokationsfehler liefern eindeutige Ergebnisse, auf die die Anwendung reagieren kann.

Auch Fehlerpfade prüfen.

Die Validierung umfasst ungültige Eingaben, Speichermangel, Nebenläufigkeitskonflikte und vollständige Abläufe über öffentliche APIs hinweg – mit Fuzzing, Fehlerinjektion sowie Speicher- und Thread-Sanitizern.

Nur das Nötige einbinden.

Komponenten über einen einheitlichen Abhängigkeitsgraphen auswählen, mit fixierten Drittanbieterversionen und Offline-Builds. Unabhängige Verbraucherprojekte prüfen öffentliche Schnittstellen und Integrationsgrenzen.

TECHNOLOGIEVORSCHAU

Weitere Einblicke folgen.

HYLE wird aktiv entwickelt. Die künftige Veröffentlichungsform und Verfügbarkeit werden später bekannt gegeben.