HYLE

Θεῶν δημιούργημα

Goddelijk vakwerk

Voor AI-inferentie, resourcestreaming en diensten met lage latentie. Meetbare voorsprong op SOTA-prestatiebibliotheken in 18 vergelijkingen met gelijkwaardige semantiek.¹

Bekijk de prestaties Ontdek de techniek

GEMETEN TEGEN SOTA

De beste bibliotheken als maatstaf.

Highway, Boost.Beast, Abseil, Folly, oneTBB: SOTA-bibliotheken die om prestaties draaien. HYLE vergelijkt zich rechtstreeks met hen bij gelijkwaardige functionaliteit en semantiek, met 18 overwinningen in belangrijke workloads.

18externe benchmarkoverwinningen

SIMD

Maximaal voordeel

7.463×

SIMD-sortering

Gedeeltelijk / volledig sorteren met VQSort

t.o.v. Highway VQSort

1.147–7.463×

io-http

Maximaal voordeel

3.065×

HTTP-streaming

Levenscyclus van gefragmenteerde HTTP/1-streaming

t.o.v. Boost.Beast

3.030–3.065×

io-websocket

Maximaal voordeel

3.354×

WebSocket-maskering

WebSocket-maskering, 124 B–1 MiB

t.o.v. Boost.Beast

2.005–3.354×

sched

Maximaal voordeel

1.663×

Request-scheduling

Requests verdelen en resultaten verzamelen op vier P-cores

t.o.v. Marl

1.646–1.663×

Het uitgelichte getal is de bovengrens van het bereik voor de genoemde workload en referentie-implementatie.

Deze implementaties zijn al sterk geoptimaliseerd. Zelfs enkele extra procentpunten tellen. Van kleine verbeteringen tot een veelvoud: elke uitkomst behoudt de workload, tegenstander en het volledige gerapporteerde bereik.

Volledige prestatievergelijking · 18

Scroll horizontaal om workloads, referenties en resultaten volledig te bekijken.

Externe benchmarkoverwinningen van HYLE bij gelijkwaardige functionaliteit en semantiek
Module	Winnende workload	Referentie-implementatie	HYLE-voordeel
container-intrusive	Niet-bezittende lijst: stable sort + merge	Boost.Intrusive	1.088–1.119×
util-core	Traversalaanroepen met aan een member gebonden FunctionRef	Abseil FunctionRef	1.245–1.264×
error	Owning failure, first-error, Join failure, Result<T&> borrow	Abseil Status/StatusOr	1.21–4.78×
timer-queue	Volledige levenscyclus van 64 timers	Seastar timer queue	1.129–1.190×
mem-reclaim	Onveranderlijke snapshots lezen met geheugenreclamatie	Folly reclamation	1.365–1.381×
mem	Logische bereikallocator: uitlijning, splitsen, samenvoegen, eigendom	OffsetAllocator met semantisch gelijkwaardige adapter	1.031–1.043×
mem-vm	Uitgestelde vrijgave van virtuele bereiken bij modelladen	llama.cpp-route met vectorherbouw	1.031–1.047×
SIMD	Gedeeltelijk / volledig sorteren met VQSort	Highway VQSort	1.147–7.463×
container	Modelcache-LRU: opzoeken, invoegen, gewogen verwijdering	Abseil-adapter	1.222–1.273×
container-queue	Onbegrensde getypeerde MPMC, 4 producenten / 4 consumenten	oneTBB queue	1.261–1.289×
container-text	Base64-encoding van kleine records van 20 bytes	simdutf	1.033–1.045×
sched	Requests verdelen en resultaten verzamelen op vier P-cores	Marl	1.646–1.663×
sched	Wekken bij voltooiing	Marl	1.0266–1.0285×
io-http	Levenscyclus van gefragmenteerde HTTP/1-streaming	Boost.Beast	3.030–3.065×
io-tls	Geverifieerde asynchrone TLS-handshake	Asio, dezelfde OpenSSL	1.099–1.102×
io-http2	64 streams: kleine antwoorden, multiplexing en stroomregeling	nghttp2	1.466–1.478×
io-transfer	64 MiB HTTP Range hervatten en verifiëren	libcurl	1.206–1.247×
io-websocket	WebSocket-maskering, 124 B–1 MiB	Boost.Beast	2.005–3.354×

DE TECHNIEK ACHTER DE PRESTATIES

Prestaties met het hele systeem in beeld.

Geheugen, containers, SIMD, scheduling en I/O delen afspraken over allocators, fouten en levenscycli. Een samenhangende basis vermindert terugkerend integratiewerk tussen subsystemen.

Ook annuleren en afsluiten zijn ontworpen.

Annulering, time-outs, late voltooiingsmeldingen en vrijgave van resources hebben expliciete eigendomsregels. Asynchroon werk volgt een vastgelegd pad tot voltooiing, afhandeling en afsluiting.

Houd resources onder controle.

Injecteer allocators, stel wachtrijcapaciteiten in en pas geheugenquota toe. Tegendruk en allocatiefouten leveren duidelijke uitkomsten op die de toepassing kan afhandelen.

Test ook waar het mis kan gaan.

Validatie omvat ongeldige invoer, geheugentekort, gelijktijdigheidsconflicten en complete trajecten via publieke API’s, met fuzzing, foutinjectie en geheugen- en threadsanitizers.

Gebruik alleen wat nodig is.

Selecteer componenten via één afhankelijkheidsgraaf, met vastgezette versies en offline builds. Onafhankelijke afnemerprojecten controleren publieke interfaces en integratiegrenzen.

TECHNOLOGIEPREVIEW

Meer volgt.

HYLE is volop in ontwikkeling. De toekomstige publicatievorm en beschikbaarheid worden later bekendgemaakt.