技术预告 · C++23 · 高性能基础加速库

ὕλη

HYLE

Θεῶν δημιούργημα

神代造物

面向 AI 推理、资源流送与低延迟服务。在 18 项同等语义的外部对比中，拿出领先各领域 SOTA 级性能库的实测表现。¹

查看领先表现了解工程优势

以各领域 SOTA 为标尺

对标 SOTA，实测领先。

Highway、Boost.Beast、Abseil、Folly、oneTBB——这些都是各领域以性能著称的 SOTA 级实现。HYLE 在同等功能与语义约束下与它们直接比较，在关键工作负载中取得 18 项胜出结果。

18外部对比胜项

SIMD

最高优势

7.463×

SIMD 排序

VQSort 部分 / 完整排序

对比 Highway VQSort

1.147–7.463×

io-http

最高优势

3.065×

HTTP 流式传输

分片 HTTP/1 流式传输完整生命周期

对比 Boost.Beast

3.030–3.065×

io-websocket

最高优势

3.354×

WebSocket 掩码处理

124 B–1 MiB WebSocket 掩码处理

对比 Boost.Beast

2.005–3.354×

sched

最高优势

1.663×

请求并行调度

四个 P-core 上的请求分发与结果收集

对比 Marl

1.646–1.663×

醒目倍数为对应场景优势范围的上限；每项同时列出完整范围与参考实现。

这些实现已经经过高度优化，再领先几个百分点，同样来之不易。从几个百分点到数倍提升，下面保留每一项结果的具体场景、对手与完整范围，让每一点性能优势都有据可查。

完整性能对比 · 18

左右滑动，查看完整场景、对比实现与结果。

HYLE 在同等功能与语义约束下的外部性能对比胜项
模块	胜出的功能 / 场景	对比实现	HYLE 优势
container-intrusive	非拥有链表：stable sort + merge	Boost.Intrusive	1.088–1.119×
util-core	bound-member FunctionRef 遍历调用	Abseil FunctionRef	1.245–1.264×
error	owning failure、first-error、Join failure、Result<T&> borrow	Abseil Status/StatusOr	1.21–4.78×
timer-queue	64 个 timer 完整生命周期	Seastar timer queue	1.129–1.190×
mem-reclaim	不可变快照回收读路径	Folly reclamation	1.365–1.381×
mem	逻辑区间分配器：对齐、split、coalesce、ownership	OffsetAllocator 同等语义适配	1.031–1.043×
mem-vm	模型加载器虚拟区间延迟释放	llama.cpp vector rebuild 路线	1.031–1.047×
SIMD	VQSort 部分 / 完整排序	Highway VQSort	1.147–7.463×
container	模型缓存 LRU：查找、插入、按权重淘汰	Abseil 适配实现	1.222–1.273×
container-queue	无界强类型 MPMC，4 生产者 / 4 消费者	oneTBB queue	1.261–1.289×
container-text	20-byte 小记录 Base64 编码	simdutf	1.033–1.045×
sched	四个 P-core 上的请求分发与结果收集	Marl	1.646–1.663×
sched	completion wake	Marl	1.0266–1.0285×
io-http	分片 HTTP/1 流式传输完整生命周期	Boost.Beast	3.030–3.065×
io-tls	带验证的异步 TLS 握手	Asio，相同 OpenSSL	1.099–1.102×
io-http2	64-stream 小响应复用与流量控制	nghttp2	1.466–1.478×
io-transfer	64 MiB HTTP Range 中断恢复与校验	libcurl	1.206–1.247×
io-websocket	124 B–1 MiB WebSocket 掩码处理	Boost.Beast	2.005–3.354×

性能背后的工程

把性能，放进完整的系统里。

内存、容器、SIMD、调度与 I/O 共享分配器、错误和生命周期约定，减少子系统之间重复的整合工作，让底层能力自然组合。

取消与关闭，也有完整答案。

任务取消、超时、晚到的完成通知与资源释放都有明确的所有权规则。异步工作从执行到排空、关闭，都有清楚的收尾路径。

资源用多少，由你掌控。

内存分配器可注入，队列容量与内存配额可显式控制。遇到背压或分配失败时，应用能够取得明确结果并作出处理。

把出错的路径一起验证。

验证覆盖错误输入、内存不足、并发竞态与跨公开 API 的完整流程，并结合模糊测试、故障注入以及内存和线程检查。

按需接入，依赖清晰。

通过统一依赖图按需组合组件，锁定第三方版本并支持离线构建；以独立消费工程检验公开接口与集成边界。

技术预告

HYLE

对标 SOTA，实测领先。

SIMD 排序

HTTP 流式传输

WebSocket 掩码处理

请求并行调度

把性能，放进完整的系统里。

取消与关闭，也有完整答案。

资源用多少，由你掌控。

把出错的路径一起验证。

按需接入，依赖清晰。

更多进展，敬请期待。