🧠 神经处理架构

由前沿 AI 技术提供动力，包括纯编码器模型 (Encoder Only Models)、小语言模型 (SLM) 和大语言模型 (LLM)，以及用于智能模型路由和选择的高级语义理解。

🤖小语言模型

🧬神经网络处理

⚡实时推理

🎯语义理解

神经处理单元嵌入 • 分类 • 相似度

🏗️ 架构

🎯 我们的目标

构建模型混合 (MoM) 的系统级智能，为 LLM 系统引入集体智慧

如何捕获请求、响应和上下文中的缺失信号？

如何组合信号以做出更好的决策？

如何在不同模型之间实现更高效的协作？

如何保护现实世界和 LLM 系统免受越狱、隐私泄露 (PII) 和幻觉的侵害？

如何收集有价值的信号并构建自学习系统？

📍 所处位置

它存在于现实世界与模型之间

👥 认识我们的团队

vLLM Semantic Router 背后的卓越团队

维护者

陈华民 (Huamin Chen)

杰出工程师 @Red Hat

维护者

王晨 (Chen Wang)

资深主任研究科学家 @IBM

维护者

朱越 (Yue Zhu)

主任研究科学家 @IBM

维护者

刘训茁 (Xunzhuo Liu)

智能路由 @vLLM

提交者

Senan Zedan

研发经理 @Red Hat

提交者

samzong

AI 基础设施 / 云原生产品经理 @DaoCloud

提交者

Liav Weiss

软件工程师 @Red Hat

提交者

Asaad Balum

高级软件工程师 @Red Hat

提交者

Yehudit

软件工程师 @Red Hat

提交者

Noa Limoy

软件工程师 @Red Hat

提交者

JaredforReal

软件工程师 @Z.ai

提交者

Srinivas A

软件工程师 @Yokogawa

提交者

carlory

开源工程师 @DaoCloud

提交者

Yossi Ovadia

高级首席工程师 @Red Hat

提交者

张晋涛

高级软件工程师 @Kong

提交者

yuluo-yx

独立贡献者

提交者

cryo-zd

独立贡献者

提交者

OneZero-Y

独立贡献者

提交者