正在打开每日关注
正在打开每日关注
yetone 介绍 moejs——纯 Go 实现的 JavaScript 运行时,让 magpie 网关中间件留在进程内,每个流式事件仅约 1 微秒。
特别感谢 @Ion_Mio_ 的 moejs:一个纯 Go 写的 JavaScript 运行时,专门为快速跑大量小插件沙盒而做。magpie 的中间件就跑在它上面,所以能留在网关进程里,每个流式事件只花 1 微秒左右。 https://t.co/yr9JPjz34g
是什么:moejs 是 @Ion_Mio_ 用纯 Go 编写的 JavaScript 运行时,定位很聚焦——不是通用 JS 引擎替代品,而是专门为在单个进程里快速运行大量小型插件沙盒而做。yetone 将其作为 magpie 的中间件执行底座。
核心设计:把插件执行留在网关进程内,避免跨进程或网络调用的序列化开销;针对高频调用优化,每个流式事件的处理开销约 1 微秒量级,这对逐 token 推流的 AI 网关热路径至关重要;沙盒机制隔离插件,兼顾安全与速度。
关键洞察:AI 网关/Agent 中间件的真实瓶颈往往不在功能,而在每次事件都要付出的固定开销。让运行时足够小、足够快、并嵌入宿主进程,是把「插件生态」从可行性问题变成零成本问题的关键一步。纯 Go 实现还省去了 CGO/嵌入 V8 的部署与编译负担。
边界与风险:纯 Go 实现的 JS 运行时通常要在 ECMAScript 规范覆盖度、Node API 兼容性和 GC 停顿上做取舍,插件能用什么语法与能力需评估;沙盒隔离强度是否足以运行不可信代码仍需验证。外链正文无法获取,性能数字来自作者自述,细节以仓库实测为准。