ffmpReg 简介：一个完全用纯 Rust 重写的 ffmpeg 库
大家好！我是 ffmpReg 项目的开发者。这是一个雄心勃勃的项目：完全使用纯 Rust 语言重写著名的多媒体处理库 ffmpeg。
最近五天，我专注于扩展容器和编解码器的支持。目前，ffmpReg 已经能够处理 WAV 格式的转换（例如从 pcm_s16le 到 pcm_f32le），并且可以部分读取 MKV 容器，显示其中的流、编解码器和时基信息。完整的容器支持功能正在开发中。
下面是一个运行示例的截图，展示了基本的格式转换和探测功能：
这个项目仍在早期阶段，但已经展示了用 Rust 重构核心基础设施的潜力。对于喜欢钻研多媒体处理和 Rust 系统级编程的朋友来说，这是一个值得关注的开源项目。
【实验性】Alloy：通过二进制协议使用 SolidJS 驱动 GPUI
大家好！我最近在尝试一个有趣的想法：能否将 SolidJS 出色的开发者体验（DX）与 Zed 编辑器底层 GPUI 引擎的强悍性能结合起来？
这个想法的产物是一个名为 Alloy 的原型。它的目标不是使用 WebView（如 Tauri 或 Electron），而是探索一种“无 DOM”的高性能 GUI 架构。
架构设计如下：
- 逻辑层：由 SolidJS（编译后）运行在一个嵌入式的 QuickJS 运行时中。
- 协议层：使用自定义的二进制命令缓冲区（避免 JSON 序列化开销）。JS 线程将操作指令（如创建节点、设置样式、更新文本）的字节码写入一个
Uint8Array。
- 渲染层：Rust 端每帧消费这个缓冲区，更新内部的“Shadow DOM”结构，并直接调用 GPUI 进行原生渲染。
需要说明的是，这是一个非常早期的概念验证（“第0阶段”）。为了快速验证架构可行性，我大量使用了 LLM（如 Claude/Gemini）来生成 JS 与 Rust 之间的粘合代码。
- 好消息：管道是通的！我已经实现了一个可工作的计数器示例，它通过细粒度的响应式更新来驱动原生像素渲染。🚀
- 待改进：代码还远未完善，特别是样式引擎存在缺陷（将动态样式映射到 GPUI 的修饰符比较棘手）。
我分享这个原型，是认为这种通过二进制流实现逻辑与渲染分离的架构，可能是构建下一代高性能 GUI 的一个可行方向。我希望能获得关于架构本身的反馈，也期待熟悉 GPUI 内部机制的朋友能帮助我改进样式系统。
项目仓库位于：Alex6357/alloy （一个“无 DOM” GUI 运行时：SolidJS 逻辑驱动 Rust GPUI 渲染）
Haagenti v0.1.0：在 24GB 显存的消费级 GPU 上运行 700亿参数模型
今天我发布了 Haagenti v0.1.0，这是一个纯 Rust 编写的压缩库，目标是在现有硬件上实现前沿的 人工智能 大模型推理。
让我先陈述一个看似矛盾的主张：一个拥有 700 亿参数的模型，可以在单张 RTX 4500 Ada（24GB 显存）显卡上运行。
不合理的计算：700亿参数在 FP16 精度下需要约 140GB 显存。即使是 INT4 量化也需要大约 35GB。而 RTX 4500 Ada 只有 24GB。
实现方法：Haagenti 实现了 HoloTensor 编码——一种为神经网络权重设计的全息压缩与渐进式重构技术。权重以高度压缩的形式存储在显存中，并在推理计算过程中按需、动态地解压缩。
当前的数字：
- 实测吞吐量：1.3 个令牌/秒 (tk/s)
- 目标吞吐量：25 个令牌/秒 (tk/s)
是的，1.3 tk/s 目前还很慢。但关键在于——瓶颈不在 Haagenti 的压缩算法本身。
我们发现，主要的性能损耗来自底层的张量库开销。每次加载一个 448MB 的张量需要 306 毫秒，而其理论最低时间仅为 18 毫秒。这带来了高达 17 倍的性能损耗，问题出在库层而非压缩层。
Haagenti 的核心任务是将 140GB 的模型“塞进”24GB的显存里——它做到了。 吞吐量问题是一个有待解决的上游工程挑战。
为此，下一个阶段是 Nihil——一个专为全息内存访问模式设计的全新张量库。我们预计它将能把速度提升至 25+ tk/s。
那么，为什么要在 1.3 tk/s 时就发布？因为 Haagenti 的核心算法已被验证是有效的：压缩有效，内存适配也有效。并且，也许社区中会有人比我更早地解决张量库的瓶颈。
从更广阔的视角看：前沿的 AI 能力不应该必须依赖云基础设施或企业级硬件。如果这种模式可行，你将能够在本地、私密地运行自己的 700 亿参数模型，而使用的 GPU 是你实际能够购买到的消费级产品。
Haagenti 包含 28 个 crate，纯 Rust 编写，支持 SIMD 加速，可选 CUDA 后端，采用 MIT 许可证。
这无疑是近期 Rust 与 开源实战 领域一个非常硬核且富有想象力的探索。如果你想了解更多或参与其中，可以关注其在 GitHub 上的项目进展。我们云栈社区 也会持续关注此类能将尖端技术带给更多开发者的创新项目。
发表于 昨天 00:22
|
查看: 1|
回复: 0
