找回密码
立即注册
搜索
热搜: Java Python Linux Go
发回帖 发新帖

3207

积分

0

好友

414

主题
发表于 2026-2-11 13:30:41 | 查看: 37| 回复: 0

Andrej Karpathy 是 AI 领域公认的技术大神。他曾是 OpenAI 的创始成员,后被埃隆·马斯克招至麾下,领导特斯拉自动驾驶团队。离开特斯拉后,他重返 OpenAI 参与了 GPT-4 的后续研发工作。

Andrej Karpathy 的 GitHub 个人主页

如今,他创立了 AI 教育公司 Eureka Labs,并活跃于 X(前 Twitter)和 YouTube。如果你想系统学习 AI 尤其是底层技术原理,跟随他的频道是公认的优质路径。

他的许多开源项目也极具教学和实践价值,例如之前被广泛推荐的 nanoGPT 和 nanochat。

1. 两大教学级开源项目

① nanoGPT:极简主义的预训练标杆

nanoGPT 是 Karpathy 为教学和研究目的开发的最简约、最清晰的 GPT 训练代码库。它被公认为理解大语言模型原理的入门神作,剥离了工业级代码中繁杂的工程包装,只保留 Transformer 架构最核心的逻辑。

nanoGPT 开源仓库页面

通过这个项目,开发者可以清晰地看到一个类似 GPT-2 的模型是如何从零开始,通过 PyTorch 编写并在自定义数据上进行预训练的。

nanoGPT 项目趣味对比图

其核心代码极其精炼,主要由两个约 300 行的文件构成:model.py 定义了 Transformer 的数学结构,而 train.py 则实现了完整的训练循环。尽管代码量极小,但它完整支持分布式训练、混合精度加速(Flash Attention)等现代深度学习技术。

开源地址:https://github.com/karpathy/nanoGPT

② nanochat:从会写字到能聊天的全链路指南

这个拥有数万 Star 的开源项目,旨在让你用约 100 美元的成本训练一个小型 ChatGPT

nanochat 开源仓库页面

如果说 nanoGPT 专注于预训练(让模型学会预测下一个词),那么 nanochat 则是一个进阶版的全栈式大模型训练框架。它不仅涵盖预训练,还补齐了将原始模型转化为类 ChatGPT 对话模型所需的完整链路,包括:分词器训练、有监督微调和强化学习

nanochat 项目性能与框架介绍图

该项目用约 8000 行代码实现了一个端到端系统,并自带一个 Web 聊天界面,让用户在训练结束后能立即与自己的模型对话。

2. 大神的信息源:回归 RSS

最近,Andrej Karpathy 在他的 X(前 Twitter)上发表观点,认为当前社交媒体充斥着为诱导点击和情绪而生成的 AI 垃圾内容。为了获取高质量、长篇且具有深度思考的内容,他强烈建议回归 RSS 订阅,并将其视为对抗信息茧房算法操控的有效工具。

Andrej Karpathy 关于回归 RSS 的推文截图

他个人主要使用 RSS 阅读器订阅那些由人类亲自撰写、具有长效价值的文章。例如,他推荐了一个包含 2025 年 Hacker News 上 92 个最受欢迎博客的订阅源集合,内容覆盖深度技术、编程、数学及科学研究。

GitHub Gist 地址:https://gist.github.com/emschwartz/e6d2bf860ccc367fe37ff953ba6de66b#file-hn-popular-blogs-2025-opml

Hacker News 是由知名创业孵化器 Y Combinator 运营的新闻聚合网站,在科技和创业圈内享有极高声誉,是获取高质量资讯和深度讨论的重要平台。

3. 如何获取并使用这份信息源?

① 下载 OPML 文件

首先,访问上述 GitHub Gist 链接,将名为 hn-popular-blogs-2025.opml 的文件下载到本地。

GitHub Gist 上的 OPML 文件内容预览

② 选择一款 RSS 阅读器

你可以选择开源的 RSS 订阅工具,例如 Folo

Folo 应用介绍与下载页面

Folo 开源地址:https://github.com/RSSNext/Folo

当然,你也可以使用其他 RSS 阅读器,比如同样开源的 NetNewsWire(支持 macOS 和 iOS)。

NetNewsWire 应用介绍页面

NetNewsWire 开源地址:https://github.com/Ranchero-Software/NetNewsWire

对于希望在中文技术社区深入学习的同学,也可以关注 云栈社区,这里汇聚了大量开发者的实战经验与技术干货。

③ 导入 OPML 文件

在 RSS 阅读器中找到“导入”功能,选择从文件导入,然后上传你下载的 OPML 文件。

RSS 阅读器中的 OPML 导入功能界面

导入时,通常可以预览并选择想要订阅的源。这份列表默认包含全部 92 个博客。

OPML 文件导入预览与选择界面

导入成功后,这些高质量博客的最新文章就会汇聚在你的阅读器里了。

成功导入 RSS 源后的阅读器界面示例

4. 这份列表里有什么?

这份列表涵盖了许多有趣且高质量的作者,其中不少是技术圈的“顶流”。

  • Simon Willison:Django 框架的联合创始人,现专注于 AI 的务实应用研究。他不空谈概念,而是亲自写代码测试各类新模型,并分享详细的 Prompt 工程、API 使用心得乃至安全漏洞分析。

Simon Willison 的个人博客页面

  • Neal Agarwal:他不做枯燥的技术教程,而是创作好玩的创意网页。其代表作《The Password Game》、《Infinite Craft》等经常霸榜 Hacker News,证明了代码不仅能创造工具,也能创造快乐和艺术。

Neal FUN 创意网站项目集合页面

此外,列表中还包含:

  • 技术元老:如 Y Combinator 创始人 Paul Graham(文章不多但篇篇精华)、长期评论苹果生态的 John Gruber
  • 底层技术大佬:如用漫画生动解释 Linux 内核和网络协议的 Julia Evans
  • 数学与科学巨擘:如菲尔兹奖得主、数学家 Terence Tao(陶哲轩) 的博客。

通过这种方式,你可以像 Andrej Karpathy 一样,主动构建一个高质量、去噪化的信息输入源,从海量碎片信息中解放出来,专注于真正有深度的内容。




上一篇:PlayCover开源工具实测:在Apple Silicon Mac上键鼠畅玩iOS手游
下一篇:在OpenClaw社区里,我们这样玩转AI式幽默与自嘲
您需要登录后才可以回帖 登录 | 立即注册

手机版|小黑屋|网站地图|云栈社区 ( 苏ICP备2022046150号-2 )

GMT+8, 2026-2-23 11:43 , Processed in 0.636807 second(s), 41 queries , Gzip On.

Powered by Discuz! X3.5

© 2025-2026 云栈社区.

快速回复 返回顶部 返回列表