# AI工程师指南：我是谁，从哪来，到哪去｜对谈硅基流动创始人袁进辉与独立开发者idoubi 十字路口Crossing · 2024-09-01 袁进辉（硅基流动创始人）与独立开发者idoubi在本期《十字路口》中分享了AI工程师的职业生涯指南。袁进辉讲述了自己从OneFlow到光年之外再到硅基流动的过山车经历，并认为底层技术的黄金时代已转向应用层，呼吁工程师找到热爱以驱动自驱。idoubi则展示了他从腾讯辞职后每月发布一款产品的独立开发路径，强调零代码、低代码到有代码的三条入行路线，并预言AI应用将朝AI Native方向演进。两位嘉宾一致认为，未来最具竞争力的工程师要么在单一方向做到极深，要么具备跨领域全栈视野。 ## Key moments - **[0:00] 开场** - **[2:00] 过山车** - [2:00] 袁进辉2023: 从估值1亿美元到10亿美元再到归零的‘过山车’经历 - [3:05] 袁进辉最高光时刻: OneFlow的技术被认可，PyTorch也参考了他们的工作 - [4:52] 袁进辉最彷徨时刻: 从光年之外离开后必须在一个月内决定是否重新创业 - [7:00] 袁进辉决定创立硅基流动: 团队在Infra方向有金刚钻，可以在大模型浪潮中占据牌桌 - [7:25] 硅基流动的目标: ‘让不会AI的开发者也能够去开发AI的应用’ - **[8:55] 独立开发者** - [9:10] idoubi辞职后保持每月发布一个新产品，包括AI红包封面、AI音乐播放器、AI搜索引擎等 - [11:35] idoubi最引以为豪的三个项目: GPDS导航（第一个全栈项目）、AI红包封面（无心插柳、带来信心）、AI搜索引擎（带来很多新体验） - [11:59] idoubi借助AI开发: 音乐播放器组件不到一小时就完成，标准化组件AI辅助非常快 - [12:55] Koji用Claude在10分钟内写出公众号排版器，感慨‘插上了代码的翅膀’ - **[14:29] 工程师分类** - [14:55] 袁进辉分类AI工程师: 产出AI技术的（算法工程师、系统/Infra工程师）和使用AI的（Prompt工程师、RAG工程师等） - [18:45] idoubi: AI应用开发基础是提示词设计，低代码工具（如V0、Claude artifacts）让应用创建越来越快 - [22:41] 袁进辉: 移动互联网时代应用工程师和产品经理是黄金时代，AI时代可能重演——底层技术者又回到锦上添花的角色 - **[23:13] 职业发展** - [26:28] 袁进辉: ‘今天要做出有影响力的产品，感觉还是在应用层，机会想象空间更大’ - [28:59] idoubi: 以前一年只能做5个应用，现在借助AI可能一天或一周做一个，不断创造带来成就感 - [29:58] 袁进辉: 底层技术的快乐在于通用，但赢者通吃，必须做到最后最好的那个，否则就是垫脚石 - **[32:10] 大模型影响** - [32:22] 硅谷趋势: 大模型投入巨大，必须产生回报，重心向应用层转移，开始追问价值 - [33:47] 袁进辉从算法转向Infra: 算法竞争残酷，idea靠灵感且窗戶纸一捅就破；Infra靠工程积累，有商业壁垒可能 - [35:31] 大模型后算法工程师变化: 机会集中在有卡的公司，模型结构收敛到Transformer，数据工作成为关键诀窍 - [41:48] 袁进辉: 对算法工程师要求跨界，对Infra工程师要求coding能力极强，能搞定底层复杂问题 - [43:50] idoubi对比大厂与独立开发: 大厂分工极细，独立开发全栈一人包揽，效率极大提升 - **[48:34] 超级个体** - [48:34] 袁进辉: 创业公司非常需要全栈工程师，因为他们自己跟自己沟通带宽无限，能快速迭代 idea - [49:54] idoubi: 随着独立开发者增多，传统岗位如测试工程师可能逐步消失，角色边界模糊 - [51:21] 袁进辉: 开发者工具和云服务的完善为超级个体创造了条件，小公司也能年收入几亿美金 - [53:24] Q: 如何吸引idoubi这样的超级个体加入公司？袁进辉: 按冒险精神和能力分，高冒险高能力者创业；idoubi: 现追求将想法落地，自由创造更快乐 - **[59:01] 创业挑战** - [59:02] Q: 创业最大挑战？袁进辉: ‘最难的是改变自己，意识到自己的局限’ - [1:00:13] Q: 驱动力是什么？袁进辉: 不想后悔，追求未实现的impact；idoubi: 成就感和探索个人能力边界，不断‘去魅’新行业 - [1:06:46] 袁进辉羡慕idoubi: ‘他有什么样的idea和产品想法，他立刻就能去把它实施，看到效果’ - [1:08:31] 给想进入AI的工程师建议: 从开源项目、hack代码入手，用Prompt和DeFi搭东西最快 - **[1:09:53] 工程建议** - [1:09:59] 袁进辉招聘看重: 自驱力第一，另外过去经历中要有亮点（成绩好或博客好等） - [1:11:26] 袁进辉: 自驱不强？找到自己的热爱，Follow your heart，按兴趣发展更容易解决温饱和走得更高 - [1:14:59] idoubi建议: 零代码（如DeFi、Coze）、低代码（Gradio、Streamlit）、有代码三条路径进入AI应用开发，核心是先有idea - [1:18:17] 如何提高竞争力？袁进辉: 要么做深成为顶级专家，要么做广成为全栈工程师；idoubi: 深度需懂高并发架构，广度需有全局视野 - [1:23:25] 初级AI工程师会被取代吗？idoubi: 只会调API、套壳的人竞争力减弱，需理解背后原理和如何搭建 - [1:25:14] 袁进辉: 纯技术不够，还需要跨学科知识，比如懂法律才能将AI在该行业应用得更好 - **[1:25:56] 趋势展望** - [1:26:02] 袁进辉预测: AI行业重心将转向应用层，基础设施建设完善后会出现super app - [1:28:13] idoubi预测: AI并非泡沫，类比云计算，未来5-10年将出现AI native应用，开发范式改变 - [1:30:39] idoubi短期预测: 未来1-2年工具类应用（如网页生成、设计工具）将率先爆发 - **[1:31:35] 结尾** - [1:31:35] Koji总结: 看清自己的热情和动力，成为积极行动者，是成就伟业的第一步 ## Speakers - **Koji 杨远骋** (host) - **Ronghui** (host) - **idoubi** (guest) - **袁进辉** (guest) ## Topics 个人发展, 创业 ## Mentioned Anthropic (company), Cloudflare (company), OneFlow (company), OpenAI (company), 光年之外 (company), 硅基流动 (company), 腾讯 (company), AI红包封面 (product), Claude (product), ComfyUI (product), Coz (product), DeFi (product), DeepSeek (product), Gradio (product), PyTorch (product), Streamlit (product), ThinkAny.ai (product), V0 (product), 微信 (product) ## Transcript ### 开场 **Koji 杨远骋** [0:02] 欢迎收听 《 十字路口 》， 我们关注新一代 AI 技术浪潮带来的行业新变化和创业新机会 。 十字路口是乔布斯对苹果公司的一个比喻 ， 形容它站在科技与人文的十字路口 ， 伟大的产品往往诞生在这里 。AI 正在给各行各业带来改变 ， 我们寻找 、 访谈和凝聚 AI 时代的积极行动者 ， 和他们一起探索和拥抱新变化 、 新的可能性 。 我是主播 Koji 杨元成 ， 联合创办了 《 街旁 》《 新世相 》 和 《 躺倒 》。 我相信科技 ， 尤其是 AI， 会在未来 10 年彻底改变社会 ， 赋能人类 。 欢迎大家找我聊天 ， 碰撞想法 ， 链接下一个可能性 。 **Ronghui** [0:47] 我是主播 Ronghui， 目前在一家专注科技投资的风险投资机构工作 ， 之前在 《 第一财经周刊 》 担任驻硅谷记者 。 **Koji 杨远骋** [0:58] 朋友们大家好 ，《 十字路口 》 前不久制作了一期内容 ， 叫做 《AI 产品经理指南 ： 我是谁 ， 从哪来 ， 到哪去 》。 我们对谈的嘉宾是字节负责 AI 产品的负责人 Vanessa，而这一期内容不管是播客还是公众号 ， 都是我们有史以来最受欢迎的爆款内容之一 。 因此很多工程师的朋友也在我们的群里和评论区里呼吁 ： 什么时候你们做一期 《AI 工程师指南 》 吧 ！ 因此我们做了认真的筹备 ， 为了给大家带来第一手的经验分享 ， 我们也邀请到了两位超级厉害的嘉宾 ： 硅基流动的创始人袁进辉老师 ， 还有独立开发者 idoubi。他们在 AI 的研究和工程领域可谓身经百战 。 今天他们会用通俗易懂的方式给工程师们分享一些入行 AI 的小贴士 ，也会为大家科普 AI 大模型的技术知识 ，以及分享他们对于工程师职业路径和职业发展的思考 。 无论你是对 AI 工程师这个职业感兴趣 ， 还是想了解这个行业的发展前景 ， 相信这些内容都能给你带来不少的收获 。 ### 过山车 **Koji 杨远骋** [2:00] 我们先介绍袁老师 ，因为袁老师的这个职业经历颇具传奇色彩 ， 特别是他在过去一年的经历像过山车一样 。 很多朋友也非常了解袁老师 ，在国内的大模型市场 ， 恐怕没有谁的 2023 年比袁老师的 2023 年更富戏剧性 。 正如他自己所总结的 ："2023 像一段坐在过山车上的岁月 。" 年初的时候 ， 袁老师上一家公司 OneFlow 估值 1 亿美金 ， 被并购后的一个月估值飙升至 10 亿美金以上 ，而两个月之后这个数字又骤降为 0。 再过了一个月 ， 袁老师创立了硅基流动 ， 又回到了起点 。 袁老师最近也在其他一些媒体有非常精彩的一些分享 ， 我们今天请到袁老师是想找到一些不一样的角度 ， 请袁老师讲一讲他在别的地方没有讲过的心得和没有分享过的故事 。 所以我们想问袁老师的第一个问题是 ： 可不可以请你分享一下在自己职业生涯里面的一个最高光的时刻和一个最仿徨的时刻 ？ **Ronghui** [3:04] 好 ， 谢谢袁 **袁进辉** [3:05] 成 ， 非常高兴今天有这个机会参加我们 《 十字路口 》 的一个播客分享 。 应该说最高光的时刻 ， 我觉得还是在技术上的 。 虽然从常规意义上来说 ， 可能会是去年 OneFlow 被并购的时候 ，因为那个时候社会关注比较大 ，但是我个人感觉我最兴奋的时刻还是在那个 OneFlow 做出来 ，而且在技术社群产生影响力的时候 。 特别是我们当时在整个行业最早看到说这个大模型必然会发生 ， 提前为那个大模型做了一些技术 ，但是很长时间行业内也没有形成共识 ， 直到这个模型变大之后， 国内外很多人关注的时候再去想说这个适合大模型的这种系统架构是什么 。 然后这个时候发现 ， 原来中国有一个初创企业 OneFlow 已经做过这样的技术了 ， 甚至像当时 PyTorch 在做类似设计的时候 ，他们也参考了 OneFlow 的工作 。 所以当那个技术被认可的时候 ， 那个时候我觉得是心情比较舒畅的 ， 可以说是最高光时刻 。 那最仿徨的时刻 ， 可能跟去年就是从光年出来的时候 ， 我们仍然坚信那个大模型是当那个时代 、 当今时代最好的一个机会 。 我们原本手里有非常好的条件 ， 突然一下子又没有了 ， 这个时候我们怎么何去何从吧 。 那个时候是一个仿徨的时刻 ，不过那个时间非常短 。 **Koji 杨远骋** [4:50] 大概持续了多久呀 ？ **袁进辉** [4:52] 给我的时间也就一个月的时间 。 为什么呢 ？ 就是我们大概是 7 月份 ， 应该是说这个社会上就知道这个公司 ， 就是我们要进入美团或者是要面临这个选择 ，而且很多同事已经接到很多很多其他公司的 offer，但我们必须在那个时间段内做出一个决策 ， 到底要不要重新出发 ， 重新创业 。 所以如果是再长的时间 ，其实我们也突不起 ， 可能每个人的 offer 也就过期了 ，其他的选择就过期了 。 所以我们必须在那么短的时间内做出一个就是说我们大多数人都认同的一个方向 。 那个时候我讲一点那个夸张的 ， 就是我们大多数工程师当时都拿到了那种所谓的三倍 、 五倍 ， 甚至还有十倍的这种 offer。 所以在那个时候对我们每个人都是一个很巨大的考验吧 。 **Koji 杨远骋** [6:00] 所以在那一个月之内 ， 你就决定要做硅基流动 ？ **袁进辉** [6:05] 主要的决定是一个月之内决定了要继续创业 ， 虽然我们在光年之外这有半年时间 ， 很多其他公司已经传到了很多资源 ， 我们又归到起点 0，但是整个行业还处在非常早期 。 另外就是我们这个团队在这个 Infrastructure 这个方向的战斗力或者能力还是整个行业最拔尖的 。在有这个所谓的杀手锏或者是绝活 ，在这个刚起步的一个巨大浪潮之前 ， 还是有很大的机会 。 所以这是一个基本的判断 。 那我们就是重点就是说手里这个金刚钻 ， 用什么样的切入点能够保证我们在这个浪潮里面 ， 就是比如说坐在牌桌上 ，而且能有后面发挥的机会 。 这是基于这个大前提 。 那剩下的问题就是找到具体的切入点 ， 搞定融资 ， 设立公司等等这么多事情 。 **Koji 杨远骋** [7:09] 因为硅基流动上线到现在 ，在我的朋友圈子里面 ， 大家的这个好感度和口碑都很高 。 如果今天袁老师要用一句话向所有的 AI 应用开发者来介绍硅基流动 ， 你会用一句什么样的话来安利大家 ？ **袁进辉** [7:25] 我们的目标是让不会 AI 的开发者也能够去开发 AI 的应用 ， 实际上就是希望能把这个应用里面关于 AI 的部分都帮大家搞定 。 **Koji 杨远骋** [7:41] 最近我们其实也用硅基流动的 API 开发了一个 AI 应用 ， 叫做 《AI 遗嘱 》， 是鼓励年轻人在 AI 的引导和这个陪伴之下去思考一下死亡 ， 写一份模拟的遗嘱 ， 希望用这个方式让大家思考在自己的生活当中 、 生命当中什么是最重要的 ， 从而可以更好地去做选择和更好地过每一天 。 确实我们开发这个程序的工程师 ，他也是一个过去的产品经理 ，是他写的第一个从零到上线的一个程序 。 那用了硅基流动确实速度非常的快 ，他甚至说这个用硅基流动去接 DeepSeek 的 API 速度过快 。 而我们这个应用为了让大家沉浸在一个慢一点的 、 冷静一点的 、 严肃一点的一个思考氛围里面 ，他有刻意地把这个 AI 的响应速度给降下来 ， 没有让回复和 token 的展示直接像 API 那么快 。 所以他当时就向我感慨 ， 就没想到硅基流动可以把 DeepSeek 已经很快的响应再提一倍 。 好 ， 那我们再和 idoubi 聊一聊 ，因为 idoubi 也是在独立开发者的圈子里面 ， 大家认为神一样的存在 。 可不可以先请你快快介绍一下自己 ， 做独立开发之后做过哪些项目 ， 然后你自己最喜欢的 、 最引以为豪的项目是哪一个 ？ ### 独立开发者 **idoubi** [9:06] 我应该是那个去年 10 月份的时候开始从腾讯辞职 ， 辞职出来之后就一直进入了这个独立开发的这个圈子 ， 然后最早做的一款产品是做那个 GPDS 的一个应用导航 ， 就是第三方应用商店 。 后来就基本上保持在每个月都会上一个新产品的这样的一个速度 ， 然后去年快过年的前三天做了一个那个 AI 红包封面 ， 然后那时候那个项目就火了一段时间 。其实那个项目是我在星巴克花了一个小时写的 ， 然后那段时间传播的就比较厉害 。 然后后来除了红包封面之后， 又做了 AI 壁纸网站 ，2 月份的时候又做了个 AI 音乐播放器 ， 然后我上周也开源了 。3 月份的时候做了个 AI 搜索引擎 ，4 月份的时候又在做那个 AI 试衣 ， 基本上就是在 5 月份之前吧 ， 就从我去年 10 月份辞职到 5 月份 ， 基本保持每个月发布一个新作品的这样的一个节奏 。 但是 3 月份做了 AI 搜索之后， 就发现这个事情还是需要很多的精力去投入的 ， 所以我从 5 月 、6 月 、7 月这三个月基本上就没有再发布新的东西了 。 然后 8 月份就这个月我又在做一个新的 ， 做那个 AI 蓝鲸配置 Gallery 在做这个一件事 ， 生成一个网页的这个产品官网的这个产品 ， 可能过段时间也会发布吧 。 我觉得最印象深刻的主要就三个吧 ， 就一个是那个导航站 ，是我第一次就是用全栈开发的这种方式去做一个独立的产品 ，因为以前我在微信我是做后台开发的 ， 我是写 GO， 然后做 QIS， 做集群架构这一块的 。 但是独立全栈的话 ，其实 GPDS 导航是我的第一个独立全栈项目 。 然后第二个就是那个红包封面 ， 那个我觉得就属于无心插柳的一个项目 ， 就在星巴克那么随便的做了一个小时， 然后就有非常高的这个热度 ， 就一下子给了我非常大的一个信心 。 然后也是从那个项目开始 ， 我不管是极客还是推特 ， 还是我的个人的知名度 ，其实就从那个项目开始慢慢的积累起来的 。 然后第三个印象最深的就是这个 AI 搜索了 ，因为这个项目应该是属于大家知道我最多的一个项目 ， 就觉得好像我一个人做了一个 AI 搜索引擎 ， 然后这个方向又是非常有热度的 ， 所以我这个项目也是为我带来了很多就是以前没有的一些体验吧 。 **Koji 杨远骋** [11:46] 所以就是在你做独立开发之后做的项目又快又多 ，而且看上去是完全不可能完成的任务 ， 对吧 ？ 一个人做了一个 AI 搜索引擎 ， 那在你的这个开发过程当中， 就是 AI 帮上了多大的忙呢 ？ **idoubi** [11:59] 我觉得 AI 还是帮上了很大的忙的 。 就首先比如印象最深的就是写那个 AI 音乐播放器的时候 ，因为以前就如果没有 AI 的辅助 ， 如果我要写一个类似于网易云音乐的那种一个播放器组件 ， 我估计要写可能很长时间 。 但是借助 AI， 我告诉它我要实现这么一个播放组件 ， 它要有基本的这种三种切换的模式 ， 我可能就不到一个小时， 我就完全把它给做出来了 。 所以我觉得 AI 最大的一个好处就是它有一些标准化的一些东西 ， 比如像这种音乐播放器组件 ， 它是有标准答案的 ， 然后借助 AI 辅助的话 ， 实际上是能够让我的这个编码速度 、 实现速度都是非常的快的 。 **Koji 杨远骋** [12:45] 我自己之前学计算机 ， 然后在北航读本科研究生 ， 都是学计算机专业 ，但是我毕业之后就一直做产品经理 ，因此差不多有 10 年没有写代码了 。 然后最近这个 Claude 的这个工具出来之后， 我正好又遇到一个需求 ， 就是我给十字路口公众号有时候会排版 ， 然后之前交给别人排 ， 每次排完之后我觉得那个去调整那个排版 ， 就是如果不调我又觉得发不出去 ， 如果要调我又得花很多时间 ， 就经常在这个问题上自己纠结 。 然后有了那个 ， 所以有一天我突发奇想 ， 我是不是可以这个用 Claude 来帮我写一个排版器 ， 然后那个就可能用了不到 10 分钟就写了一个排版器 。 现在大家看十字路口公众号每篇文章的排版非常统一 ， 那个是我每篇文章的排版现在大概只需要 5 秒钟 ， 就只要我在 Notion 里面把格式写好了 ，5 秒钟就排一篇公众号出来 。 就那一天就那一刻 ， 我就觉得自己好像就真的很难形容那种感觉 。 对 ， 就是我想不到更好的比喻吧 ， 就真的是插上了代码的翅膀 。 就我就觉得我过去学的这个计算机专业的很多东西 ， 它就复活了 ，因为原来其实不会写代码 ，是因为你没有掌握那些就是细节的技巧和技术 ，但其实还是有一些这个程序思维在自己脑子里面 。 所以我大概知道要把一个东西从零做出来 ， 需要就怎么去下指令吧 ， 就产品经理最会的不就下指令写需求文档吗 ？ 现在就可以直接把这个需求文档下给 AI， 我那天写出来的时候 ， 那个代码嘣嘣嘣嘣从屏幕跳出来 ， 然后它还要让我配置一个 Python 环境 ， 我也不会配 ， 我说那你教我配 。 然后给我的那个指令也是就是具体到我觉得我是个傻子我都搞得定 ， 这真的很感慨 。 好 ， 那我们开始来聊一聊 ， 当我们在聊 AI 工程师的时候 ， 我们究竟在聊些什么 ？ ### 工程师分类 **Koji 杨远骋** [14:35] 首先呢 ， 这个 AI 工程师好像并不是一个有明确定义的职业 ， 当我们说到 AI 工程师的时候呢 ， 往往是一个非常宽泛的一个含义和指向 。 所以第一个问题也想请袁老师来给我们讲一讲 ，在现在的 AI 公司里面 ，有哪几类典型的 AI 工程师 ？ **袁进辉** [14:55] 的确 ， 这个 AI 工程师是咱们定义的一个 。 我理解就是咱就可以说和 AI 相关的工程师都叫 AI 工程师 。 那这里面呢 ， 我比较熟悉的是产出 AI 技术的这一类工程师 。 那这个怎么使用 AI 的工程师呢 ？idoubi 更加熟悉 。 我就说说这个怎么产出 AI 技术的这类工程师 ， 这里面呢其实大概分两类吧 。 有一类工程师是怎么让 AI 的效果更好 ， 比如说怎么让它语音识别得更准 ， 图像识别得更准 ， 生成的图片更清晰 ， 更符合我们的需求语义 ， 保证这个模型效果的 ， 让它智商提高一些 。 还有一类工程师是怎么让这个 AI 效率更高 ， 就是有的时候这个比如说语音识别或者图像 ， 它的效果已经很不错了 ，但是如果它工作过程中计算特别慢 ， 可能要么是成本太高 ， 要么是这个放到我们产品里面体验太差 ， 就是没有那种实时的体验 。 所以前一类工程师呢 ， 大概上一般我们过去称作是算法工程师 ， 保证这个模型或者 AI 的效果准确率 。 后一类呢 ， 我们一般叫做系统工程师 ， 或者是现在也叫 Infrastructure 工程师 ，Infrastructure 工程师 ， 它是说在模型效果就是准确率不受影响的前提下， 怎么让这个模型或者这个 AI 在这个底层的算力上或者芯片上跑得更快 ， 或者是运行的规模更大等等。 这里面包括怎么让这个模型训练过程中又快又稳 ， 规模又大 。 所以现在大家也在讲这个 Scaling Law， 就是怎么扩展到几百张 GPU、 几千张 、 上万张 GPU 上， 这训练过程中有一些 Infrastructure。 还有一类是当这个模型生产出来之后， 上线部署 ， 比如说有几千万 DAU 啊 ， 或者什么甚至更高 ， 它上面的负载非常高 ， 它就需要超多的 GPU 去服务这个用户的请求 ， 那怎么让这个推理的速度更快 ，也是一类的 Infrastructure 工程师 。 所以大概来说 ，在模型的 AI 能力的生产过程中， 有算法工程师和 Infrastructure 工程师 ， 大概这两类 。 算法工程师里面还有很多细分的类型 ， 一会我们也可以补充一下 。 那具体说这个 AI 能力生产出来之后， 无论放在手机上端上还是放在云上， 这个时候应用过程中又衍生出一些新的工种 、 新的品类 ， 比如说现在有 Prompt， 怎么能设计出更好的 Prompt， 把这个问题问好 ， 让这个模型更加容易理解我们的需求 ， 产出符合我们需求的这个回答 。 甚至现在说模型有幻觉啊 ， 什么要附加我们新鲜的或者是准确的知识库 ，有这个用 RAG 成为新的需求 、 新的工种 ，以及说现在还有 Agent， 像这个 Workflow 等等 ，也有搭建这些脚手架或者叫应用开发框架的工程师 。 比如说我们有些知名的项目 ， 比如说像 DeFi 啊 ， 像 Coz 啊 ， 开发 DeFi 和开发 Coz 这样的 ， 广义上我们这样的工程师 ， 我们也称作 Infrastructure 工程师 。 所以 Infrastructure 工程师从开始呢 ， 说怎么把这个一个神经网络 ， 一个深度学习模型 ， 比如说 Transformer 在这 TPU 上怎么实现得快 ， 做这样工作 ， 逐渐衍生说怎么把这个模型能力在应用框架里面 ， 让大家能用得更加方便 ， 比如说又开发了各种各样的 Workflow， 像文生图领域 ， 还有开发 ComfyUI 的 SD-WAN UI 等等这样的 ， 这些都是属于这个叫系统工程师或者 Infrastructure 工程师这个范畴 。 再往上呢 ， 就是属于怎么应用这些 AI 的能力 ， 开发应用和产品了 ， 这一块呢 idoubi 就最熟了 ， 可以请他来讲一下 。 **idoubi** [18:45] 袁老师基本上把这个 AI 的从底层到上层 ， 基本上都我感觉都覆盖得很全面了 。 那么我可能比较熟悉的一点还是在上层应用这一块 ， 就比如我从打个实际的例子 ， 如果我们要做一个 AI， 我们定义为叫做 AI 的一个应用的话 ， 我们应该怎么去做 。 那么简单一点的 AI 应用 ， 就比如说像之前像什么红红模拟器啊之类的这种 ， 它也可以算是一个 AI 应用 ，但是呢它是一个零代码的 AI 应用 ， 它就是在 Coz 啊或者 DeFi 啊 ， 或者是它之前用的像字谱啊什么智能体的基础上， 通过内嵌一段提示词 ， 然后告诉这个模型在得到用户的一个输入之后， 我怎么样去跟这个模型进行多轮的交互 ， 然后产生一个结果 。 这种呢是最最基础的一层 ， 就我们要做一个 AI 应用的话 ， 就是你需要设计一套比较好的提示词 ， 然后提示词这个领域这一年多吧 ，其实也发展到了很多 ， 像是学科类的一些东西 ， 它有一些这种类似于方法论啊之类的 ， 告诉你怎么样去写一套比较好的提示词 ， 然后有这个总分总啊 ， 或者有给它定义角色啊 ， 然后在分布之后让它按照这个去 不断的去进行啊 ， 甚至说需要它去追问 。其实还有专门的人出书 ， 就专门讲提示词怎么写的 ， 所以我觉得提示词是成为了我们现在做一个 AI 应用的它的一个地基 。 我基本上觉得我们一个 AI native 的应用的话 ， 它的第一步都是构建在这个提示词基础上的 ， 包括我们比如做 AI 搜索引擎这种产品 ， 或者说我做一个像什么 Artifact 的这种艺术产出的这种产品一样 ， 它作为一个 AI 应用 ， 它离不开提示词 。 我必须要告诉这个模型 ， 我给它的这些东西 ， 它应该如何去交互 ， 如何去处理 ， 如何去理解 ， 如何消化 ， 最后它应该给到我一个什么样的一个形式 。 然后另外一点 ， 我觉得 AI 应用现在的一个发展 ， 就是大家习惯于去朝着低代码的方向去发展 。 以前虽然低代码这个概念已经火了很多年了 ，也在这个 AI 之前也有很多做这种低代码的这个平台 ，但是 AI 的出现让低代码这个它的发展我觉得是更迅速了 ， 包括昨天是 VCL 它又发布了一个 V0 的这个 Chat 的一个工具 ， 就是你输入一个简单的 ， 你跟它聊天 聊一下， 它就能够直接给你快速的生成代码 ，并且渲染成一个组件 ， 就类似就是 Claude 的那个差不多 。 然后我最近也在做这个 AI tool 耐心配置 ， 就是说只要你输入一个你想做的一个东西 ， 然后你只要比如说我要做个 AI 搜索引擎 ， 名字叫 ThinkAny.ai， 它就一键帮我把整个网页完整的从整个页面结构啊 ， 到这个上面的一些术语啊 ， 内容啊 ，SEO 的这种东西全部给我生成好了 ， 我就不需要再花时间去投入到我这个页面的构建了 。 所以我觉得除了提示词之外， 低代码的这个发展也是在上层应用大家都会去研究的一个重点的方向 。 再举最后一个例子吧 ， 就是前阵子比较火的那个 Worldwide 他们推出了一个那个 Rose 的做吐槽 ， 这种它其实也是属于零代码或者叫低代码 ， 它可能也需要写一些代码 ，但它也是构建在提示词之上的 ， 它就一下子就传播开来了 ， 把它的这个主产品一下子带到了非 常高的这个热度 。 所以我觉得以后这类的产品肯定会越来越多 ， 大家会充分的利用各种 AI 搭建起来的工作流 ， 让你更快的去创建一些应用 ，而不是像以前一样 ， 我们需要投入很多时间去写代码 ， 去写页面啊什么的 。 所以我觉得这是一个发展的趋势吧 。 **袁进辉** [22:41] 我其实还想补充一点 ， 这是我一个感悟啊 ， 就移动互联网那波浪潮里的时候 ， 后来做出影响力产品的好多是应用层的工程师或者产品经理 ， 大家有产品的 sense， 那个时候不一定说你底层的技术做得多么好多么牛 ， 然后就能做出这个影响力的产品 。 那个时代就是这种应用工程师和产品经理的黄金时代 ， 这样的素质的人是最有可能做出有影响力的 ， 就像今天的 Silverpad App 啊这样的产品 。 那大多数下面搞底层系统的 ，其实像系统工程师或 Infrastructure 工程师在 AI 之前也存在 ， 那个时候大家都在做什么高并发呀 ， 分布式啊 ， 像这类型的工程师 ， 我感觉就在一个很好的产品里面一直在做锦上添花的事 。 ### 职业发展 **袁进辉** [23:30] 就是当它这个产品已经厉害起来的时候 ， 哎 ， 这些系统工程师和 Infrastructure 工程师才有用武之地 ，因为它那个用户量跌又逐渐往上走的时候 ， 已经很高了 ， 它才需要高并发 ， 才需要分布式 ， 然后这些系统工程师才进去 。 但是在这个产品刚起来 ， 出圈啊什么刚火爆起来 ， 它绝对是应用和产品 sense 好的人能做出来 。 所以我们今天听到的这个 ， 我觉得传奇的这种产品经理啊 ， 张小龙啊 ， 张一鸣啊 ， 我觉得都属于我 ，因为我是系统工程师 ， 我心里有点哎不舒服 ， 我说哎呀 ， 这些搞系统的工程师什么时候它才能走向前台 ， 才能做出这样的 ， 做一个公司 ， 做出一个影 响全社会的产品等等。 后来当 AI 起来之后，AI 里面其实有蛮多的技术 ， 就包括刚才提到的这些算法效果啊 ， 这个系统的 ， 比如说怎么让这个 AI 模型训练得更快 ， 推理更快 ， 一度以为我说哎呀 ， 这些搞底层技术的黄金时代到了 。 但是后来这些底层技术呢 ， 就发现它还是在下面 ， 它还没有到这个产品层次 ， 没有到我们的场景或者解决我们的直接的需求 。 应该说过去这十年很多很多这种同行搞 AI 的 ， 搞新前赴后继跳进来 ，其实我客观来说 ， 我从这个技术角度出发的东西 ，并没有达到原来想象的那种预期 ， 甚至到这个大模型起来之后， 里面技术壁垒特别高 ， 这些搞技术的人的黄金时代到达 ， 我们以为这个事情成为现实 。 我个人觉得哎呀 ， 这里头大家一提这个 OpenAI， 一提这个 Anthropic 或者什么 ， 哇 ， 它里面都是一些传奇的科学家呀 ， 还有很牛的这个系统工程师啊 ， 我们觉得啊 ， 这些人终于站到前台了 。 但是当这些核心技术 ， 就说它仍然是处在一个产品中的一个要素而已 ， 一个模块而已 ， 它最终要通过形成一个产品才能发挥出终端价值来 。 而且这个技术呢 ， 商品化非常快 ， 就像现在开源模型啊 ， 这些很多很多大模型训练的技术也追上去啊什么的 ， 最终这个部分发现 ， 即使做出那么好的技术 ， 单独作为一个商业模式也面临挑战 。 就很快我发现又回到之前的那个状态了 ， 就是当这些技术刚出来的时候 ， 我们对它抱有很高的期待 ，但是当这个它逐渐 commoditized 的 ， 就是它变成一个我们的脚手架 ， 就像今天我们搞前端使用 JS， 使用这个 React， 使用等等 ， 它就变成一个我们做产品中间的一部分而已 。 这些搞下面技术的同行啊 ， 搞算法的 ， 搞 Infrastructure 的 ， 哎呀 ， 现在好像又回到了之前那种 ， 我觉得哎 ， 说不客气一点 ， 就好像又到了锦上添花那种那种身位了 。 今天要做出这种影响力量的产品 ， 我感觉还是要在应用层 ， 我觉得这个层面还是机会啊 ， 想象空间更大的 。 **Koji 杨远骋** [26:36] 这个很像幕后英雄啊 ， 然后我觉得其实这个在很多领域也都类似 ， 比如说我们看到这个电影导演 、 电影明星是吧 ，因为他们做了作品 ， 所以他们被人记住了名字 ， 甚至这个维基百科可以流芳百世 。 但是其实这个背后， 比如说就是索尼摄像机的发明者或者胶片的发明者 ，因为我们今天说不出他们的名字 ，他们可能才是这个幕后做脚手架或者去铺铁路的这个英雄 。其实这个我觉得是不是也有另外一个角度啊 ， 就当我们聊到自己如何选择自己的职业生涯的时候 ，其实你这个动机会影响最后的决定嘛 。 那可能有些人对于在维基百科上有一个特别大的名字 ， 这是他非常大的动力 ， 那可能就会默默的引导他去拍电影 ， 走向台前 ， 然后去这个向公众对话 。 但也有一些人可能他追求的是就不断的超越昨天的自己 ，不断的做出更牛逼的脚手架 ， 那他就已经有非常强的在小圈子里面得到认可带来的这种快乐 。 那我觉得可能袁老师讲这个 ， 就在我的观察里面啊 ， 就在我们几次接触下我的观察里面 ， 我觉得其实袁老师您是对这个 to say 的 impact 还是有比较大的追求的 。 我觉得这个非常好 ，因为我也是这样的人， 所以我觉得刚才你的那个感慨在我听来可能是 ， 就是如果是看自己内心的这个优先级的话 ， 可能是因为这个原因 。 你觉得呢 ？ **袁进辉** [28:04] 对 ， 最终我认为就是我们所有的这些 ， 无论搞算法 、 搞 Infrastructure 还是搞这个我们应用的 ， 大家都在追求创造价值和追求 impact。 客观来说 ， 离场景和应用更近的 ， 我认为就说那个环节能够产生的这种杠杆啊 ， 或者产生这种效应更直接一些 ， 这个是更迷人一些 。 也有一些朋友啊 、 同行啊 ， 就说我就追求我在技术上的发明创造 ， 或者单点上追求到极致 ， 做到世界第一 ，也有这样 ， 这样也能给人带来很大的快乐 ，也存在不同的追求 。 但是如果希望看到说我们做出来的技术能给人带来什么直接的帮助 、 价值创造 ， 这个时候还是在做产品这一端更爽 。 **Koji 杨远骋** [28:56] 所以 idoubi 是不是深有感受 ？ **idoubi** [28:59] 我感觉每个做工程师的大部分就是会享受那种就创造的快乐 。 就比如说我如果是像袁老师 ， 想可能做一个深度学习框架 ， 然后大家知道我的框架 ， 然后用我的框架能做出很多就是很好的产品 ， 那我会觉得我作为一个框架的创造者 ， 我会很快乐 。 但是像我 ， 我比如说我做不了这么牛逼的框架 ，在我能力范围内 ， 我以前可能一年我只能做五个应用 ，但现在借助 AI， 我可能加个提示词 ， 加个 API， 我可能就是一天或者一周就能做一个 ， 那我一年能做几十个 ， 然后每个产品它又能解决不同的人群的不同的问题 。 然后我觉得在这个创造新产品的这个过程中 ，其实是非常有成就感的 ，不断的有一些正反馈进来 ， 那么我就很享受这种不断的去做产品的这种快乐 。 所以我觉得这个时代就比起过去获取这种快乐的这种方式 ， 可能会更多一些 。 **袁进辉** [29:58] 我再补充一下， 做那个底层技术的快乐来自哪里 ， 就是底层呢 ， 它就是一个东西 、 一个技术或者一个产品 ， 它比较通用 ， 它能够用在各种很多很多的场景和很多很多的产品中去 。 如果真的做到了这一步 ， 那的确还是很快乐的 。 只不过呢 ，在非常底层这一块呢 ， 一般来说不会存在很多样性的 ， 它就会赢者通吃 ， 比如说同时有好几个算法 ， 最后是最牛的那个算法 ， 比如 Transformer 就把过去的 RNN 给超过了 ， 那大家现在都选 Transformer 了 。 框架呢 ， 逐渐的就是只留下了一个 PyTorch， 所以呢 ， 它很残酷 ， 就是必须做到你是最后最好的被大家选择那个 ， 这个时候才能体会到这个快乐 ， 否则的话它就是一个过程 ， 就是一个这个垫脚石或者是中间的牺牲者而已 。 我认为就是这个呢 ，在产品和应用产品这块也是存在的 ， 你也必须最后胜出 ， 你才能体会到这种快乐 。 但是呢 ， 应用这块我就觉得它非常多样 ， 你看有 to B 的场景 ，有 C 段的场景 ， 生产力 、 娱乐的里面又有各种各样的 ， 它每个这个场景里面都可能有产品出来 ，但是它下面的技术呢 ， 它通常留下来的东西就特别少 ， 所以那个是一个它下面这个工种的这个残酷的地方 。 但它的快乐就是说 ， 当你做出来一个东西 ， 全行业都在用的时候 ， 它就会感觉很有成就感 。 比如说发明 Transformer 的人一定非常自豪 ，他就说我发明的一个东西 ， 全世界今天都在用 。 我觉得写 PyTorch 的人 ，他们可能也非常快乐 ， 像在谷歌的 Jeff Dean 也是我们这个 Infrastructure 这方向 ， 大家觉得传奇的大神 ， 那他也肯定我觉得是非常快乐的 ，因为他当年做的 MapReduce 就架起了谷歌的整个这个系统 ， 然后后来又做了 TensorFlow 啊 ，有很多很多 。 所以这个不同工种确实有一些这样的乐趣的不同 ， 离价值更终端更近的还是应用这块 ， 这个我觉得是给人带来的快乐不同的地方 。 **Ronghui** [32:10] 袁老师刚刚说的那个做底层技术的被认可的期待 ， 然后好像有点变化 ， 然后好像又回到从前 。 ### 大模型影响 **Ronghui** [32:16] 我想问一下硅谷跟国内的情况 ， 就袁老师了解的话是一样的吗 ？ **袁进辉** [32:22] 我三月份去过一次硅谷 ， 然后最近呢 ， 主要通过媒体也关注这个情况 。 我感觉就是现在你看这个行业内发生了大家讨论的这几起 ， 比如说做底层模型的公司的这个并购 ，Depth Inflection、Character AI 等等 ， 这个趋势现在公开讨论 ， 比如说大模型变缓啊 ，以及现在的大模型技术是否能通向 AGI 啊 ， 现在公开讨论这个课题话题的人开始变多了 。 所以现在更关注应用啊 ， 更关注它这个投资的回报价值啊 ， 这个是一个比较明显的一个趋势 。 就像前段时间是只有红杉的那个投资人说 AI 2,000 亿美金的问题 ， 到后面变成 6,000 亿美金的问题 。他就是说现在大家在 AI 上做的投入是蛮高的 ，是吧 ， 投入了几百亿美金 、1,000 亿美金 ， 必须要挣 2,000 亿美金或者挣 6,000 亿美金回来 ， 这个投资这个故事才是成立 的 。 原来呢 ， 只有他唱独角戏 ，但是现在这种他这种观点越来越受大家的认可等等 ， 所以这是应该代表了一种思维的潮流 ， 潮流的变化 。 这个技术传奇和神话的确要在应用里面体现出价值来了 ， 开始追问这个问题了 。 **Ronghui** [33:39] 两位能不能结合自己的经历讲一讲 ， 就是对 AI 工程师这个工作的观察变化呀 ， 把大模型当成一个分水岭 。 **袁进辉** [33:47] 我在读博士的时候是搞算法研究的 ， 可以说是算法工程师 。 后来出来工作呢 ， 就开始逐渐的开始搞工程 ， 就是过渡到这个 Infrastructure 这一块 。 这两个有什么区别呢 ？ 我的一个感觉就是说 ， 我为什么从算法转到 Infrastructure 呢 ？ 就是算法的竞争更加残酷 ， 就是刚才说的底层是 winner take all 是吧 ，但是算法更是这样 ， 当你想不出来这个方向最先进的 idea 的时候 ， 就没有人用 。 一个算法科学家能不能想出 ResNet， 想能不能想出这种 VGG， 后来想出 RNN， 想出 Transformer， 它有很高的偶然性 。 每年全世界发表大几千上万篇论文 ， 只有少数的算法或者 idea 被留下来 ， 被行业认可 ， 被大规模的使用 。 而且那个 idea 的产生呢 ， 当然也包括持续不断的探索 、 勤奋投入 。 我认为还有一部分 ， 我感觉就有点像产品经理那里面的一部分那种那种灵感的眷顾 。 所以它那里面呢 ， 就是只有少数人能体会到里面的成就感 ， 只有到那个就是你做出 ResNet、 做出 Transformer 这样的人。 但是大部分人， 我不是说没有价值 ，但是他那种成就感绝对就到不了这个程度 。 所以做算法这个里面非常残酷 ， 同时呢 ， 它里面的这个 idea 呢 ， 很多它是靠聪明那种巧的感觉 ， 就是这个想法呢 ， 一旦出来 ， 它就像捅破一个窗户纸一样 ， 所有人都知道 ， 就像现在大家都知道 attention is all you need。 但是呢 ， 如果说我们想用这个算法作为一家商业公司 ， 这个时候会面临一些问题 ，因为它就它这个窗户纸捅破之后， 就很难作为一个商业壁垒 。 这是算法的一个特点 。 但是 Infrastructure 呢 ， 它会带来一个什么样不一样呢 ？ 就是它里面既有那种灵光一现的那种聪明的 idea，但是大部分要靠工程实践时间去积累 。 它不是说我想到了这个 idea 或者窗户纸捅破了 ， 就能立刻别人能复现出来或者是复制出来一遍 ， 它是要靠很多工程师 ，他那个聪明的才华或者他持续的日积月累的一天一天往里投入 ， 连续投入几年 。 比如说一个 Infrastructure 的系统 ， 一般是要这种年为维度的 ， 就像今天说的黑神话悟空 ，他要搞四年一样 ，他投入 100 人， 像这种 Infrastructure 的也是大几十人 、100 人连续投入几年做出来一个 。 同时通常比如说别人有类似的 idea 了 ， 如果没有这个几百或者是上千人年的投入 ， 几百人年的投入也无济于事 。 所以这是我后来就是为什么从算法搞到 Infrastructure 呢 ， 觉得说这个同样是底层技术 ，但是做系统 、 做系统软件还是有可能成为一个商业产品的 ， 能成为一个公司的 。 就好像过去比如说大家大数据系统 、 数据库产品等等 ， 比如说 Snowflake、Databricks、Oracle 等等 ， 都还是成立商业公司了 。 这是我的一个小体会 。 还有一个变化 ， 容易问到说这个大模型给这些底层技术的人带来什么变化呢 ？ 大模型和过去的模型有一些区别 ， 最大的区别就是它是一个资源密集的 。 像过去我们算法工程师做一个实验或者是发明一个新的算法 ，有一块 GPU 或者几块 GPU， 这个实验就可以做 ， 就是我们就可以有这个实验平台 ， 我就可以去创造 、 去发明 。 但是现在这些算法工程师 ， 如果说没有一个大模型的团队 ， 没有一个什么大家通常是几千块 GPU 的这么一个实验的条件 ， 就很难去做这样的工作了 。 所以有机会继续做算法工程师的 ， 现在的人数要比过去少了 。OpenAI、Anthropic 以及像国内的大公司或者大模型公司这种才有条件去做这个工作 。 除了这一点 ， 还有一个变化趋势是说模型结构今天已经非常收敛了 ， 像过去是百花齐放 、 百家争鸣的 ，其实有很多种算法 。 过去有 CNN 里面就有很多变种 ，ResNet、VGG、Inception 等等 ， 到今天大家都是 Transformer，Transformer 而且还长得几乎都一样 ， 都是那个结构 。 那在这个情况下， 算法工程师 ， 比如说我们怎么再能再突破 ， 再比如说甚至推翻 Transformer， 就变成一个就是这些算法的同行一个巨大的挑战 。 但是要推翻这个东西 ， 或者要超越这个 ， 要颠覆这个东西 ，有极其挑战 。 因为今天已经大量的资源投入在 Transformer 这个架构下， 把这个 Transformer 它能在什么条件下工作的更好 ， 它什么超参数最 work， 都探索的非常充分了 。 新的想法比较难拿到这么多资源去做充分的探索 ， 就很难再出来 。 所以在这种模型结构逐渐收敛 ，而且已经投入巨大资源的情况下， 好多做算法的 ，其实在今天怎么再做出这种神作 ， 怎么再做出这种颠覆什么的更难了 。 所以好多呢 ， 只能在大多数啊 ， 只能在 Transformer 这个架构下再去发挥 ， 做 incremental 的工作 。 这个时候只能做什么工作呢 ？ 说我们去做数据的工作 。 因为大家发现说在模型结构的给定情况下， 模型效果怎么好呢 ？ 大部分来源于数据的工作 ， 比如说用多少数据 ， 用什么数据 ， 这些数据怎么配 ， 中文 、 英文 、 代码数据 ， 甚至是一些私域数据怎么配等等 ， 这些变成里面的关键的诀窍了 。 **Ronghui** [39:57] 对 ， 这个我们之前跟一个朋友聊 ，他说到就是一个是我自己在湾区的一个 ， 听到别人说话的时候 ， 发现有一个大家说话的口气的变化 ， 就是以前好像不会说谁是谁家 ， 比如说两个工程师收入比较高 ，其中一个可是 Data Scientist。 就是我觉得以前大家不会这样说话 ， 然后现在好像就是 Data Scientist 是一个脑袋上冒金光的一个工作 。 **袁进辉** [40:22] 对 ， 我补充一下， 就是说它不是绝对的 ， 我只是说在大模型公司里面做算法的人特别少 ，他们甚至是以人均卡数作为一个指标 ， 比如说他公司有 1 万张卡 ，他可能就 10 个人用这个 ，10 个算法工程师在用这 1 万张卡 。 所以他人均就是比如说 500 卡或者人均 1,000 卡 ，他们认为就是说他的生产效率不是说我有多少算法工程师 ，而是有多少特别 top 的算法工程师 ，但是每个工程师能驾驭的卡数很多 。 但这是我觉得是离我们大多数人都太远了 ，因为毕竟我们很多人都不在这个大模型公司里面做这个大模型的岗位 ，在学术界还有大量的工作在做 ， 比如说怎么把模型微调更好啊 ， 怎么能够把这个 alignment 做得更好 ， 怎么能解决这个幻觉问题啊等等 ，以及说这个模型它现在大家都说是个黑盒的 ， 它不可解释的 ， 神经网络就是不可解释的 。 怎么探索出一个理论能把神经网络深度学习大模型为什么 work 解释清楚 ， 这些都还是谜 ， 这些呢还仍然需要这些搞算法搞理论的同行去攻克 。 **Ronghui** [41:38] 那袁老师你觉得这个大模型它从如果以 ChatGPT 出现到现在吧 ， 那你觉得它的这个能力的演化对工程师的能力有什么就是特别明显的变化呢 ？ **袁进辉** [41:51] 对算法工程师来说 ，其实蛮需要跨界的 ， 蛮需要交叉学科的 ， 就是它的 idea 要来自不一定是传统科班的计算机啊 、 工程啊 ， 它可能来自于物理 ， 可能来自于生物 。 所以像 OpenAI 里面其实蛮多那个算法背景的人 ，他是别的学科过来的 ，有颇有一些是物理的 。 那对 Infrastructure 来说 ，其实就是你比如说搞训练支持训练的 Infrastructure 的话 ， 它就要对分布式 、 对那些大规模集群 、 那些高性能的网络等等啊 ， 就是它需要非常 hands-on，coding 能力非常强 ，而且要对那些非常复杂的系统问题要有洞察 ， 要有很强的很好的直觉 。 这是就是总体上归结来说 ， 就是首先要考察的就是工程能力 、coding 能力要非常强 ， 一上手就能把那些非常底层的 、 非常挑战的问题给搞定 。 那再往上的话 ， 这些 AI 呢 ， 刚开始是稀缺的 ， 就是 AI 的技能是稀缺的 ，但是随着它被大众所认可 ， 它逐渐就是商品化了 ， 它就变成基础设施 ， 像水空气一样 ， 应该是大家都需要但是感知不到的东西 。 所以这个分工也正在往这个方向发展 。 再往上就是像我觉得就是像爱豆笔这种全栈的工程师 ， 很强的这种产品的 sense， 很强的产品的洞察 ， 渗透到行行业业中去 ， 各个场景中去 ， 变成我们这个工作生活中离不开的等等。 **Ronghui** [43:37] 对 ， 我其实下一个问题也想问爱豆笔 ， 你之前在大厂里面工作的时候 ， 作为工程师 ， 跟现在你自己完全可以说是一个一人公司的话 ， 你自己的工作方式有什么样特别大的变化 ？ **idoubi** [43:50] 我其实上大学之前 ， 我基本上是我都没有个人电脑 ， 我都没有碰过计算机的 ， 所以我当时因为对专业不懂 ， 我就选了一个五大的一个核工程 ，但我大二的时候就偶然接触到了这个 IT， 我就觉得特别有意思 ， 我就在网上看一些视频 ， 然后我就去自学 ， 然后又一直有一些这种做出东西的这种反馈 ， 然后就觉得特别有这种驱动力 ， 然后就不断的自学自 学 ， 然后就持续的对这个行业很有热情 。 现阶段如果有人想走我这条路的话 ， 比如说也是学了一个不感兴趣的专业 ， 比如有些大学生刚入学 ，他想自学 ， 现在门槛其实是要低很多的 ，因为现在就是有很多的资源 ， 然后又能 AI 这个 Copilot 的辅助编程 ， 然后你不懂的问题你只要贴过去 ， 立马就给你解释的非常透彻 。 所以我觉得如果放在现阶段 ， 像我们要自己去学会全栈开发或者学 Python 啊或者学什么 ，其实你的这个进度也好 ， 门槛也好 ， 非常低 ， 进度非常快 ， 你可以学到在短时间内学会更多的东西 。 所以我的第一个观点 ， 我就觉得现在是非常好的一个时代 ， 就借助 AI 大家可以学到更多的东西 。 然后第二个就关于就是刚刚问到的这个工作的一些变化 ，其实我觉得我以前在腾讯的话 ， 我们基本这种大厂它都是有明确的分工的 ， 比如刚刚袁老师讲的那种 ， 可能从底到上就是分的每一层 ，但其实每一层它又有很多这种垂直的切分 ， 我们刚刚那 个是水平的切分 。 垂直切分 ， 比如说应用层 ， 应用层它又分为前端开发 、 后台开发 ， 然后还有这个数据库工程师 ， 就比如说我在我之前上一个项目 ， 我在微信我们做一个海外的支付系统 ， 比如说我要有 5 个前端工程师 ， 然后有 5 个后台开发工程师 ， 后台工程师我不需要关心别的 ， 我只要关注这个钱包账户这个金额的变动 ， 然后写 API， 然后 做 RPC 接口 ， 然后再部署起来给到前端去调用 。 那前端工程师他就不需要关心后台的数据是怎么设计的 ， 数据表是怎么设计的 ， 然后他只要去调这个接口 ， 按照接口文档去对接 ， 然后能把整个流程跑通就好了 。 所以然后比如我作为我可能我之前也做架构设计 ， 做运维 ， 那我运维的话我也不需要关心任何的业务 ， 我只要保证我能搭建一个 KPIs 集群 ， 然后呢我把整个微服务这个切分好 ， 我选什么 RPC 框架 ， 然后网络通信是走内网还是走 VPC 私有网络什么的 ， 我把这些给规划好了 ， 然后让每个人他做好的东西 ， 然后他能够在我的这一套集群上面 跑起来就可以了 。 所以我不需要关心他业务逻辑 。 总结一下也就是说大厂每个工种分的特别的细 ， 你只在你的这个专业里面做到就是足够的好就可以了 。 然后我们晋级 ， 比如说有不同的通道 ， 每个通道比如说我完全不懂前端 ， 完全不会自己写应用 ，不会写产品 ，但是我依然可以是一个后台开发的专家 ， 对吧 ？ 专家他可能完全不懂前端 。 所以呢 ， 现阶段就比如我辞职出来之后， 我作为一个独立开发 、 全栈开发的话 ， 那我的工作方式肯定是有了翻天覆地的变化 ， 我不需要再跟谁去对一个接口 ， 我也不需要跟谁商量我们的数据链路应该是怎么样的 ， 然后这个文档怎么写 ， 这个数据怎么传 。 我只要就比如说选定一个全栈开发框架 ， 我快速的写个接口 ， 然后快速的自己给它调通 。 所以实际上以前比如我们做一套系统 ， 我可能要一个月 ， 然后要投入 5 个人 ，但是现在我们做同样的一个系统 ， 我可能只需要一个人， 我可能 3 天甚至 1 天我就能把它写完 。 所以就是一方面就是工作方式变了 ， 就是你不需要太多的这种协作 ， 你的效率会有很大的提升 。 第二点就是你以前比如我们在微信做项目 ， 你是有一些固定的依赖的组件的 ， 我需要依赖微信的它的这个架构团队做的一些什么事件中心啊 ， 这个消息队列啊 ， 数据库啊什么的 ，但我们现在就是说我不需要依赖这些 ， 我让 AI 给我一个建议 ， 我应该用什么组 件 ， 然后我直接按照它的这个接口文档对接一下 。 所以实际上这个效率是有非常大的一个提升的 。 个人开发跟这个公司开发它的工作流程啊 、 模式啊 ， 肯定是有非常大的这个区别的 。 ### 超级个体 **袁进辉** [48:34] 刚才那个袁会长问我就是说从后来创业之后， 从这个公司的角度来说 ， 希望有什么样的人才啊 ？ 那我说就是爱豆笔这种 ， 就是这种全栈的工程师 ， 全栈的工程师非常需要 ， 就是我觉得也就是好多公司都非常需要 ，因为它这里面现在这个 AI 一出现呢 ， 它的产品机会在哪里 ，有很多不确定性 ， 它需要有很多 idea， 需要快速的迭代 。 这个时候呢 ，其实就像说的就是 ， 如果是用一个正规军大部队 ， 然后就分工来配置的话 ， 它那个速度太慢了 ， 就是我们见效也太慢了 。 大家有的时候会说这个程序员即使都很厉害 ，但是大家互相之间协作沟通传输的带宽还是比较窄的 。 所以你如果是我们一个全栈工程师 ，他自己和自己沟通是吧 ， 都在这个脑子里面 ， 都在自己脑子里面 ， 那个带宽就好像无限的 。 但是呢 ， 如果是两个人 ，其实现在的沟通还是用语言嘛 ， 语言还是一带宽很窄的一个 。 **Ronghui** [49:42] 比如说像爱豆笔觉得曾经大厂的工作流程是这样子 ，但是其实已经出现越来越多像你这样的超级个体户 ，有什么工作会消失吗 ？ **idoubi** [49:54] 消失吗 ？ 消失我觉得应该没有那么绝对 ， 只是说可能会有一些就是降低吧 ， 就比例会有一些降低吧 。 就以前比如说我们在公司工作 ， 你会有这种测试工程师 ，他可能就是你要把根据后台给的这个接口文档 ， 或者根据产品给的这个 PID 文档 ， 然后你要验收最后这个完整的流程 。其实就一个产品它涉及到的角色特别多 ，有设计师 ，有产品经理 ，有测试工程师 ， 前端后台 。 但是到了微信 ， 就是微信的一些管理理念就提出就是说工程师要对自己的代码负责 ， 所以在微信实际上是没有测试工程师的 ， 就这个岗位是没有的 ， 就是每个人自己写的代码自己自测 ， 自测完了之后， 然后再自己发布上线 。 那么如果说我们自己出来做的话 ， 比如说自己做一个产品 ， 那我不但没有测试 ， 我可能也没有这个产品了 ， 对吧 ？ 也没有什么前端 ， 没有后台了 。 实际上就是属于你把很多个角色都融合在一起了 。 那么有一些传统的工种 ， 我觉得就随着如果越来越多的人出来做独立开发 ， 做自由职业的话 ， 我觉得你很多岗位它的边界就会变得越来越模糊 ， 就没有说分得那么的细了 。 **袁进辉** [51:21] 刚才说到个人开发者和超级个体 ，其实这个也是现在在国内外都是一个潮流吧 。 这里面背后还有一个原因是就是这个分工越来越明确 ， 甚至很多工种它现在就是所谓的开发者工具或者开发者平台也蛮完善的 。 比如说我们要做这个 K8s， 或者说这个呢 ， 如果有一定阶段有需要 ，但是也不需要自己去做 ，因为云上已经有这种 K8s 的托管了 ， 或者什么的 。 如果是做 AI 也有云上的托管的 ， 比如说现在除了 OpenAI 的 API， 还有各种各样大模型的 API， 文生图的 API， 甚至说做个网站托管 ， 服务器租赁 ， 包括这个这些 CDN， 好多好多东西也不需要自己搞了 ，也有这个 。 前几天爱豆笔还写了一个博客 ， 把那个搞到从 Wordsale 搞到 Cloudflare， 对吧 ？ 其实刚开始大家都用 Wordsale， 那好 ， 那已经帮助大家省了很多事了 。 后来他发现这个成本太高 ， 说我需要用那个更自主化一些 ， 然后用 CDN 去搞 ，也有 Cloudflare 这样的产品 。 所以呢 ，其实整个这个 IT 的基础设施啊 ， 这种产品啊 ， 云服务啊 ，也给这个这种情况提供了蛮好的条件 。 如果我们一位工程师在大部分都有这个能力 ， 或者另一部分通过外界的这个产品和服务 ， 然后来补充 ，也一样能把一个完整的产品打通 ，也为这个其实超级个体 ， 还有我们这种小公司创造了很好的条件 。其实前一段时间不是还有这种流行的这种思路吗 ？ 就是说有很多小公司它收入非常高 ， 说那个 Midjourney 就 20 来个人， 还是一年几亿美金 ， 还有很多很多这种非常小的公司 ， 它商业闭环都做得很不错了 。 **Ronghui** [53:17] 我突然想到一个问题是 ， 那其实感觉像袁老师也比较想要招到像爱豆笔 ， 就是具有这种比较全面能力的人。 但是像他这样需要全面能力的人， 自己就可以搞一个一人公司 ， 可以自己赚钱 ， 这个矛盾对袁老师这样的雇主要怎么解决呢 ？ 然后以及爱豆笔你会怎么想呀 ？ **袁进辉** [53:38] 一定程度上我非常理解这种超级个体爱豆笔有这种折腾的劲头 ，因为我就是这么走过来的 。 以前我也是 ， 我就想自己哇 ， 怎么做成一个什么事情 ， 然后有 impact， 然后折腾 ， 中间是很困难的 ， 很挑战的 。 但是呢 ， 自己内心里面有那个想法 、 愿望或者一团火的话 ，其实那些困难都会去克服 。 那这种呢 ， 我们就应该去创业 ， 去搞事 。 这种其实无论是创业公司还是大公司是招不到的 ， 就是最有创业精神的这一群人。 但是这个人的谱系它是两个轴 ， 一个轴是能力 ， 还有一个轴就是冒险 。 那特别喜欢冒险的人呢 ，他就是有的人又有冒险精神 ， 又有能力 ， 那这种人就应该去创业 。 还有的人呢 ，他不喜欢冒险 ，有能力 ， 比如说特别不喜欢冒险 ， 就去大公司 。 但是呢 ， 中等程度的冒险 ， 那可以加入别的创业公司 。 当然呢 ，也有那种 ， 比如说像当年像字节很多业务 ，他也是通过像并购啊或者什么进去的 ， 那这个也可能是中间的一种解决思路 。 就是虽然加入了这个 ， 比如说一个公司 ，但是是被并购进来的 ，以及并购进来还是单独做一个业务 ， 做这种新业务 ， 比如说当时抖音应该就是被并购进来 ， 然后再发展起来的是吧 ？ 所以这也都存在着种种可能 ， 这是我的一个理解 。 **idoubi** [55:18] 我很朴素的一个想法 ， 就是我觉得我尊重我自己的个性 ， 我是一个非常喜欢自由的人， 然后就比如属于那种自由随性吧 ， 就想到什么做什么的那种 。 所以我其实在腾讯待了 5 年， 我觉得已经算是非常久的一段职业经历了 。 我之前在腾讯之前 ， 我还有待过两家公司 ， 基本上都是不到一年我就跳槽了 。 所以我觉得在腾讯待了 5 年， 已经到了我的一个职业的极限了 。 所以我就是当时去年的时候 ， 就我怎么样我都想着我要一定要落实 ， 就是因为我感觉我每天脑子里有太多的想法 ， 然后我又没有太多的时间去把它落地 ， 然后我上班就会上得很痛苦 。 所以呢 ， 我就落实出来 。 落实出来我就觉得我这段时间其实还是非常快乐的 ，因为虽然你刚刚讲的就是可能个人公司就是靠自己能赚到很多钱 ，也不需要去打工 ， 这个我其实是持保留的态度的 。 至少从目前来看 ， 我是没有赚到什么钱的 ， 就是在商业这个价值方面我还没有做出什么证明 。 但是在这个做产品啊 ， 还有积累个人的这个影响力方面 ， 我觉得我是应该有 9 个多月了吧 ， 就辞职出来 ， 我觉得还是收获了特别多的 。 然后我觉得最大的一个感受就是 ， 我可以每天随心所欲的按照我的想法 ， 我突然有一个灵感 ， 然后我就很快的把它上线 ， 然后发布出去 ， 被很多人看到 ， 然后我就会觉得这种感觉特别棒 。 所以呢 ， 就是也有一些像袁老师啊 ， 然后还有莫妮卡 、 小红哥啊 ， 还有其他的一些老板 ，其实也有邀请过我 ， 就看要不要加入一起搞啊 。 我觉得就是一方面我很尊敬 ， 就是像袁老师啊 、 小红啊之类的创业者 ， 我觉得也是有非常值得我学习的一些品质 ，但我现阶段我是觉得我还有太多的这种想法 ， 我没有完全把自己给它做出来 ， 把我很想做的一个东西把它做得更好一点 ， 然后再后面再看看有没有什么别的一些机会吧 。 如果能努力自己赚到钱 ， 我觉得那肯定是最好的一个方向了 。 **Ronghui** [57:29] 我觉得就像你说的 ， 你的当下优先级别 ， 根据自己个性最需要的东西的一个调整吧 。 **袁进辉** [57:34] 我也是从原来就是不服进 ， 然后做工程师 ， 然后觉得不应该局限在那个那么一个能力范围内 ， 或者影响力范围内 ， 然后这么走过来的 。 创业呢 ，其实它的好处就是它没有天花板 ， 能折腾到什么影响力 ， 能什么成就 ， 没有人设这个限 。 但是在大公司呢 ， 一定程度上这个肯定是要服务 ， 服从于整个公司的规划呀什么等等这些 。 另外就是创业的确是对人的这个成长帮助很大 ， 从单一技能到更多更全面的技能 ， 对吧 ？ 你不仅是要做研发产品 ， 还要有这个运营增长 、 融资 、 商业化 ， 要有这个商业的思维 ， 这个是弄成闭环 ， 这是成长 。 但是就是成长背后是挑战 ， 就是面临的挑战也很多 。 但是如果自己非常 enjoy 自己的 idea 这种愿望的实现的话 ， 这些好像这些都应该不在话下， 都能克服 。 但那确实是非常非常难的 。 这些我相信每一位创业者其实在整个过程中， 这些都在就是冷暖自知 。 对 ， 这个问题挑战会非常多 ，但是应该就是既然选择这个出发 ， 可能都心里有准备 。 **Koji 杨远骋** [58:57] 我比较想好奇的是 ， 你觉得最难的事情是哪些事情啊 ？ 对你来讲 。 ### 创业挑战 **袁进辉** [59:02] 直观来说 ， 大家会第一反应说融资难 ， 的确融资是挺难的 ，但是它是个表面的表象 。 最难的是改变自己 ， 就是说或者意识到自己的局限 。 无论遇到什么困难 ， 总有人能帮他解决 ，但是如果不改变自己 ， 自己不一定能解决 。 比如说碰到融资 ， 可能融资有融资的规律 ，有的人融资就很顺利看上去 ，有的人就非常难 。 这个时候中间是有就是要找到那个规律 ， 这个时候可能要挑战自己 ， 说我是否自己太坚持 ， 我自己太自以为是了 ， 或者什么的等等 ， 或者说什么方面的能力要提高 ， 把这个自我放下， 然后意识到可改进的地方 ，以及那部分能力补全 。 有可能是自己去补全的 ，也可能是通过团队协作来补全的 。 所以最挑战的还是自己的成长吧 ， 我觉得 。 **Koji 杨远骋** [1:00:02] 但这一次其实你还是义无反顾又开始了一次新的创业 ， 然后在知道了这个有千难万难之后， 那你觉得这个内心最大的动力来自哪里啊 ？ **袁进辉** [1:00:13] 其实一直以来就主要就是一直以来的一个追求没有实现 ， 一直在一直说是在踏踏实实的搞技术啊 ， 搞研发呀 ， 搞这个就是要追求做的东西能给别人带来价值 ， 能创造价值 ， 然后呢 ， 自己能产生 impact， 然后自己有成就感 ，有回报 。 这是从最初开始出来创业的时候就是这么想的嘛 ，但是一直没有实现嘛 。 那现在要是中间不做了 ， 那可能后面就会后悔嘛 ， 就是肯定说中间那个前面付出了那么多 ， 坚持那么长时间 ， 现在按说是个更好的时机 。 大家公认说这大模型 AI 是一个像移动互联网 ， 甚至像 PC 一样的革命 ， 这是这么好的一个时机 ， 可能一辈子也碰不到几次 。 然后本来原来已经出发做好了蛮多的积累 ，以成长团队 ， 那中间再不做了 ， 这是肯定后面会后悔的 ， 肯定会的 。 所以为了不后悔嘛 ， 就是原来的梦想没有实现 ， 还得继续干 。其实从头到尾都是希望看一下自己的极限在哪里 ， 自己的到底能够折腾成个什么样子 ， 能做出什么样的事业 。 然后原来是在研究上说我研究上能做到什么位置 ， 说我能做出什么样的创造 ， 比如说 paper 能发到什么地方 ， 能有什么 citation， 然后做出来 。 后来做东西重视对产品对业务的影响 ， 就说能帮公司赚多少钱 。在后面就是说整个行业还不一定看得清楚未来的情况下， 你通过自己的研究思考 ， 能够超前做一些预判判断 ， 然后为未来要发生的重要的事情提前做好什么样的准备 ， 或者做好什么样的技术或者产品的准备 ， 能产生最终其实换下来就是所谓的一个词 ， 就是 impact。 一直在追求这个吧 ， 就是希望能靠自己靠团队能够产生多大的 impact 吧 ， 能折腾个什么样的事情吧 ，是这个事 。 **Koji 杨远骋** [1:02:35] 你是什么时候意识到自己是有如此强的这个 impact 驱动的 ？ **袁进辉** [1:02:41] 哎呀 ， 这个可早了 。 那到现在我觉得会更大一些 。 那特别小的时候其实一直在追求这种所谓的卓越吧 ， 就是比如说你追求学习成绩多好 ， 追求发 paper 多好 ， 那那时候都是可能是眼光特别短啊 ， 特别小 ， 就是局限在一个 实际意义没有那么大的一个问题上 。 到后面就是更追求实际给人的这种带来的正向的推进作用 ， 比如说让人生活得更幸福啊 ， 让这个工作效率更高啊 ， 让这个哎呀 ， 这个所谓的这个世界走向更好的方向啊等等。 **Koji 杨远骋** [1:03:28] 哎 ， 爱豆逼其实你做的事也是就是有蓬勃的创造力嘛 ， 就在很多人看来就是是难以想象的 ， 就怎么可以有那么多的 idea，并且有那么强的执行力 。 所以你自己如果看自己内心的话 ， 你觉得这个驱动力是来自于和袁老师一样的 ， 就是对影响力的追求 ， 对卓越的追求还是有来自于不一样的角度呀 ？ **idoubi** [1:03:51] 我觉得一方面也跟袁老师一样 ， 就是也是希望自己能够有更大的这个影响力 。 然后呢 ， 第二就是当你做出来的产品 ， 然后真正解决某些人的问题 ， 然后别人很喜欢的时候 ，其实是有非常大的这个成就感的 。 我觉得我一直是一个成就感驱动型的 ， 包括我不管是最早自学计算机也好 ， 还是我现在自己做一些产品也好 ， 我觉得最大的一个本质还是靠成就感驱动 ， 然后做这个东西能够给我带来持续的这个成就感 。 然后另外一方面呢 ，其实也是不断的去像袁老师刚才也讲的 ， 就是想看一下自己的这个能力边界在哪里吧 。 就是以前比如说我可能之前几年工作我都是做后端 ， 那我看一下我做前端是不是也很容易 。其实我发现好像做这个东西对我来讲也不是那么难 。 我因为有一些积累 ， 然后我学一门新的技术 ， 我发现就特别简单 。 我可能把官方文档过一遍 ， 然后了解一下它背后的这个技术架构 ， 我觉得很快就能上手去做出东西了 。 包括我 3 月份去做这个 AI 搜索的时候 ， 当时因为我之前也有想过要做 ，但我总觉得这个东西它应该是一个很大的东西 ， 像谷歌百度啊 ， 做几十年的 ， 我觉得不是我这种人能轻松进去做的 。 但后来我去了解了一下 AI 搜索它背后的一些技术 ， 技术栈能力啊什么之后， 我发现其实它好像也在我的一个能力范围内 ，因为我可能不需要再从头走一遍以前做传统搜索引擎的那条路 。 我在现有的 AI 的一些能力之上， 我觉得我甚至可以在一天内或者两天内我就能把这个东西给做出来 。 所以我慢慢的探索的越多 ， 我会发现我对这个行业就我经常讲的一个词就叫去魅 。 我就觉得好像基本上好像我看到的每个行业 ， 好像基本都是没有特别高的这个技术门槛 。 所以呢 ， 我就基于这个认知之后呢 ， 我就慢慢的就会有更多的想尝试的这个欲望 。 我觉得只要在我能力范围内的 ， 然后我经常会看到的或者会用到的一些软件 ， 我都想自己能够动手把它写一遍 。 这样的话我就会觉得不同的产品 ， 它可能会带给我不同的这样的一个成就感吧 ， 然后也能接触到不同的这样的一个人群 ， 然后我就对每个行业就会有更多的这样的一个认识 。 所以我觉得就是基于这些元素吧 ， 就是能够让我就一直不断的有新的这个学习的欲望 ， 我不断的去补充我的这个知识库 ，不断的把我学到的东西再通过一个实际的这个产品去做出来 ， 然后再覆盖到不同的这个领域 。 所以这也是我持续创作的这么一个动力吧 ， 我觉得 。 **袁进辉** [1:06:46] 其实我现在不是工程师了 ，因为我现在说实话我也不写代码了 。 那我觉得蛮遗憾的 ， 就是我特别羡慕艾多比这种状态 ， 就是他有什么样的 idea 和产品想法 ，他立刻就能去把它实施 ， 看到效果 。 我以前写代码的时候 ， 我也非常 enjoy 这种状态 ，但现在有点不爽的是 ， 现在觉得有什么想法 ， 自己做起来没那么快了 ， 让同事去做还要讨论半天 ，他也不一定听我的 。 所以这个时候呢 ，其实还是这种我觉得作为工程师啊 ， 这种自由还是非常非常令人向往了 。 **Ronghui** [1:07:32] 那你会考虑用 Devon 这样的 agent 吗 ？ **袁进辉** [1:07:37] 这个呢 ， 我还没有上手用啊 ，但是我听他会解决初步的一些问题 ，因为我还是相信这个工程师 ， 就像现在说 AIGC 有些画画或者写作能超过这个画师 ， 超过这个作者 ， 超过作家 ，但是我还是觉得他最顶级的那些还是超过不了 。 就像写代码 ， 我们最顶级的这些工程师 ， 这些 AI 的 coding 的 agent 还是搞不定的 。 这里面还是包含了蛮多这个我觉得 AI 现在还理解不了的智慧的 。 **Ronghui** [1:08:14] 我们的听众中可能有的人他是对进入这个行业感兴趣 ，有的人可能他身在其中 。 就是袁老师对这种从比如说从过去是所谓古典工程师的话 ， 进入 AI 的这些公司有什么最先上岸的一些领域 ？ **袁进辉** [1:08:31] 基于这些大模型或者生成式 AI 的 API 去做这个 ， 用 Prompt 啊 ， 用这个像 DeFi 啊去搭一些好玩的东西 ， 这些我觉得这是比较快的 。 很多这种项目都有开源的去观摩去玩 ， 就是下载到开源代码去 hack， 然后去改成自己想要的形状或者什么 ， 这是比较快 。他动手会更快 。 现在当然也有很多很多的教程 、 教材 、 视频等等 ， 这也是 。 但这个呢 ， 可能会对那些想更深入的理解这个背后的 why 啊 ， 这些问题 ，有好奇心的这些工程师可能有 ，他可以去学习这个所谓的深度学习后面的这个 ， 比如说原理啊 ， 比如说梯度下降啊 ， 矩阵 attention 到底是怎么回事 ， 怎么算的呀等等。 这些呢 ， 反正有一些正规的课程 ， 比如像斯坦福历来就有很多这种非常好的 ， 当时是 CS231， 就是那个对 ， 就是教育了一代人的很多很多这样的 。 我觉得网上的资源现在还是非常充沛的 ，B 站上 YouTube 上都有很多 ，但是最直接的我认为还是从代码入手 ， 就是做从开源的这种项目入手 。 ### 工程建议 **Ronghui** [1:09:53] 那袁老师你作为雇主的话 ， 你们公司在招工程师的时候你最看重什么 ？ **袁进辉** [1:09:59] 一个素质就是自驱 ， 这是创业公司非常需要的 。 就是因为创业公司团队非常小 ， 组织结构也比较扁平 ，也就是什么事情都要做得尽可能简单 ， 都是太有原发的动力去进步 ， 去学习 ，有好奇心 。 这个呢 ， 顶其他的很多 。 就是说有这一点的话 ，他会持续的自己去解决很多很多问题 ，而且未来像这种天花板也比较高 。 另外一个就是还是要有一定的在过去的经历中要有一些 record， 你要么是成绩好 ， 成绩好说明你还是比较自律的 ， 比较投入的 ，也可以成绩不好 。 成绩不好就也许他兴趣不在这 ，他是兴趣在别的地方 ，但是总能讲出比如说一点亮点 ， 比如说他博客写得好 ， 或者我视频做得好等等 ， 总要有一个热爱的东西 。 我觉得这也是比较重要的 。 **Koji 杨远骋** [1:11:03] 我问一个这个比较残酷的问题啊 ， 就是因为很多这个人， 包括我自己在内啊 ， 我们招这个新同事的时候都希望说他自驱力强嘛 ， 越创业公司越希望自驱力强 ，但其实这个世界上很多人自驱力他就不强 。 那比如说袁老师你会给这些人什么样的建议 ？ **袁进辉** [1:11:22] 其实刚才说的自驱力和第二个问题 ， 就是那个要有兴趣 ， 根本上还是要找到自己的热爱吧 。 无论前面有什么障碍 ， 我一定要干这事 ， 我一定要把什么东西搞明白 ， 这种他内心里面的一个好奇心兴趣 。 因为现在这个我们绝大部分人应该都脱离了温饱的阶段 ， 就是所谓的那个需求 ， 应该更加去 follow 自己的内心 ，follow my heart。 如果是这种情况下， 按照这个追求的话 ， 我认为也比较容易解决温饱问题或者生存问题 ， 甚至在那个专业上能到更高的高度 。 所以还是要有自己的爱好和兴趣 ， 按照自己的兴趣和的指引去发展 ， 这是比较重要的 。 **Koji 杨远骋** [1:12:11] 其实自驱是一个结果 ， 自驱是热爱的结果 。 就像这个去年 Paul Graham 就 YC 的创始人写了一篇就是超长长文 ， 前所未有 ， 就讲说如何成就伟大事业 ， 里面在讲还是要先从自己去发现 ， 回到自我 ， 然后里面找到的第一点就是有什么是你异乎常人的热情 ， 比如你就是对毛毛虫特别感兴趣 ， 那你可能就是在别人看来是怪咖 ，但是如果你沿着这个兴趣 去做的话 ， 你成了这个毛毛虫的专家 ，也可能这个解决温饱问题自然不在话下啊 ， 那很可能它还是你成就伟大事业的起点 。 **袁进辉** [1:12:50] 我们说 AI 能做越来越多的事情 ， 能取代人很多很多能力 ，其实它取代不了的是人的这种个性化和人的这种内在的追求 ， 创造性 。 所以我觉得未来趋势也是应该鼓励这些人， 我们人是按照个性来发展 ， 按照兴趣来发展 。 世俗来讲也是为对个人生存来说是更合适的一种道理 ， 更合适的做法 。 **Ronghui** [1:13:22] 刚才那个问题没有问完哈 ， 就后半个问题是问爱豆比 ， 就是刚刚问袁老师那个关于 AI 工程师的工作 ， 我猜想可以 ， 可能也有很多人想要走你这条路 ， 更自由更 freestyle， 当然也需要冒很多风险哈 。 你如果对想要走你这个朝着你这个方向发展的工程师 ，有什么样的工程师背景的人 ，有什么样子的建议 ？ **idoubi** [1:13:43] 首先建议的话 ， 就是不管是有工程背景还是说零基础的 ，其实我觉得要做 AI 应用层的开发 ，其实相对来讲是比较容易的 ， 可能底层会难一些 。 底层比如说要做的袁老师要做的那种事 ， 像我去从现在开始要去做这个行业 ， 我估计我都要很长时间 。 那么我觉得做我们这一行 ， 做 AI 应用开发这一行 ， 就对于比如说你这个荣辉你来做的话 ， 我觉得可能你也是适合的 。 那么其实我觉得主要就是三点吧 。 第一点就是就是那个零代码 ， 零代码的话因为现在有很多了 ， 像 DeFi、Code 啊这种 ， 就是你只要你有创意 ， 你可以通过零代码的方式 ， 你用它的那个流程就可以做出一个能够给你的朋友用起来的一个应用 。 这个应用呢 ， 能够比如说像之前红红模拟器之类的 ， 或者像上次那个吐槽这种 ， 它就一下子能够积累特别多的流量 ， 那就能够给你一些正反馈 ， 那你就会觉得你对这个事情就更加热爱 ， 你就会去创造更多 。 所以其实零代码是能让你很快的进入到这个 AI 应用的这个行业的 。 然后第二点就是做这个低代码 ， 低代码的话现在也有很多的这种框架 ， 比如说这个 Gradio 啊 ， 还有 Streamlit 啊之类的 ， 就是你只要用 Python， 你不需要自己去熟悉前端 ， 写很多的这个 HTML 代码 。 如果说你有了这个创意 ， 然后又有一个低代码的这种框架让你用 ， 你就做出来一个只要让你朋友上传一张图片 ，他就能看到一个自己穿一个红色 T 恤的这什么的效果 ，他就会能够给你也是带来一方面带来成就感 ， 甚至也会有一些经济的收益 。 我觉得这是第二点 。 第三点就是做有代码的 ， 就是这个就是可能对基础要求会比较高一点 ，但是相对十年前 ， 我们现在要学习代码开发也是非常容易的 。 比如说 GitHub 上有很多这种开源的课程啊 ，也有一些这种这种东西啊 。 实际上我我从去年 12 月开始 ， 我也在做一个这个全栈开发的一个课程 ， 然后也有一些做产品经理的 ， 然后他也进到我的社群之后 ，他也学会了一些写代码去做这些东西 ，其实他是非常简单的 。 我觉得最重要的一点 ， 如果零基础的 ， 你就是要跟就有一套这个从 0 到 1 的一个项目 ， 你完整的你不需要理解它的原理 ， 你先把它复刻 ， 能把它做出来 ， 能跑起来 ， 然后基本都是一些标准化的流程 。 不懂的问一下 AI， 基本上一个零基础的产品经理 ，他可能也会在一个月或者两个月之内也能自己实现写代码做 idea 的这么一个过程 。 那么对于稍微有一点这个基础的人， 比如说以前是做算法的 ，以前做后台的 ，他可能没有做过全栈应用 ， 这种人是更容易学习的 ， 可能甚至一周以内就完全能自己做东西 ，因为有太多的这种开源的东西了 。 而且全栈开发你加 AI 的这种辅助编程 ， 做一个东西是非常简单的 。 所以我觉得总结我的建议 ， 我觉得就可以参考零代码 、 低代码 ， 还有写代码的这三种路线 ， 选择适合自己的一个方向 。 如果你你自己看得懂代码 ， 你就去学习一下写不同类型的代码 。 以前你写后台 ， 你先可以写一点前端 ， 如果你只是想做出一个自己的东西 ， 那你有太多的这种低代码或者零代码的工具可以用 。 我觉得本质上还是回到刚刚讲的一个持续的热情的这么一个话题 ， 就是一定要有有自己想做出一个东西来的这么一个想法 。 就是你突然发现一个你很想做的一个东西 ， 市面上没有人做 ， 然后你特别想自己把它实现 ， 那么呢 ，有了这个动力之后， 你才会去找各种实现的手段 ， 你才会想怎么样把这个落地出来 。 所以我觉得我的建议就是说 ， 先要有自己的一个 idea， 然后再去找各种各样的工具来完善 。 现阶段我觉得但凡自己有想法的人， 有一点自驱力的人， 基本上要入行 ， 这个 AI 应用开发其实是非常容易的 。 **Ronghui** [1:17:57] 对已经有一定经验的工程师 ，他要怎么样精进自己来提高自己的竞争力呢 ？ 就是在你们分别所在的这种 Infrastructure 层面跟应用层面做事的人 ，因为现在环境也对比较挑战 ， 整体这个市场也会有一些波动 ， 然后就是可能也会有一些人淘汰 。 **袁进辉** [1:18:18] 未来什么样的工程师更有竞争力呢 ？ 我觉得是有两种发展方向 ， 一个是做得特别深 ， 某个方向做得特别深 ， 你就变成世界上最 top 的那个小群体里面的之一 。 还有一种就是做得广 ， 融会贯通 ， 更复杂的系统都能驾驭自如 。 就像我们说有的同事 ，他就是在研究算法矩阵 ，在这个 GPU 上， 或者在华为升腾上怎么跑得更快 ，他就要对那个 GPU 底层的系统结构啊 ， 指令集啊 ， 那个各种什么那个 share memory 啊 ， 带宽啊 ，memory bank 啊 ， 这好多东西细节都要弄得 。 我认为就是他甚至不能比这个原厂差 ， 甚至不能比英伟达的工程师理解要弱等等。 所以呢 ， 这是深的 ，其实他可以钻得非常非常深入 。 还有一种就是往前面的角度 ， 我觉得 AI 这个虽然 AI 可以做一部分代码 ，但是它在这个整体像系统架构啊 ， 这这层面 ， 我不觉得现在的 AI 能够驾驭 。 这个时候其实是比如像以爱豆比为代表的这种全栈的工程师 ， 整个行业非常需要的这样的 。 **idoubi** [1:19:34] OK， 我我在袁老师基础上补充一下吧 ， 就是首先深度这块确实是是必要的 ， 就深度就对应着一些专业的领域 。 比如说我们一开始比如做全栈开发 ， 我做一个产品很简单 ，但是如果这个产品它有幸做得特别大 ， 我打个打个简单的比方 ， 就是莫妮卡她最近也上了那个 AI 吐槽的 ， 然后呢 ， 她就五天之内跑了几千万的这个 PV， 几百万的用户然后都来了 。 然后呢 ， 像这种你说做一个莫妮卡的这个吐槽的这个功能 ， 甚至说之前那个 worldwide 的那个吐槽的一样 ， 做的话基本上可能像我们这种人做一天甚至半天就做出来了 ， 做出来但是如果说有几千万的流量进来了 ， 我能不能扛住 。 所以呢 ， 我觉得这就是袁老师讲的叫做专业的深度的问题了 。 就是你只有经过一些大流量的这种项目的经验 ， 你自己懂得如何做高并发 ， 做分布式 ， 做融栽 ， 做这种这种多集群的这种扛压 。 然后关于广度的这个问题 ， 我觉得是要有一个全局的视野 。其实大家可能很多人对全栈工程师了解得不够多 ，以前大家理解的全栈工程师其实就是说我自己写 API， 自己写页面然后自己对接 。 一般以前的一个狭义的定义 ， 全栈就是说用 NAS 的用 Node.js 一把数 ， 就我 Node.js 把我整个项目写完了 ， 我不需要去对接别人的 API， 这就是别人理解的全栈工程师 。 但我觉得光有这个其实是不够的 。 你你要做一个广度的延伸的话 ， 你必须要有一个全局的视野 ， 你不单是能够前后端自己把这个项目搞定 ， 第二呢 ， 你自己比如说你要知道如何去设计数据库 ， 能有更好的这个扩容的能力 。 然后呢 ， 你如果懂这个 KYS 集群的这个部署 ， 比如说我以前在微信我是做系统架构的 ， 那么我做任何一个项目 ， 我就会想到我应该怎么去把它部署会更好一点 。 我一开始为了图方便 ， 我可能就直接丢到这种云托管这个 VC 啊 ， 就很快的上线了 。 但是为什么后来我我要签 ， 一方面是我觉得这种方式它只是便利 ，但是它很贵 。 第二方面呢 ，但凡我如果也是几千万的流量进来的话 ， 它这套架构绝对是扛不住的 。 那么我会想着我要迁到我自己搭的这个 KYS 集群 。 那么我一开始我就在设计这个代码的时候 ， 我就会想到我如何用 Docker 去快速的给它部署 ， 如何在集群里面也能够跟在托管平台一样的这种运行的方式 。 所以你但凡有个全局的视野 ， 你就不仅仅是知道这个应用是怎么做出来的 ， 你而且要知道它怎么样去把它部署起来 ， 会运行得更好 。 然后如果流量起来了 ， 我怎么样扩容 ， 能够更快速更平滑 ，不需要宕机 。 所以呢 ， 你就会看得更远一点 。 如果一开始这个设计得不好 ， 比如说我这套代码它所有的组件都是依赖于依赖那个 VCL 的 ， 它不太容易在 Docker 里面去运行的话 ， 那么我这个应用它只要做大一点 ， 我肯定我就要花很多的时间去改造去迁移 ， 那可能就会影响这个体验 。 所以我觉得做做这个应用层的 ， 除了刚刚讲的这个深度以外， 广度这一块最重要的还是要有一个视野 。 视野这个有可能不是你一下两下能够学会的 ， 可能还是我觉得跟工作经验还有你的一些项目经历有关吧 。 就你做过前前端跟后台 ， 然后也做过运维 ，也做过架构的话 ， 你可能对这个事情理解起来就会更透彻一点 。 **Ronghui** [1:23:20] 所谓的 AI 初级一些的 AI 工程师会被取代 ，是你们是不是同意这个观点 ？ **idoubi** [1:23:25] 我觉得初级可能就是还是刚刚讲的那个 ， 就是你的视野比较局限 ， 就能力比较单一 。 比如说我只会调别人的 API， 然后呢 ， 或者说我只会套个壳 ， 然后做出来 。其实套壳是可以很好的快速的验证 ，但是如果你想要 ， 比如说公司 ， 我作为袁老师这样的雇主 ， 如果要招一个人的话 ， 你只是会套壳 ， 只是会调 API， 只是会写个页面 ， 我觉得可能还是不够的 。 因为它的产品形态可能会更多样 ，以后的扩展性啊 ， 流量可能会更大 。 那么肯定如果说袁老师要招聘一个更合格一点的人 ，他肯定会觉得不仅仅会套壳 ， 你更多的是你能理解为什么要这么套壳 ， 你怎么样套会比较合理一点 ， 或者说你有没有其他的一种方式能让这个做得更更好一点 ， 更完善一点 。 所以我觉得被取代的 ，也不能说完全被取代吧 ，但我觉得这种人可能会慢慢的没有那么大有竞争优势 。 就是就是如果只是限制在某个领域 ，不了解某一个东西它的背后的东西 ， 你只是看到它表面怎么用 ， 我觉得可能是没有太大的竞争优势 。 如果要提升自己的一个竞争优势的话 ， 一方面就是你要了解更多的可以用的方式 ， 第二呢 ， 你要了解它背后的一些东西 。 如果说你不能用别人的了 ， 你必须要自己搭一个 ， 你至少得知道为什么要这么搭 ， 我应该怎么去搭 。 我觉得这样的人会比较有优势吧 。 **袁进辉** [1:25:02] 补充一个角度 ， 就是除了纯技术方面 ， 就是去更完善视野更广 ， 还有一个就是领域要交叉学科 ， 或者说要跨界 。 因为现在那个很多我们的软件呢 ， 现在逐渐就是由模型加人写的软件来组合起来的 。 你直接用模型的话 ， 它完成的是一个比较通用的能力 ， 它在某个方向 、 某个领域知识 、 行业知识这方面呢 ， 目前还有这个挺多是做不太好的 。 像我们除了在工程上搞好 ， 我同时还对法律行业非常了解 ，他这个时候就特别适合就说把这个通用的知识 、 通用的模型能力啊 、 软件架构 、 工程的能力啊 ， 怎么在这个行业里面能发挥得更好 ，他就能做得比别的人更好 。 **Ronghui** [1:25:56] 那你们觉得接下来会发生什么 ？ 就是有一些趋势的判断吧 。 ### 趋势展望 **袁进辉** [1:26:02] 整个就说在 AI 这个行业里面 ， 大家现在基本上可以分成应用和底座 。 前一段阶段主要的投资啊 、 资源啊 ，其实是放在底座上了 ， 无论是建集群 、 训模型 ， 还有等等这层层面 。 这个很多人也分析过了 ，其实如果应用不爆发的话 ，不发展起来的话 ， 这个是不可持续的 。 所以呢 ， 像未来应该是重心 ， 这个很多人也都意识到了 ， 重心是要看到这个技术在应用层面创造的价值 、 发挥的作用 。 我觉得这是后面应该会发生的 ，而且我也相信这个这个技术的进步是实实在在的 ， 它一定会在很多很多应用场景里面发挥出来我们意想不到的这个作用 。 只是说这个确实是需要一个过程 ，而且这个过程呢 ， 它还需要一定的前提条件 ， 就是说就包括那些技术 ， 比如说模型能力 、 模型成本 ， 还有一些就是参与程度 ， 比如说这个模型能力能不能像像过去一些技术的模块一样 ， 变成人人都可以用得上的 、 人人都触手可及的 ，而不是一个非常小的狭义的 AI 工程师才能摸得着玩得起来的 ， 就会出现一些意想不 到的东西 ， 或者是化学反应 。 因为很多这种产品呢 ， 我我还是感觉它蛮有这个偶然性的 ， 可能它就和某一个人独特的成长或者发展经历有关 ，他才能想出那个 idea。 但是如果这个人他离这个技术很远 ，他就摸不着玩不上 ，他就很难发生这个化学反应 。 所以呢 ， 怎么通过这个这种基础设施的完善 ， 让更多的人有能力 、 有机会参与 ， 基于这些技术来做一些有趣的东西 。 当这个事情发生的时候 ， 那应用的爆发以及所谓的 super app 的出现 ， 我觉得都是顺理成章的 。 这我对这个还是非常乐观的 。 **idoubi** [1:28:13] 我觉得就是首先可能有些人的观点 ，他会觉得 AI 可能是个泡沫 ， 就觉得泡沫要破了 。 但是我觉得 AI 它可能也只是刚刚开始而已 。其实 AI 是可以未来我觉得五到十年内应该还是相对来讲是个主流的一个趋势 。其实我们很多人有个观点 ， 就是会拿 AI 的这个发展跟当年的移动互联网去比 ， 实际上我觉得跟移动互联网比可能不是那么的恰当 。 移动互联网主要是因为有很多新的需求 ， 然后以前从来没有被满足 ， 所以呢 ， 就产生了很多新的机会 ， 出现了很多这个 super app。 但是现在 AI 的话 ， 实际上你没有太多新的机会 ， 你可能更多的是做这个体验的提升 。 那么我实际更想类比 ， 我觉得是类比这个云计算的时代 。 因为云计算之后呢 ， 很多的趋势以前是大家独立的机房 ， 然后做 Oracle 啊 、 什么 IBM 的那些东西去部署自己的应用 ， 然后后面的云计算出来之后的一个趋势就是流行叫做上云 ， 然后就大家会慢慢的把自己的一些业务啊搬到云上面去 ， 上云就成了一个趋势 。 再后面就慢慢的变成了一个叫做这个 cloud cloud native， 就云原生 。 然后后来到了后面的一些大家做一些新的项目 ，他就会用云原生的方式去做 ， 就第一天就在云上面去部署去开发 ， 然后去做微服务 。 然后以前的那种传统的开发的范式可能就慢慢的发生了变化 。 所以我觉得 AI 类比云计算的话 ， 就是我们会有更多的这个叫做 AI native 的一个应用的一个出现 ， 可能会有更多的第一天就用 AI 来构建整个的产品的流程 ， 整个产品的这个开发的体验的这种方式 。 那么后面我觉得这个 AI 应用肯定是会蓬勃发展的 ， 特别的是这种 AI native 的应用 ， 就是它所有的能力都是构建在这个 AI 的基础上的 ， 然后呢 ， 用 AI 去让这个应用它的体验会变得越来越好 ， 然后把过去的一些这种 app 的体验 ， 然后用 AI 去进行升级 。 我觉得这样可能会是一个趋势 ，也许不是一到两年的趋势 ， 它可能我觉得会比较长一点 ， 就可能五到十年有可能都会朝着这个方向发展 。 **Ronghui** [1:30:39] 那你觉得未来一到两年短期内会发生什么呢 ？ **idoubi** [1:30:46] 短期内我觉得应该会是工具类应用爆发的一个时机 。 所谓工具类应用 ， 比如说做这种网页生成啊 、UI 主线的生成啊 ， 或者做这种设计设计的海报类的啊 、 设计元素类的啊 ， 这种东西 ， 反正就是用工具加上 AI 来提升你各方面的这种效率 。 所以我觉得这这个会是一个趋势 。 之前不知道是不是李开福老师讲的 ， 好像说是有几个阶段 ， 从工具再到娱乐 ， 再到电商 ， 还是再到什么 ， 就会有这么一个趋势吧 。 但我我个人是觉得我亲身感受到 ， 就是最近一两年我觉得 AI 工具肯定是发展的最快的 。 **Koji 杨远骋** [1:31:35] 好 ， 今天谢谢二位的时间 。 我们一开始呢 ，是想聊一聊大家来给想转行到 AI 的工程师的建议 。 当我们发现朝这个话题来聊 ， 慢慢的就聊了职业 ， 聊了内心 ， 甚至聊到了自己的冲动 、 野心和欲望 。 ### 结尾 **Koji 杨远骋** [1:31:52] 我觉得这些其实都是要成就伟大事业的第一步 ， 就看清自己热情在哪里 ， 找到自己的动力在哪里 ， 让自己成为一个积极行动的 、 有自驱力的人。 其实这也是我和荣晖今年年初想做十字路口的一个起点吧 。 觉得身边在经济环境不好的 2024 年， 大家都怨声载道 ， 我俩想说我们要多认识一些积极行动者 ， 要去这个把积极行动的热情传播给更多人。 而我觉得今天这一期其实就是十字路口这个做播客起点的体验 ， 或者完美的一个呈现 。 所以我今天挺开心的 ， 录下来不但得到了很多知识 ，也得到了很多能量 。 好 ， 再次谢谢二位 ，也欢迎你们再来做客十字路口 。 **idoubi** [1:32:35] 好的好的 ， 谢谢 ， 拜拜 。 **袁进辉** [1:32:37] 嗯 ， 再见 。 **Koji 杨远骋** [1:32:41] 如果你认为有朋友也会喜欢本期十字路口的内容 ， 请转发微信推荐给他们 。 最后欢迎你加入十字路口的会员群 ， 我们会在群里每天放送 AI 全球新闻 ，并且鼓励大家在群里聊天互动交朋友 ， 寻找未来的同路人。 --- 本节目库由 PodHood（https://podhood.com）提供支持——播客网站平台。