05 Module 4- Become future proof
来源：AI时代学习营 · AI Builder 课程 · 在学习书房阅读原版（含图）
课程核心讲解
可信度问题
- 研究可信度判断:仅对实际构建者有用，因为构建者基于实践基础，否则容易将幻觉与远见混淆。
- 典型案例分析:以”比Transformer更好的AGI路径”为例，该研究声称：Transformer模型存在局限性，因为”下一个token预测”范式无法实现通用智能
- 大多数机器学习模型只有3年生命周期，而Transformer已存在8年
- 提出用agent替代神经元作为神经网络基础，并将世界知识植入agent
- 可信度问题:该研究完全虚构，但提出的观点并非完全错误
- 核心问题在于缺乏实践基础(ungrounded)
- AI领域常见此类缺乏实证的预测和文章
- 批判性思维价值:实践能保持思维基础(grounded)
- 基于实践基础能更有效地学习研究
范式变革的挑战
- 主要障碍:认知抵抗(Cognitive resistance)
- 信息过载(Information overload)
- 技能缺口(Skill gaps)
- 不确定性与模糊性(Uncertainty and ambiguity)
- 制度性抵抗(Institutional resistance)
- 情感障碍(Emotional barriers)
- 成功标准重构(Redefining success)
- 核心困境:当目标未知且一切都在变化时，难以判断对错
- 缺乏明确的”指南针”指引方向
- 需要在大量噪声中识别有效信号
判断对错的挑战
构建
- 核心方法:通过构建模块1、2、3来获得相关技能
- 重要性:这是最重要和首要的解决方案
发展理解
- 必要性:仅构建是不够的，必须理解构建的原因和运作机制
- 引用:Richard P. Feynman的名言”我不能创造的东西，我就不理解”
- 模块设计:模块4专门用于培养这种深度理解能力
世界模型
- 定义:对世界运作方式的心理模拟系统
- 功能:捕捉因果关系
- 进行假设情景推演
- 选择最佳行动路径
- 来源:借鉴自AI研究领域，但对人类同样重要
- 争议:对LLMs是否真正学习世界模型存在学术争议
完善世界模型的方法
- 核心方法:通过预测和证伪来完善世界模型
- 应用:进行假设分析(“如果…会怎样”)
- 评估不同行动方案的后果
- 优势:简单但强大
- 可用于避免危险错误
- 促进快速学习新技能
树立世界模型
- 预测和证实预测与证实方法
- 科学方法步骤:
- 提出问题
- 提出关于问题原因的假设
- 设计实验验证每个假设
- 预测实验结果
- 观察实际结果
- 从结果得出结论
- 核心循环:假设→预测→证伪/验证
- 学习机制:预测结果与实际观察结果之间的差距是学习发生的地方，因为预测来自你的世界观模型，而实际结果来自现实，这个差距促使你更新世界观模型信号与重要性
- 价值公式:Value= signal× importance× likeliℎood
- 评估三要素:
- 信号筛选:区分真实信号与噪音
- 重要性判断:确认信号的重要性
- 可能性评估:评估重要信号发生的概率
- 实践建议:对新想法尝试分配发生概率(如1%或90%)，这种练习有助于培养更好的预测能力树立并坚定信念
- 内部化过程:Value → Internalize → Convictions → Build
- 建立信念方法:
- 追求极度清晰:缺乏信心常源于思维不清晰
- 保持知识诚实:需要脱离”正确”的执着，主动证伪自己的观点
- 信念态度:保持”强烈但可改变的观点”(strong opinions, weakly held)
- 良性循环:发现价值观点→内部化→尝试证伪→建立信念→将信念转化为现实应用案例
- 例题:ChatGPT预测
- 预测实践:
- 2023年3月文章提出关于ChatGPT的五个关键问题
- 多数预测(如是否是颠覆性技术、如何参与等)经得起时间检验
- 证明预测是值得进行的思维训练
- 具体预测:
- 闭源模型优于开源模型
- 提示工程比微调更重要
- 短期内大公司比初创企业更具优势
- 这些预测大部分已被证实
- 例题:AI-powered PPT软件
- 市场现状:
- 列举15种AI驱动的PPT创建/改进产品
- 包括Microsoft Copilot、Decktopus AI、Tome.ai等
- 教育、营销和媒体领域需求推动市场增长
- 大公司优势:
- 分发优势:Google Slides等已有广泛用户基础
- 增强技术:当前AI主要是增强现有技术，大公司更易整合
- 动态变化:Gamma等初创企业增长迅速，估值达21亿美元，年收入1亿美元
- Gamma案例:
- 快速获得7000万用户
- 两年内实现5000万美元盈利
- 展示初创企业在特定领域的突破潜力
- 树立世界模型的猜想猜想一
- 幻觉根本性猜测
- 本质特征：幻觉不是需要修复的错误，而是有用、创造性生成式AI系统的基本和必要特征。
- 危险类型：最危险的幻觉是那些微妙且听起来合理的，因为它们难以检测，AI会坚信这是最佳答案。
- 根本原因：这是不确定性的产物。如果消除所有不确定性，AI将变得确定性，只能给出100%正确的答案，而这些答案往往是像”做个好人”这样正确但无用的陈词滥调。
- 创造性前提：为了具有创造性和实用性，模型必须有犯错和不确定的自由。
- 管理方法：这并不意味着我们要无条件接受幻觉。在模块三中将介绍许多控制或评估幻觉的方法，如定义成功标准、使用风险管理等。
- 行业转变：我们正在经历从确定性编程到概率性编程的根本性转变。
- 模糊输入输出：传统软件需要”精确输入，精确输出”，而生成式AI引入了”模糊输入，模糊输出”。模糊输出对现有精确系统是个问题，但模糊输入（理解不精确请求的能力）是革命性的优势。
- 核心结论：幻觉是根本性的，我们必须学会与之共存，更重要的是主动管理它，并利用生成式AI的模糊输入特性。猜想二
- 变压器与通用智能猜测
- 转换任务本质：AI擅长如翻译、编码、摘要等转换任务，这些情况下底层知识相同但表达方式不同。
- 知识定义：知识不仅仅是孤立的信息，而是模式匹配和连接点的能力。
- 神经网络原理：最短的符合数据的程序是最佳泛化。LLM训练本质上是在寻找最短程序，将数据压缩成最具泛化性的模式。
- 人类学习模拟：最重要的学习影响因素是学习者已有的知识，而非抽象推理能力。这与人类学习方式惊人地相似。
- 核心观点：如果人类只是生物计算机，那么数字计算机没有根本理由不能与之匹配。事实上，数字计算机可能变得更强大，因为人脑在处理能力和数据方面有限，而变压器不受此限制。
- 总结：AI擅长转换任务，可能所有智能都只是转换，我们对自己大脑了解太少，无法否定下一个token预测可能是通向AGI的路径。猜想三
- 反对意见价值猜测
- 真正定义：反对者不是为反对而反对的人，而是从基础独立推理、抵制从众压力的人。他们了解最佳实践，但知道为什么它可能是错的。
- 课程实例：在课程中实践了这一点，例如不教授流行的RAG框架，因为我们相信这会使学习者成为效率较低的建设者。
- 根本价值：反对意见具有根本价值，因为共识已经被实践过了。正确的反对意见是创造有价值机会的必要条件。
- 实践方法：我们假设、预测和证伪来寻找想法，内化建立信念，然后通过建设来证明，因为反对意见必然会被反对。
- Steve Jobs名言：“向那些疯狂的人致敬…那些有足够疯狂认为可以改变世界的人，正是那些真正改变世界的人。”
- 建设重要性：建设是捕捉这些有价值想法并证明它们的唯一方式，无论是为了晋升、创业还是副业。
课后三大步骤
课程回顾与写评价
- 学习起点：课程结束才是真正学习的开始，学员已掌握新概念、习惯、原则和方法
- 评价重要性：对课程方：帮助迭代改进，是社区推广最有效方式
- 对学员：写下关键收获是将信息转化为知识的最佳方式
- 在Maven平台评分机制特殊：9/10被视为差评，10分才是有效支持
- 评价请求：课程结束后会收到评价邮件，建议花2分钟完成
- 特别说明：若课程未达10分标准，可直接联系讲师改进
加入AI Builders社区
- 社区价值：获取课程更新和最新实践（如Codex与Cloud Code效果对比）
- 项目发布前获得比Product Hunt更好的反馈和支持
- 案例：某学员80%转化率来自社区推广
- 加入方式：通过学员门户公告中的邀请链接
完成结业项目
- 项目本质：不是作业而是作品集，证明实际构建能力
- 项目支持：提供简化发布流程的平台
- 优秀项目可获得纪念品奖励（如连帽衫）
- 项目限制：每个学员最多同时部署2个服务
日常工作中AI的应用实例
- 模型优化案例：传统方式：手动调整超参数重复训练
- AI辅助：语音记录想法→生成千字提示→自动实现并迭代→生成含100+基线评估的报告
- 团队管理案例：使用AI制定新员工提问管理方案，平衡鼓励好奇心与要求自主研究
- 文档建设案例：通过语音识别+AI工具自动生成模型卡、团队架构、项目历程等专业文档
- 实现从”部落知识”到系统化文档的转变，提升个人专业品牌
结业项目选题建议
- 选题方向：从日常工作/生活中发现的痛点
- 课程提供的示例项目（分三个难度层级）
- 课程材料：采用”三明治”结构设计入门项目熟悉平台
- 中等难度候选项目（如无摩擦AI交互）
- 专业领域深入项目（如MOD智能体构建）
课程作业相关问题讨论
- 作业设计反思：要求发现并提出5个待解决问题
- 实际完成率低，主要障碍：
- 未明确说明是正式作业
学员问答
思维转变与行为改变
- 关键转折点:当演讲者完全投入使用Circle Pro后，感觉发现了全新宇宙，这种转变带来了显著的工作方式改变
- 验证方法:通过客观可验证的结果建立自信，即使周围人质疑，当AI工具确实提升工作效率（工作更少但产出更多）时，这种改变就无可否认
- 工作重心转移:从过度关注技术细节和术语转向更关注要解决的实际业务问题，花更多时间验证工作成果和调整表达方式以适应不同受众
孩子的教育问题
- 早期接触AI:类比计算器的使用，认为不应该让孩子回避AI工具，就像我们不会在现代拒绝使用计算器一样
- 教育实践案例:使用Cursor编写Apple TV应用展示AI生成的算术题和独角兽图像
- 用AI创作包含教育信息的故事并转换为语音（如”多吃蔬菜”、“早睡”等生活建议）
- 意外收获:孩子通过这种方式自主学习到一些未曾直接教授的新知识
- 价值认知误区:指出质疑者常犯的错误是认为”难度决定价值”，而实际上”价值本身决定价值”，与难度无关
- 评估技巧:提供通过询问特定问题来评估他人真实技能水平的方法（可询问Yen的意见作为参考）
微调的必要性
- 现实应用情况:在约99%的情况下，模型微调(fine-tuning)并不是必要的操作，且通常不会带来更好的结果。
- 专家误区:许多自称专家的人会建议进行微调，但实际上他们可能并不真正理解Jane技术，只是机械套用传统机器学习范式。
- 性能验证:即使不采用最优雅的代码实现方式，未经微调的模型性能仍然可以保持良好状态。
专家对微调的误解
- 知识诅咒现象:这是典型的专家知识诅咒(curse of knowledge)，他们固守传统机器学习范式而缺乏第一性原理思考。
- 传统方法流程:阅读论文获取模型
- 选择适合用例的开源模型
- 通过微调使模型适配数据以获得更好性能
- 范式差异:这种传统工作流程并不适用于JNI技术体系，但专家们仍试图将旧方法直接套用在新技术上。
- 初学者优势:保持初学者心态反而能更好地理解和应用新技术，避免被传统思维束缚。
- 可选讲解:关于微调技术的详细说明可作为可选内容，根据听众需求决定是否展开讲解。
工作中AI工具的使用限制
- 企业限制现状：许多金融保险公司（如Liberty Mutual）禁止使用Cursor等公共AI工具，仅允许使用企业部署的专用AI系统（如Liberty GPT）
- 数据安全顾虑：企业主要担心将工作数据导入外部AI工具可能导致数据泄露，这是金融保险行业的普遍合规要求
合规使用AI的三种解决方案
- AWS Bedrock方案：适用于使用AWS基础设施的企业（如Amazon内部实践）
- 数据全程不离开AWS云环境，满足合规要求
- 需提前与法务和IT部门确认权限
- 企业API对接方案：若企业AI基于OpenAI GPT（如Liberty GPT），可申请开放原始API权限
- 或使用企业专用API（通常兼容OpenAI格式），通过Codex/Claude等工具连接
- 本地部署方案：使用开源模型本地部署（如Mac电脑运行Llama）
- 通过Codex/Claude连接本地模型
- 法律风险最低但仍需法务确认
- 实施建议：优先咨询企业IT部门现有解决方案
- 三种方案均需法务合规审核
- 推荐工具包括：OpenAI Codex、Anthropic Claude、AWS Bedrock服务
职业选择与个人发展
- 团队选择标准：若对构建AI功能有热情，选择AI团队（服务内/外部客户）
- 若热爱现有领域（如存储方案/企业安全），可留在原团队但引入AI提升效率
- 两种选择都能创造价值，关键区别在于核心工作内容偏好
AI时代的职业发展策略
- 就业市场观察：全职工作难以完全捕获AI带来的10倍生产力提升收益
- 薪资增长与生产力提升不成正比，主要通过绩效评估间接体现
- 创业优势：产品开发周期大幅缩短（如capstone项目10分钟完成原型）
- 1个月可打造完整产品，成本优势显著
- 能直接获取生产力提升的全部收益
- 混合发展建议：保持主业同时开展副业项目（5-9点时间）
- 通过市场验证获取真实反馈，理解客户真实需求
- 价值评估标准应从”掌握专业术语”转向”实际解决问题能力”
- 核心建议：无论选择何种路径，运用AI改造工作方式都能显著促进职业发展
- 市场反馈是最真实的能力评估标准（速度/质量/价值创造）
从工程师到企业家的思维转变
- 背景差异:演讲者拥有经济学博士学位和AI研究背景，而非传统工程背景。强调技术能力并非唯一优势，市场理解和问题发现能力同样重要。
- 核心优势:市场洞察:独特的心智模型和对市场的渐进式理解能力
- 问题发现:能够独特地发现问题并构建解决方案
- 技术协作:通过与技术专家合作弥补自身技术短板（如Yan能在一天内完成复杂解决方案）
- 自我认知:承认技术能力可能不及专业工程师千倍，但强调互补合作的价值（如营销、课程设计、建立信任等非技术领域优势）
找出自己的优势并持续进入市场
- 自我定位:认知优势:了解自己擅长什么，找到独特优势领域
- 长期价值:短期可出售技能，但长期需建立个人独特价值
- 必要学习:根据需求选择性学习新技能
- 市场验证方法:持续测试:不断进入市场获取真实反馈
- 快速迭代:基于反馈持续改进产品（如学习页面已迭代十余次）
- 案例说明:课程材料每期都花费大量时间更新，通过持续优化提升用户体验
- 成功要素:合作伙伴互补:技术与非技术能力的完美结合（如Yan的技术实现与演讲者的市场定位）
- 工具赋能:利用生成式AI等工具扩展能力边界（如通过学习快速掌握新技能）
课程交流
- 关键认识：寻找优秀工程合作伙伴没有”银弹”（silver bullet）式的万能解决方案，需要主动采取行动
- 社交场景：在咖啡店、黑客马拉松（hackathon）、技术会议等不同场合都可能遇到潜在合作伙伴
- 主动意识：保持主动性（agency）很重要，明确自己的价值主张和寻找的合作伙伴类型
产品开发
吸引志同道合的人参与项目
- 项目类型：包括学术性、非盈利驱动、满足好奇心的项目
- 吸引方法：明确项目解决的问题和独特价值
- 寻找与项目理念产生共鸣的人群
- 通过公开渠道展示项目创意和进展
记录并公开项目过程
- 成功案例：NASA工程师通过记录松鼠参与游戏的完整过程吸引关注
- 公开价值：即使项目没有直接商业价值，有趣的记录过程也能建立知名度
- 社区效应：公开过程是认识优秀社区成员的有效方式
将天⻢行空的想法发布到社区
- 发布策略：大胆在社区分享看似疯狂的想法
- 社区互动：通过创意交流建立联系网络
- 反馈机制：开放态度接受各种反馈意见
构建反馈系统，不断迭代改进
- 系统核心：建立能提供可靠快速反馈的机制
- 迭代理念：假设初始版本都不完美，通过反馈持续优化
- 反馈类型：包括A/B测试、用户反馈等多种形式
- 成功关键：有效提取信号并据此迭代
为AI构建系统
- 系统类比：AI系统构建过程类似高级管理者的决策系统
- 设计原则：注重反馈收集和迭代能力
例题1:如何邀请市场尝试产品并给出反馈
- 题目解析问题本质：如何有效获取市场对新产品/想法的反馈
- 关键步骤：
- 清晰定义解决的问题
- 说明解决方案的独特性
- 给出用户应该尝试的理由注意事项：
- 认识到请用户试用是较高要求
- 需要提供足够动机降低用户参与门槛社区优势：专业社区（如7000人邮件列表）能提供强大曝光
- 实践建议：珍惜每次展示机会，做好充分准备
活动总结
- 后续支持：保持两周的沟通渠道开放
- 提供持续更新的学习材料和视频
- 反馈收集：鼓励参与者留下评价和建议
- 联系方式：通过私信(DM)保持后续联系