Hi 大家好，我们是 台大 AI Safety 读书会，由来自台大学生与校友们创办， 今年年初有在板上宣传且有不少同学踊跃参与， 可惜的是读书会并没有办法容纳那麽多同学。 所以经过讨论後，决定在今年暑假举办两个梯次的 AI Alignment Workshop， 日期分别在 8/2-3 与 8/16-17，欢迎各位同学踊跃参与。 以下是我们这次活动的介绍。 --- 课程内容：ARENA 3.0 ARENA (Alignment Research Engineer Accelerator) 是国外已验证 有效的 AI 安全性技术课程。 这次我们引进台湾，让大家能系统性地学习 AI Alignment 相关技术。 两天你会学到： Day 1: AI Safety基础与机制解释性 - AI Alignment 重要性与当前挑战 - Transformer 架构深度理解 - Sparse Autoencoders (SAE) 解释性技术实作 - Mechanistic Interpretability 分析 Day 2: 强化学习与模型评估 - 人类反馈强化学习 (RLHF) 原理与实作 - LLM 评估方法论 - Inspect 评估框架应用 师资与 TAs 阵容 主讲：刘禹彤 (Tik Tok Software Engineer)、吕栢颐 (网媒博四)、 刘祖丞 (Travo AI Lead) TAs：张嘉泰 (资讯二)、蔡侑宸 (数学四)、胡皓雍 (电信硕零)、 蔡镇宇 (Junyi Academy Data Team Lead) 活动资讯 时间：第一梯次 8/2-3、第二梯次 8/16-17 (周末)，10:00--18:00 地点：台大德田馆 R309 人数：每梯次 25 人 费用：免费 (感谢 Open Philanthropy 赞助)，并提供免费的午餐 & 下午茶 适合谁参加？ - 有 Python 程式设计经验 - 对深度学习有基本认识 - 能完整参与两天课程 - 对 AI 安全性有学习动机 主要欢迎：大学生 (资讯/电机/数学/物理)、硕士生、对AI有兴趣的高中生或工作人士 实际期待 两天无法让你成为专家，但能够： - 建立对 AI Alignment 领域的系统性认知 - 掌握基础的机制解释性分析工具，理解 RLHF 在 AI 对齐中的作用 - 获得後续深入学习的明确方向 报名方式 官网：https://reurl.cc/QaL289 报名表：https://reurl.cc/yArOxO 这是很好的入门机会，建议有兴趣的同学尽早申请 如果你身边有对 AI 安全性感兴趣的朋友，欢迎标记他们或分享这篇贴文！ 主办：AI Safety Taiwan (EA Taiwan) 协办：NTU AI Safety 读书会 #AISafety #AIAlignment #MachineLearning #Taiwan #ARENA --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 140.112.90.77 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/NTU/M.1753344949.A.C95.html ※ 编辑: ariainaqua (140.112.90.77 台湾), 07/24/2025 22:41:35