随着我们步入新的一年,这是一个回顾 2024 年对 PyTorch 基金会来说难忘的一年中令人难以置信的社区活动的好时机。全球聚会、活动和会议将社区聚集在一起,共同学习、交流和成长。以下是本年度亮点及 2025 年展望的简要回顾。
PyTorch 西雅图 Meetup(5 月 23 日)
我们于 5 月在 Meta 贝尔维尤办公室举办了 PyTorch Meetup,Meta、微软和谷歌进行了技术讲座,约 60 名参与者参与了讨论和交流。
PyTorch 文档马拉松 2024(6 月 4-20 日)
PyTorch 文档马拉松迎来了第三届,在 6 月持续了两周。这一独特活动专注于改进 PyTorch 的文档,来自全球社区成员的贡献。文档是任何成功开源项目的基石,PyTorch 的文档马拉松促进了包容性和协作,使新用户更容易采用该框架,并让经验丰富的开发者充分发挥其潜力。2024 年的文档马拉松产生了 50 多个合并的拉取请求,是 PyTorch 社区协作精神和致力于提升可访问性和易用性的承诺的证明。请观看 YouTube 上的 PyTorch 文档马拉松启动仪式。
PyTorch 上海 Meetup(8 月 15 日)
8 月,PyTorch 上海 Meetup 将开发者、研究人员和爱好者聚集在上海,中国。此次活动成为知识分享的平台,有吸引人的演讲和网络交流机会。议程亮点包括 PyTorch 最新发展的见解、展示创新用例的社区主导演讲以及促进与会者之间合作的网络会议。
PyTorch 大会 2024(9 月 18-19 日)
旧金山 PyTorch 大会无疑是当年最重要的活动之一。这次为期两天的聚会汇集了顶级研究人员、开发人员和学术社区,促进了机器学习领域的合作和创新。
什么让它变得特别:
- 行业领袖和 PyTorch 维护者的主题演讲。
- 涵盖 PyTorch 端到端机器学习能力的深入研讨会。
- 实践工作坊和分组讨论会。
- 一片展示尖端工具和应用的活力展区。
- 创业展示环节,早期创始人向顶级风险投资家团队展示了他们的 AI 初创企业。
- 深度学习编译器迷你峰会,深入探讨了正在改变 AI 工作负载的深度学习(DL)编译器的进展。
- 微调迷你峰会,涵盖了从内存效率、参数高效微调和量化到大规模性能和可重复评估的各个方面。
- 展示 PyTorch 创新成果的海报会议,包括模型优化、硬件集成、生成式 AI、量化以及提升性能和易用性的工具,由行业领导者共同参与。
大会强调促进合作,凸显了 PyTorch 在开源机器学习社区中的推动作用。错过了吗?您可以观看 PyTorch 2024 大会播放列表,以捕捉任何错过的会议内容。
GPU MODE IRL 黑客马拉松(9 月 21 日)
PyTorch 亲临旧金山赞助了这次聚会,与会者结交了朋友,观看了主题演讲,全天进行黑客马拉松,下午休息时参加讲座,然后通宵编程。我们听到了关于 torchao(我们的新量化与稀疏性库)、vLLM(将 PyTorch 模型部署到生产环境中)、llm.c 以及更多内容。主要收获包括:GPU MODE IRL 黑客马拉松第一名获奖者受到 PyTorch FlexAttention 的启发,改进了 CUTLASS,NCCL 在 Triton 中将帮助我们以最小的 NCCL 重实现进行分布式编程,无 libtorch PyTorch 二进制文件将显著减少设备部署的二进制文件大小。
消费者 AI 边缘黑客松(11 月 22-23 日)
PyTorch 团队在巴黎举办的黑客松中担任导师和教练,该活动由 Hugging Face、Scaleway 和 Entrepreneur First 共同赞助,挑战团队利用 Hugging Face、PyTorch 和其他开源设备工具和模型创建创新的消费(B2C)应用。22 个团队共有 120 多人连续两天两夜(包括夜间)进行黑客活动,构建基于开源模型和工具的 AI 设备解决方案的未来。参与者创建了由 PyTorch、ExecuTorch 和 Hugging Face 资源驱动的创新应用,如设备瑜伽教练、神奇的故事讲述伙伴以及类似 Kinect 的手机体验。PyTorch 团队计划在 2025 年在其他地区举办类似的活动,围绕创新的设备 AI 应用。
PyTorch 韩国用户组聚会(11 月 30 日)
PyTorch 韩国用户组成立于 2018 年,是一个致力于向韩语用户介绍 PyTorch 并共同成长的社区。该小组最初将 PyTorch 0.3 教程翻译成韩语,并自那时起支持 PyTorch 在韩国的增长。该小组主要关注三个主要活动:
- 分享 PyTorch 学习和应用的知识,
- 分享人工智能领域的见解和经验,以及
- 通过线上线下网络促进成长。
PyTorch 韩国用户组每月触及数万名韩国 AI 开发者。如果您对他们的活动感兴趣,请查看以下链接:
PyTorch 韩国用户组计划在今年举办三项重大活动:
- PyTorch 核心 SIG
自 2024 年 12 月起,这项每周在线活动每周三下午举行。由 Rebellions(PyTorch 成员公司)的 CSO 金洪硕领导,提供有关 PyTorch 内部知识的深入知识和经验。大约有 150 名韩国开发者每周参加,反映了韩国对 PyTorch 核心开发的日益增长的兴趣。 - 线下聚会
这些聚会提供了分享 PyTorch 和人工智能见解和经验的机会,以及建立联系。今年计划举办 3-4 个会议,重点关注 PyTorch 和 AI 的关键主题。 - 在线社区互动
该活动涉及分享和讨论人工智能领域的各种项目和论文。更多信息,请访问:https://discuss.pytorch.kr。
2024 年 NeurIPS 沉浸式 AI 之夜(12 月 10 日)
PyTorch 基金会与 Fin AI 和开放金融基金会共同举办了 NeurIPS 社交活动,活动上就开源 AI 和金融领域的应用进行了引人入胜的讨论。
PyTorch 网络研讨会
2024 年全年,PyTorch 举办了以下虚拟网络研讨会:
专家交流:
- 现代 CPU 上的批处理是如何工作的?
- DistServe:为优化吞吐量LLM推理而分解预填充和解码
- 带注意力汇聚的高效流式语言模型
- 使用 Open-Instruct 和 Tulu 适配开源模型
- 高效生成模型:从稀疏到分布式推理
夏季系列:
- 使用 PyTorch 进行单目深度估计网络研讨会
- 在基于 Arm Neoverse 的 Graviton AWS 处理器上加速LLM系列模型与 KleidiAI
- torch.compile:缺失的指南
发布现场问答:
线上研讨会:
每次这些活动都强调了合作和社区参与在推进 AI 研究和应用中的重要性。感谢所有参与、组织和支持这些活动的人——你们的贡献意义重大!
展望未来
2024 年充满了连接、学习和贡献的机会,2025 年将有更多与 PyTorch 社区联系的方式。
记住日期!PyTorch 大会将于 2025 年 10 月 22 日至 23 日回归旧金山。准备好参加一个充满技术深度探讨、激动人心的公告、富有洞察力的会议和增强的社区合作机会的精彩活动。
关注更多即将到来的活动和参与机会,请订阅我们的通讯。