过去一年对 PyTorch 来说是里程碑式的一年，从重大发布到旗舰 PyTorch 大会，我们都见证了来自 3500 多名个人和 3000 多家组织的令人瞩目的贡献。可以肯定地说，PyTorch 已经成为 AI/ML 领域的深度学习主导框架。根据 Linux 基金会最近发布的《塑造生成式 AI 未来》报告，PyTorch 在模型训练领域以 63%的采用率领先。
PyTorch 基金会于 2022 年成立，旨在通过培养和维持一个以 PyTorch 为中心的开源、中立项目生态系统来推动 AI 工具的采用。今天，它仍然是一个充满活力、协作的枢纽，由深度学习社区创建和运营。随着我们结束这一年，让我们回顾一下一些亮点以及这一年是如何在增长、合作、创新和社区方面取得进展的。
2024 年亮点：增长与影响的一年
本年 PyTorch 的增长加速。贡献增加了 133%，比去年全球组织贡献量翻了一番。
该项目在 PyTorch 的新仓库中实现了 20%的同比增长，去年一年中分支和用户增加了 30%。
超过 70%的 AI 研究实现现在正在使用 PyTorch。
基于 Linux 基金会 2024 年年度报告的统计数据。
PyTorch 工具生态系统增长超过 25%，增强了软件和硬件能力。与所有主要云服务提供商、数十家主要软件供应商和行业合作伙伴合作，PyTorch 正在为 AI 创新的步伐和广度设定新的标杆。
今年 PyTorch 在 2.2、2.3、2.4 和 2.5 版本中推出了 4 个里程碑式发布。我们观察到了各种标志性功能的发布，如 AOTInductor、FlashAttention-2 支持、Tensor Parallelism、新的 Python 自定义操作 API 以及 FlexAttention 的引入。来自 PyTorch 基金会成员公司的工程师们也聚集在一起，为 Intel GPU（XPU）、AWS Graviton 处理器、Inductor 性能等平台提供支持和优化。
一年来，PyTorch 团队一直在努力推出一系列新的 PyTorch 原生库！ExecuTorch 团队与 Arm、Apple 和高通技术公司合作发布了他们的 alpha 版本，随后迅速推出了专注于稳定性和添加联发科的 beta 版本。TorchTune 建立了一个 PyTorch 原生库，可以轻松微调大型语言模型。TorchAO 引入了一个 PyTorch 原生库，通过利用低比特数据类型、量化和稀疏性，使模型更快更小。TorchCodec 的推出为开发者提供了一个简单、高效且 PyTorch 原生的方法来将视频解码成张量。TorchRec 1.0 发布，这是 PyTorch 原生推荐系统库的第一个稳定版本。
我们在今年还举办了许多技术展示，以突出 PyTorch 的应用！TorchTitan 展示了一个开源的 PyTorch 原生分布式训练系统，用于训练大型语言模型（LLMs）。TorchChat 展示了如何在笔记本电脑、台式机和移动设备上无缝且高效地运行 LLMs。
2024 年，我们非常兴奋地将多个新项目纳入 PyTorch 生态系统，包括 vLLM 的引入，这是一个最先进的推理引擎，为机器学习工程师提供了一种简单、快速且经济的LLMs服务方式。如果您对加入 PyTorch 生态系统感兴趣，请加入我们！
2024 年 6 月，在法国巴黎，我们首映了官方 PyTorch 纪录片《推动 AI 革命的力量》，该纪录片聚焦 PyTorch 充满活力的生态系统及其在推进 AI 创新中的作用。影片揭示了 PyTorch 诞生的真实故事，将其存在归功于一群默默无闻的英雄，他们推动着技术创新。
2024 年 PyTorch 大会的注册人数是 2023 年的三倍，反映了围绕开源技术的 AI 和机器学习社区的快速增长。为期两天的活动包括关于 AI 未来的深入讨论、动手实践环节和热烈的讨论，涵盖了从生成式 AI 到大型语言模型的所有内容。
一场全新的初创企业展示活动，早期创始人向顶级风险投资家展示他们的 AI 初创企业，深度学习编译器迷你峰会深入探讨了正在改变 AI 工作负载的深度学习（DL）编译器的进展，以及微调迷你峰会汇集了一个充满活力的研究人员、开发者、实践者和爱好者的社区，讨论了内存效率、参数高效微调和大规模性能等话题。
优秀贡献者获得了 PyTorch 贡献者奖。祝贺今年获奖者和提名者，他们今年在 PyTorch 的发展历程中发挥了关键作用。
PyTorch 基金会成员数量今年有所增加，新增了 Arm 和 Rebellions。截至年底，高级会员包括：AMD、Arm、AWS、Google Cloud、华为、Hugging Face、IBM、Intel、Lightning AI、Meta、Microsoft Azure 和 NVIDIA。普通会员包括：Graphcore、Rebellions 和 Snowflake。如果您所在的组织有兴趣加入，请了解如何成为 PyTorch 基金会的会员。
PyTorch 举办了众多线上线下活动，包括 PyTorch 文档马拉松，贡献者们在其中努力改进 PyTorch 文档并促进协作；全球各地的本地聚会将来自上海到首尔等地的感兴趣人士聚集在一起；在夏季网络研讨会系列活动中，超过十场网络研讨会吸引了来自世界各地的参与者，举办了现场问答和专家交流。
PyTorch 基金会今年迎来了新的领导层。4 月份，执行董事马特·怀特接任，并立即开始提升 PyTorch 在人工智能领域的知名度。技术顾问委员会（TAC）也选举了新的领导层，卢卡·安蒂加担任 Lightning AI 主席，乔恩·贡担任英特尔副主席。
PyTorch 管理委员会继续制定方向并领导基金会实现其使命。PyTorch 市场营销和推广委员会开发了旨在最大化 PyTorch 可见性和推进社区利益的计划。PyTorch CI 工作组聚集在一起，成功地将 PyTorch CI 管道迁移到 Linux 基金会。
我们的社区在社交媒体上与我们一起，拥有 775,000 名粉丝，覆盖 X、领英、Facebook 和 YouTube，全年 PyTorch 内容的曝光量超过 1200 万次。PyTorch 生态系统也不断发展壮大，添加了许多新项目，以利用 PyTorch 深度学习在众多垂直领域中的应用。
PyTorch 被媒体提及，在顶级科技出版物如《The New Stack》的《Why PyTorch Gets All the Love》文章和《InfoWorld》的《如何通过 TorchAO PyTorch 库使模型更快更小》文章中。
我们全年发布了 74 篇技术和社区博客，近千万人访问了 PyTorch 网站。
感谢每一位帮助今年取得卓越成就的你们！过去一年 PyTorch 所经历的演变和增长，得益于这个令人惊叹的社区的激情、奉献和独创性。展望未来一年，我们期待着在这个势头的基础上继续前进，继续推动人工智能的边界。
保存日期，PyTorch 会议将于 2025 年 10 月 22-23 日在旧金山举行。2025 年将带来更大的创新和更紧密的社区合作。
