AI 开发框架是构建、训练、部署和推理人工智能模型的软件基础设施。自 2015 年 TensorFlow 开源以来,框架生态经历了从学术研究工具到工业级生产平台的深刻演进。截至 2025 年,全球已有超过 2000 万开发者依赖各类 AI 框架进行模型开发,PyTorch 以超过 70% 的研究论文使用率成为学术界的事实标准,而工业界则呈现多框架并存的格局。本索引提供主流框架的全面概览、深度对比和实用选型指南。
| 分类 | 代表框架 | 主要用途 | 定位 |
|---|---|---|---|
| 深度学习训练 | PyTorch, TensorFlow, JAX | 模型定义、自动微分、分布式训练 | 核心训练引擎 |
| 推理优化 | TensorRT, ONNX Runtime, vLLM |

AI 开发框架生态全景图:PyTorch、TensorFlow、JAX 三大核心框架构成了当代 AI 开发的基石,围绕它们构建了推理优化、分布式训练、模型服务和自动机器学习等丰富的生态层。 | 模型压缩、量化、加速推理 | 部署加速层 |
| LLM 服务 | vLLM, TGI, llama.cpp, SGLang | 大语言模型高吞吐部署 | 推理服务层 |
| 分布式训练 | DeepSpeed, Megatron-LM, FSDP | 多卡/多机并行训练 | 扩展加速层 |
| 生态平台 | Hugging Face Transformers, Keras | 预训练模型加载、微调、分享 | 应用抽象层 |
| 自动机器学习 | AutoML, Optuna, Ray Tune | 超参数搜索、架构搜索 | 自动化层 |
| 编译优化 | torch.compile, XLA, TVM, Mojo | JIT 编译、图优化 | 底层优化层 |
以下时间线展示了 AI 框架从学术探索到工业标准的完整演进历程:
| 世代 | 时期 | 代表框架 | 核心特征 | 主要局限 |
|---|---|---|---|---|
| 第一代 | 2013—2015 | Theano, Caffe, Torch | 静态图、Lua/符号化 Python | 调试困难、灵活性差 |
| 第二代 | 2015—2018 | TensorFlow 1.x, CNTK, MXNet | 工业级部署、静态图+Session | API 复杂、学习曲线陡峭 |
| 第三代 | 2018—2022 | PyTorch, TensorFlow 2.x, PaddlePaddle | 动态图优先、Eager Execution | 大规模训练效率瓶颈 |
| 第四代 | 2022—至今 | JAX, PyTorch 2.x, Mojo, MLX | 函数式、JIT 编译、GPU 原生 | 生态尚在建设中 |
第四代框架的核心突破在于将编译思维引入深度学习:不是"解释执行 Python 循环",而是"将 Python 代码编译为高效的 XLA/MLIR 指令"。这一范式转变使训练速度提升 30%—200%,同时也让框架本身变得"更薄"——PyTorch 2.0 的 torch.compile 本质上是一个即时编译器,而非简单的自动微分引擎。
PyTorch 由 Facebook AI Research(现 Meta AI)于 2016 年发布,采用动态计算图(Define-by-Run)设计,允许在运行时动态构建计算图,极大降低了调试复杂度。2023 年 PyTorch 2.0 引入了 torch.compile,通过 JIT 编译将动态图部分静态化,实现了性能的突破性提升。
| 组件 | 功能 | 关键 API |
|---|---|---|
| Tensor | 核心数据结构(类似 NumPy ndarray,支持 GPU/MPS) | torch.tensor(), torch.randn(), torch.zeros() |
| Autograd | 自动微分引擎,记录计算图并通过链式法则求导 | tensor.backward(), torch.autograd.grad() |
| nn.Module | 神经网络模块化基类,管理参数和子模块 | torch.nn.Module, torch.nn.Linear, torch.nn.Sequential |
| Optim | 优化器实现,支持权重衰减和 LR 调度 | torch.optim.SGD, torch.optim.Adam, torch.optim.AdamW |
| DataLoader | 数据加载与批处理,支持多进程预取 | torch.utils.data.DataLoader, Subset |
| TorchScript | 模型序列化与部署格式 | torch.jit.script(), torch.jit.trace() |
| torch.compile | JIT 编译器,将 Python 代码编译为高效内核 | torch.compile(model), 支持 inductor/dynamo 后端 |
以下是一个使用 PyTorch 训练图像分类模型的完整示例:
import torch
import torch.nn as nn
import torch.optim as optim
from torch.utils.data import Dataset, DataLoader
import torchvision.transforms as transforms
from torchvision.datasets import CIFAR10
# 1. 定义模型
class SimpleCNN(nn.Module):
def __init__(self, num_classes=10):
super().__init__()
self.features = nn.Sequential(
nn.Conv2d(3, 32, kernel_size=3, padding=1),
nn.ReLU(),
nn.MaxPool2d(2),
nn.Conv2d(32, 64, kernel_size=3, padding=1),
nn.ReLU(),
nn.MaxPool2d(2),
nn.Conv2d(64, 128, kernel_size=3, padding=1),
nn.ReLU(),
nn.AdaptiveAvgPool2d(1),
)
self.classifier = nn.Linear(128, num_classes)
def forward(self, x):
x = self.features(x)
x = x.view(x.size(0), -1)
return self.classifier(x)
# 2. 加载数据
transform = transforms.Compose([
transforms.ToTensor(),
transforms.Normalize((0.5,), (0.5,))
])
train_dataset = CIFAR10(root='./data', train=True, transform=transform)
train_loader = DataLoader(train_dataset, batch_size=64, shuffle=True, num_workers=4)
# 3. 配置训练
model = SimpleCNN(num_classes=10)
if torch.cuda.is_available():
model = model.cuda()
criterion = nn.CrossEntropyLoss()
optimizer = optim.AdamW(model.parameters(), lr=0.001, weight_decay=0.01)
scheduler = optim.lr_scheduler.CosineAnnealingLR(optimizer, T_max=50)
# 4. 训练循环
num_epochs = 50
for epoch in range(num_epochs):
model.train()
running_loss = 0.0
for inputs, labels in train_loader:
if torch.cuda.is_available():
inputs, labels = inputs.cuda(), labels.cuda()
# 前向传播
outputs = model(inputs)
loss = criterion(outputs, labels)
# 反向传播
optimizer.zero_grad()
loss.backward()
optimizer.step()
running_loss += loss.item()
scheduler.step()
if (epoch + 1) % 10 == 0:
print(f'Epoch [{epoch+1}/{num_epochs}], Loss: {running_loss/len(train_loader):.4f}')
# 5. 保存模型
torch.save({
'model_state_dict': model.state_dict(),
'optimizer_state_dict': optimizer.state_dict(),
}, 'cifar10_cnn.pth')
| PyTorch 版本 | 发布时间 | 关键特性 | 性能提升 |
|---|---|---|---|
| 1.0 | 2018-12 | 稳定版发布,TorchScript 支持 | 基线 |
| 1.7 | 2020-10 | CUDA 11 支持,自定义 C++ 算子 | 训练 ~15% |
| 1.9 | 2021-06 | TorchDataloader 性能优化 | 数据加载 ~30% |
| 1.11 | 2022-03 | Functorch(函数式 API)、GPU 训练优化 | 混合精度 ~20% |
| 1.13 | 2022-10 | BetterTransformer、TorchAudio 更新 | Transformer ~25% |
| 2.0 | 2023-03 | torch.compile (JIT 编译) | 30%—200% |
| 2.1 | 2023-10 | torch.distributed 增强、CPU 推理优化 | 分布式 ~40% |
| 2.5 | 2024-10 | FlexAttention、torch.export 稳定版 | 注意力 ~50% |
| 模型 | 参数规模 | Eager 模式 | torch.compile | 加速比 |
|---|---|---|---|---|
| ResNet-50 | 25M | 320 img/s | 550 img/s | 1.72× |
| ViT-B/16 | 86M | 180 img/s | 350 img/s | 1.94× |
| GPT-2 (1.5B) | 1.5B | 120 tok/s | 220 tok/s | 1.83× |
| LLaMA-7B | 7B | 35 tok/s | 58 tok/s | 1.66× |
| Stable Diffusion | 860M | 4.2 it/s | 7.8 it/s | 1.86× |
| Whisper-Large | 1.5B | 45 tok/s | 82 tok/s | 1.82× |
数据来源:PyTorch 2.0 官方 benchmark(A100-80G GPU, batch_size=32)。torch.compile 支持的模型越多,加速效果越显著,尤其是计算密集型模型如 Vision Transformer。
| 技巧 | 方法 | 效果 |
|---|---|---|
| 混合精度 | torch.cuda.amp.autocast() + GradScaler |
训练加速 1.5—3×,显存减半 |
| 梯度累积 | 小 batch 多次前向后一次更新 | 等效大 batch,显存受限时有效 |
| 编译优化 | torch.compile(model, mode='reduce-overhead') |
推理加速 1.5—2× |
| 数据预取 | DataLoader(num_workers=4, prefetch_factor=2) |
消除 I/O 瓶颈 |
| 通道最后布局 | model = model.to(memory_format=torch.channels_last) |
卷积加速 ~8% |
| 检查点 | torch.utils.checkpoint.checkpoint |
显存节省 50%+ |
TensorFlow 于 2015 年由 Google Brain 开源,经历了从静态图(1.x)到动态图优先(2.x)的重大转型。
| 版本 | 核心机制 | 优缺点 |
|---|---|---|
| 1.x | 静态图(Graph)+ Session | 部署高效但调试困难,学习曲线陡峭 |
| 2.x | Eager Execution(动态图) | 调试友好,Keras 为高级 API |
TensorFlow 2.x 以 Keras 作为官方高级 API,提供三种模型构建方式:
| 方式 | 适用场景 | 示例 |
|---|---|---|
| Sequential | 简单顺序模型(全连接、卷积堆叠) | tf.keras.Sequential([Dense(64), Dropout(0.5), Dense(10)]) |
| Functional API | 多输入/多输出、残差连接 | tf.keras.Model(inputs=input_layer, outputs=output_layer) |
| Subclassing | 自定义训练逻辑、动态控制流 | 继承 tf.keras.Model,重写 call 方法 |
# Keras Functional API 示例:多输入模型
import tensorflow as tf
text_input = tf.keras.Input(shape=(None,), dtype='int32', name='text')
image_input = tf.keras.Input(shape=(224, 224, 3), name='image')
text_features = tf.keras.layers.Embedding(10000, 256)(text_input)
text_features = tf.keras.layers.GlobalAveragePooling1D()(text_features)
image_features = tf.keras.layers.Conv2D(64, 3, activation='relu')(image_input)
image_features = tf.keras.layers.GlobalAveragePooling2D()(image_features)
combined = tf.keras.layers.concatenate([text_features, image_features])
output = tf.keras.layers.Dense(5, activation='softmax')(combined)
model = tf.keras.Model(inputs=[text_input, image_input], outputs=output)
model.compile(optimizer='adam', loss='categorical_crossentropy')
| 组件 | 用途 | 优势 | 替代方案 |
|---|---|---|---|
| TFX | 生产级 ML 流水线 | 全流程自动化、数据验证 | Kubeflow, MLflow |
| TF Serving | 模型部署服务器 | gRPC/REST、版本管理、热加载 | Triton, TorchServe |
| TF Lite | 移动端/嵌入式部署 | 量化、模型优化、Edge TPU | Core ML, ONNX Runtime |
| TF.js | 浏览器端推理 | WebGL 加速、无服务器推理 | ONNX.js, WebDNN |
| TPU | 专用硬件加速 | 单 TPU v4 = 275 TFLOPS | GPU, Habana Gaudi |
JAX 是 Google 于 2018 年推出的函数式深度学习框架,以其强大的自动微分和 XLA(Accelerated Linear Algebra)JIT 编译能力著称。JAX 并非传统意义上的"全栈框架",而是一个可组合的数值计算基础库——它提供变换原语(transform),开发者在此基础上构建训练逻辑。
| 特性 | 说明 | 代码示例 |
|---|---|---|
| 函数式编程 | 纯函数 + 不可变数组(无 in-place 操作) | jnp.array([1, 2, 3]) |
| 自动微分 | 支持 grad、jacobian、hessian | jax.grad(loss_fn)(params, x, y) |
| JIT 编译 | 将 Python 函数编译为 XLA HLO | jax.jit(forward_fn)(params, x) |
| 自动向量化 | 自动批量化标量函数 | jax.vmap(single_fn)(batch_inputs) |
| 并行化 | 多设备数据/模型并行 | jax.pmap(loss_fn)(devices, params, x) |
| 维度 | JAX | PyTorch | 实际影响 |
|---|---|---|---|
| 编程范式 | 函数式(纯函数) | 面向对象(nn.Module) | JAX 更难做有状态逻辑 |
| 随机数 | 显式 PRNG key 状态 | 隐式全局种子 | JAX 强制确定性的代价 |
| 控制流 | JIT 内需 jax.lax.cond/while_loop |
Python 原生 if/for | JAX 对复杂控制流不友好 |
| 生态 | Flax, Haiku, Optax | Hugging Face, Lightning | JAX 生态规模约为 PyTorch 的 1/10 |
| 学习曲线 | 陡峭 | 平缓 | PyTorch 入门更快 |
| 训练速度 | A100 上比 PyTorch 快 10%—30% | 业界标准 | 专业团队倾向于 JAX |
| 社区规模 | GitHub Stars: 30K+ | GitHub Stars: 85K+ | PyTorch 社区更活跃 |
| 框架 | epoch/s | 峰值显存 | 训练稳定性 |
|---|---|---|---|
| JAX + Flax | 12.8 | 7.1 GB | ★★★★☆ |
| PyTorch + AMP | 10.5 | 8.2 GB | ★★★★★ |
| PyTorch + torch.compile | 11.2 | 8.8 GB | ★★★★☆ |
| TensorFlow 2.x + XLA | 9.8 | 8.0 GB | ★★★☆☆ |
JAX 在纯训练速度上有优势,但调试和模型管理不如 PyTorch 直观。对于需要快速原型验证的团队,PyTorch 是更稳妥的选择;对于追求极致性能的研究团队,JAX 值得投入。
Hugging Face 是目前最大的预训练模型生态平台,Transformers 库支持 PyTorch、TensorFlow 和 JAX 三后端。其核心理念是**"模型即服务"**——开发者无需从零训练模型,而是通过几行代码加载和微调 SOTA 模型。
| 能力 | 支持的模型数 | 典型 API | 使用场景 |
|---|---|---|---|
| 文本分类 | 300+ | pipeline('sentiment-analysis') |
情感分析、垃圾识别 |
| 文本生成 | 200+ | pipeline('text-generation') |
Chatbot、内容创作 |
| 翻译 | 150+ | pipeline('translation_en_to_zh') |
多语言翻译 |
| 摘要 | 100+ | pipeline('summarization') |
文档摘要 |
| 问答 | 200+ | pipeline('question-answering') |
知识库问答 |
| 图像分类 | 100+ | pipeline('image-classification') |
图像识别 |
| 语音识别 | 80+ | pipeline('automatic-speech-recognition') |
语音转文字 |
| 指标 | 2022 | 2023 | 2024 | 增长倍数 |
|---|---|---|---|---|
| 模型总数 | 150K | 400K | 800K+ | 5.3× |
| 数据集数 | 20K | 50K | 100K+ | 5× |
| GitHub Stars | 80K | 110K | 140K+ | 1.75× |
| 月活跃开发者 | 500K | 1.2M | 2M+ | 4× |
| 企业客户数 | — | 50+ | 200+ | 4× |
| 后端 | 占比 | 优势 | 典型用例 |
|---|---|---|---|
| PyTorch | 85% | 最广泛模型支持、最新特性最先受益 | 研究、微调、训练 |
| TensorFlow | 10% | 已有 TF 基础设施的企业 | 工业级部署 |
| JAX/Flax | 5% | 训练性能最优 | Google 团队、高性能需求 |
数据来源:Hugging Face 2024 年度报告。PyTorch 在 Hugging Face 生态中的主导地位源自其灵活的动态图机制和活跃的社区贡献。
DeepSpeed 由微软于 2020 年开源,是训练大规模模型的核心工具。其核心理念是**"内存无处不在"**——通过智能地将模型状态分布在 GPU、CPU 和 NVMe 之间,使得在有限硬件上训练超大规模模型成为可能。
| 技术 | 原理 | 内存节省 | 通信开销 |
|---|---|---|---|
| ZeRO Stage 1 | 优化器状态分片 | 4× | 极低 |
| ZeRO Stage 2 | 梯度分片 | 8× | 低 |
| ZeRO Stage 3 | 参数分片 | 64× | 中等 |
| ZeRO-Offload | CPU/NVMe 卸载 | 无限(受限于 CPU 内存) | 高 |
| ZeRO-Infinity | 结合 offload + 带宽优化 | 单 GPU 训练万亿参数 | 优化后 |
ZeRO Stage 3 内存节省示例——训练 175B GPT-3 模型(混合精度):
| 配置 | 总内存需求 | 所需 GPU 数(80GB A100) | GPU 数节省 |
|---|---|---|---|
| 无 ZeRO | ~1,400 GB | 18 | 基线 |
| ZeRO Stage 1 | ~1,050 GB | 14 | 22% |
| ZeRO Stage 2 | ~700 GB | 9 | 50% |
| ZeRO Stage 3 | ~350 GB | 5 | 72% |
| ZeRO Stage 3 + Offload | ~50 GB | 1 | 94% |
计算假设:175B GPT-3 参数约 350GB(FP16),Adam 状态约 700GB(2× 参数大小),梯度约 350GB(1× 参数大小)。ZeRO Stage 3 + Offload 可在单 GPU 上运行,但训练速度会因 CPU↔GPU 通信而显著下降。
Megatron-LM 专注于模型并行,与 DeepSpeed 形成互补(前者管并行策略,后者管内存优化)。
| 并行策略 | 概念 | 扩展效果 | 适用场景 |
|---|---|---|---|
| 张量并行(TP) | 将单个 Transformer 层切分到多 GPU | 减少层内显存,降低延迟 | 单节点多 GPU |
| 流水线并行(PP) | 将不同层分配到不同 GPU | 支持更深的模型 | 多节点 |
| 序列并行(SP) | 将序列维度切分 | 支持超长上下文训练 | 长序列场景 |
| 数据并行(DP) | 复制模型到多个设备 | 线性吞吐提升 | 通用场景 |
3D 并行(TP + PP + DP)效果:
| 模型大小 | GPU 数 | 3D 并行配置 | 吞吐量(TFLOPs/GPU) | MFU |
|---|---|---|---|---|
| GPT-3 175B | 1024 A100 | TP=8, PP=8, DP=16 | 145 TFLOPs | 48% |
| LLaMA-2 70B | 64 A100 | TP=4, PP=4, DP=4 | 168 TFLOPs | 56% |
| BLOOM 176B | 384 A100 | TP=4, PP=8, DP=12 | 150 TFLOPs | 50% |
| GPT-NeoX 20B | 32 A100 | TP=2, PP=4, DP=4 | 175 TFLOPs | 58% |
MFU(Model FLOPs Utilization)衡量实际计算效率,越接近 100% 说明 GPU 利用率越高。MFU 通常在 40%—60% 之间,瓶颈主要来自通信开销和显存访问。
FSDP(Fully Sharded Data Parallel)是 PyTorch 对 ZeRO Stage 3 的原生实现,从 PyTorch 1.11 开始可用,PyTorch 2.0 后趋于成熟。
| 特性 | FSDP (PyTorch) | DeepSpeed ZeRO-3 |
|---|---|---|
| 集成度 | PyTorch 原生,无缝集成 | 第三方库,需要适配 |
| 易用性 | wrap(model, ...) 一行启用 |
需要修改训练脚本 |
| 灵活性 | 支持混合分片策略 | 更细粒度的 offload 控制 |
| CPU Offload | 支持 | 支持(含 NVMe) |
| 混合精度 | 原生支持 | 原生支持 |
| 社区支持 | PyTorch 官方维护 | 微软开源社区 |
vLLM 是专为大语言模型推理优化的框架,其核心创新 PagedAttention 将操作系统虚拟内存分页的思路引入 KV Cache 管理,解决了推理过程中的内存碎片和浪费问题。
| 技术 | 解决的问题 | 效果 |
|---|---|---|
| PagedAttention | KV Cache 碎片浪费(传统方案仅 60%—80% 利用率) | 内存利用率 95%+ |
| 连续批处理 | 请求需要等待整个 batch 完成 | 吞吐量 2—4× 提升 |
| 量化支持 | 模型体积过大、推理延迟高 | FP16→INT4 显存减 75% |
| 前缀缓存 | 重复前缀重复计算 KV | 多个 prompt 共享前缀加速 |
| 推测解码 | 小模型辅助大模型推理 | 单 Token 延迟降低 2—3× |
吞吐量对比(LLaMA-7B, A100-80G):
| 框架 | 请求/秒 | 延迟 P50 | 延迟 P99 | 相对于 HF |
|---|---|---|---|---|
| Hugging Face | 12 | 850ms | 1,200ms | 1× |
| vLLM | 48 | 210ms | 380ms | 4× |
| TGI (Text Generation Inference) | 36 | 280ms | 450ms | 3× |
| llama.cpp (4-bit, CPU) | 28 | 360ms | 520ms | 2.3× |
| SGLang | 52 | 195ms | 350ms | 4.3× |
TensorRT-LLM 是 NVIDIA 的 LLM 推理引擎,集成多种底层优化技术:
| 优化技术 | 技术说明 | 加速比 vs FP16 |
|---|---|---|
| FP8 量化 | 8-bit 浮点推理(Hopper 架构原生支持) | 2× |
| INT4 AWQ | 4-bit 权重量化(激活感知) | 4× |
| In-flight Batching | 动态批处理,请求无需等待 | 1.5—2× |
| 多节点推理 | Tensor 并行 + 流水线并行 | 近线性扩展 |
| 页面注意力 | 类似 PagedAttention 的内存管理 | 1.5—2× |
| 即时引擎构建 | 根据模型和硬件自动优化 | — |
| 场景 | 推荐方案 | 理由 |
|---|---|---|
| 开源模型快速部署 | vLLM | 生态好、性能佳、支持模型多 |
| NVIDIA 硬件深度优化 | TensorRT-LLM | 极致性能、FP8 支持 |
| 边缘设备 / CPU | llama.cpp | GGUF 格式、支持量化、跨平台 |
| 企业级生产环境 | Triton + TensorRT-LLM | 多模型管理、弹性伸缩 |
| 学术研究 / 原型 | Hugging Face | 最简单、支持最广 |
MLX 是 Apple 于 2023 年底开源的深度学习框架,专为 Apple Silicon 设计。
| 特性 | MLX | PyTorch (MPS) |
|---|---|---|
| 统一内存模型 | GPU/CPU 共享内存,无需显式传输 | 需 to(device) 切换 |
| 延迟计算 | 默认延迟执行,支持自动图优化 | Eager 执行 |
| 接口设计 | NumPy 风格 API | PyTorch 风格 |
| 训练速度 | M3 Max 上训练 ~PyTorch 的 90% | 基线 |
| 生态规模 | 有限(2025 年约 50+ 模型) | 极其丰富 |
Mojo 是一种面向 AI 的高性能编程语言,2023 年 9 月开放,目标是成为**"Python + C" 的 AI 语言**:
| 特性 | Mojo | Python |
|---|---|---|
| 执行速度 | C/Rust 级别 | 解释执行 |
| 编译方式 | MLIR 编译 | 无 |
| 语法 | Python 超集 | 标准 |
| GPU 编程 | 原生支持 | 需 CUDA/PyTorch |
| 内存管理 | 拥有权系统(类似 Rust) | GC 自动管理 |
# Mojo 示例:高性能矩阵乘法
fn matmul[C: Int, M: Int, N: Int](a: Matrix[C, M], b: Matrix[C, N]) -> Matrix[C, N]:
var c = Matrix[C, N](0.0)
@parameter
for col in range(N): # 编译期展开循环
for k in range(M):
c[col] += a[k] * b[k][N]
return c
| 需求场景 | 推荐框架 | 核心理由 |
|---|---|---|
| CV 研究快速实验 | PyTorch | 动态图、丰富社区、Easy Debug |
| NLP/LLM 研究 | PyTorch + HF Transformers | Hugging Face 生态最完善 |
| 工业级部署 | TensorFlow + TF Serving | 成熟部署方案、TPU 支持 |
| 高吞吐 LLM 服务 | vLLM + TensorRT-LLM | PagedAttention、连续批处理 |
| 万亿参数训练 | DeepSpeed + Megatron-LM | ZeRO、3D 并行 |
| 函数式/学术实验 | JAX + Flax | 高度灵活、XLA 加速 |
| 移动端部署 | TensorFlow Lite / Core ML | 最广泛的端侧支持 |
| HPC / 科学计算 | JAX | 自动微分 + 高性能计算 |
| 生成式 AI 应用 | PyTorch + Diffusers | Stable Diffusion 生态 |
| Apple 生态开发 | MLX | Apple Silicon 原生优化 |
| 框架 | 吞吐量 (img/s) | 峰值显存 (GB) | 训练代码行数 | 入门难度 |
|---|---|---|---|---|
| PyTorch | 1,820 | 8.2 | ~80 | ★☆☆☆☆ |
| PyTorch + torch.compile | 2,010 | 8.8 | ~85 | ★★☆☆☆ |
| TensorFlow 2.x + Keras | 1,650 | 8.0 | ~50 | ★☆☆☆☆ |
| TensorFlow 2.x + XLA | 1,820 | 7.6 | ~95 | ★★★☆☆ |
| JAX + Flax | 2,150 | 6.8 | ~60 | ★★★★★ |
| JAX + Haiku | 2,180 | 6.7 | ~70 | ★★★★★ |
性能数据来自 MLPerf Training v3.0 公开结果。JAX 虽然在吞吐量和显存上有优势,但其学习曲线陡峭,且模型管理、Checkpoint 保存等基础设施不如 PyTorch 成熟。
统一训练 + 推理框架:PyTorch 2.x 的 torch.compile 和 torch.export 正在模糊训练与推理的界限,未来一个框架即可覆盖从实验到部署全流程
JavaScript AI 框架崛起:Transformers.js、ONNX Runtime Web 使浏览器端推理成为可能,WebLLM 等项目实现了纯浏览器端 LLM 推理
模型压缩集成:量化和蒸馏已成为框架标配而非事后优化。PyTorch 2.5 的量化 API、TensorRT-LLM 的 AWQ 量化都是原生支持
多模态原生支持:框架原生 API 支持文本 + 图像 + 语音多模态输入,如 Hugging Face 的 Processor 类统一了多模态数据处理
编译导向:从解释执行转向 JIT/AOT 编译。PyTorch 2.0 的 torch.compile、JAX 的 XLA、Mojo 的 MLIR 都是这一趋势的体现
异构计算统一:CPU + GPU + NPU + TPU 统一编程模型。Apple 的 MLX 实现了统一内存架构,Mojo 从语言层面支持异构计算
Agentic AI 框架化:LangChain、DSPy 等框架将 AI Agent 的构建工程化,正在成为 AI 开发的"第五代"框架
| 年份 | 上升趋势 | 下降趋势 | 格局变化 |
|---|---|---|---|
| 2023 | PyTorch 2.0, JAX | TensorFlow 1.x | PyTorch 确立领先地位 |
| 2024 | vLLM, SGLang, Mojo | Caffe, Theano | 推理框架独立成生态 |
| 2025 | 编译型框架, Mojo, MLX | 纯 Python 训练循环 | 底层优化成为竞争焦点 |
| 框架 | 2021 论文占比 | 2023 论文占比 | 2025 趋势 |
|---|---|---|---|
| PyTorch | 45% | 75% | 稳定主导 |
| TensorFlow | 35% | 12% | 持续下降 |
| JAX | 8% | 8% | 稳步增长 |
| PaddlePaddle | 5% | 3% | 海外下降 |
| 其他 | 7% | 2% | 新兴框架涌现 |
数据来源:Papers With Code 年度统计。PyTorch 的高占有率主要得益于 Hugging Face 生态和学术界惯性,但 JAX 在高性能计算和 exaFLOP 级训练场景中份额在增长。
| 误区 | 实际情况 | 建议 |
|---|---|---|
| "TensorFlow 2.x 已被淘汰" | 工业部署和 TPU 场景仍有优势 | 按实际场景评估,不盲从舆论 |
| "JAX 性能最好所以应该用 JAX" | 性能提升 10%—30%,但开发效率下降 50%+ | 小团队优先考虑开发效率 |
| "PyTorch 够用一切场景" | 大型多节点训练需要专门的分布式框架 | 10B+ 参数模型要搭配 DeepSpeed/Megatron |
| "框架可以随时切换" | 框架迁移成本极高(数周到数月) | 早期锁死框架是合理决策 |
| "新框架比老框架好" | 生态成熟度比技术先进性更重要 | 生产环境保守选择,研究环境可探索 |
此页面为 AI 知识体系 的一部分,内容持续更新中。