跳到正文
2022年11月21日周一
  1. Hugging Face 社区博客66

    Hugging Face 发布 Document AI 实践指南:六大用例与开源模型选型

    Hugging Face 发布 Document AI 指南,梳理 OCR、文档图像分类、版面分析、文档解析、表格识别和 DocVQA 六大用例及对应开源模型与指标。

    推荐理由:原文系统梳理了 Document AI 六类用例及对应开源模型、指标与许可证,团队可直接按图索骥选型并自建方案。

2022年11月17日周四
2022年11月8日周二
  1. Hugging Face 社区博客58

    Hugging Face 推出新定价:下线 Inference API 付费层,推出 Inference Endpoints

    Hugging Face 更新定价体系,宣布逐步停止 Inference API 付费层,该 API 仍免费开放,企业级推理需求转向新推出的 Inference Endpoints。Spaces 新增硬件升级选项,使用这些服务无需订阅,只需在账单设置中绑定信用卡,所有付费服务用量在每月月初计费并提供合并账单。

2022年11月7日周一
  1. Hugging Face 社区博客76

    Hugging Face 分享用 Dreambooth 微调 Stable Diffusion 的实验结论与调参建议

    Hugging Face 发布教程,基于多组实验总结用 Dreambooth 微调 Stable Diffusion 的推荐设置,并提示 🧨 Diffusers 提供官方训练脚本。

    推荐理由:原文基于多组实验给出 Dreambooth 微调 Stable Diffusion 的超参数建议,可帮助读者降低过拟合并提升生成质量。

2022年11月3日周四
2022年11月2日周三
2022年10月24日周一
2022年10月21日周五
  1. Hugging Face 社区博客60

    Hugging Face 教程:从 PyTorch DDP 到 Accelerate 再到 Trainer 掌握分布式训练

    Hugging Face 发布教程,以 MNIST 训练示例讲解三种抽象层级的分布式数据并行训练:PyTorch 原生 torch.distributed 与 DDP、Accelerate 的轻量封装、Transformers 的 Trainer API。

    推荐理由:教程用同一个 MNIST 示例逐级展示三种分布式训练写法,读者可以按抽象层级选择适合自己项目的方案。

2022年10月19日周三
2022年10月14日周五
2022年10月13日周四
2022年10月12日周三
2022年10月7日周五
  1. Hugging Face 社区博客51

    Hugging Face Hub 支持为模型和数据集生成 DOI

    Hugging Face 宣布用户可直接在 Hub 上为模型或数据集生成 DOI(数字对象标识符)。该功能与 DataCite 合作实现,在仓库设置中即可申请,他人可通过模型或数据集页面的 Cite 按钮引用;DOI 绑定元数据且提供永久链接,版本更新后 DOI 可同步更新,带 DOI 的对象将长期保留,删除需向支持团队提交请求。

2022年10月5日周三
2022年10月3日周一
2022年9月28日周三
2022年9月27日周二
  1. Hugging Face 社区博客71

    Hugging Face 讲解 Accelerate 如何借助 PyTorch 加载和运行超大模型

    Hugging Face 发布博客讲解 Accelerate 如何加载和运行超出单机内存的超大模型。核心做法是用 PyTorch meta device 创建空模型、用 infer_auto_device_map 自动计算 GPU、CPU 与磁盘的设备分配,并按分片加载权重,通过 hooks 在每次前向传播前后搬运权重。

    推荐理由:原文逐层拆解 Accelerate 借助 PyTorch meta device 与分片加载运行超大模型的机制,并给出可在免费 Colab 复现的做法。

2022年9月26日周一
  1. Hugging Face 社区博客69

    Hugging Face 联合 Intel Labs 与 UKP Lab 发布少样本文本分类框架 SetFit

    Hugging Face 与 Intel Labs、UKP Lab 发布少样本学习框架 SetFit,无需提示词即可微调 Sentence Transformer 做文本分类。

    推荐理由:原文给出 SetFit 在少样本文本分类上的具体对比数字和训练成本,读者可以据此评估小样本场景下是否用它替代大模型微调。

2022年9月16日周五
2022年9月12日周一
  1. Hugging Face 社区博客75

    Hugging Face Diffusers 0.3 发布:图生图、Textual Inversion 与低显存优化

    Hugging Face 发布 diffusers 0.3,为扩散模型库新增图生图、Textual Inversion、实验性 inpainting、ONNX 导出和 macOS M1/M2 推理支持等功能。优化后 Stable Diffusion 显存占用降至 3.2GB,代价是约 10% 的速度损失;社区还贡献了视频生成、可解释性工具和日语、动漫方向的微调模型。

    推荐理由:原文梳理了 diffusers 0.3 的图生图、Textual Inversion、低显存优化等新功能,开源图像工作流的使用者可以对照更新自己的用法。

2022年9月8日周四
2022年9月7日周三
2022年8月31日周三
2022年8月24日周三
2022年8月22日周一
2022年8月19日周五
2022年8月17日周三
  1. Hugging Face 社区博客79

    Hugging Face 详解 LLM.int8() 8 位量化在 transformers 中的集成与使用

    Hugging Face 与 bitsandbytes 合作,将 LLM.int8() 8 位矩阵乘法完整集成到 transformers 和 accelerate 库,使 BLOOM-176B 等大模型推理显存占用减半且无性能下降。

    推荐理由:文章由集成团队亲自讲解 LLM.int8() 的原理、异常值处理和 transformers 集成细节,并附基准数据与代码示例。

2022年8月12日周五
  1. Hugging Face 社区博客46

    Hugging Face 的 TensorFlow 哲学

    Hugging Face 阐述了其 transformers 库在 TensorFlow 上的设计理念:所有 TensorFlow 模型都是 Keras Model 对象,所有层都是 Keras Layer 对象,用户可直接调用 fit()、compile() 和 predict()。库通过 TFAutoModel 等类一行代码加载预训练模型,并配合 AutoTokenizer 完成匹配的预处理。

2022年8月11日周四
2022年8月5日周五
2022年8月3日周三
  1. Hugging Face 社区博客40

    Hugging Face 推出 Private Hub:机器学习协作与部署的新方式

    Hugging Face 推出 Private Hub(PH),为机器学习全生命周期提供统一工具,让团队以安全合规的方式协作开发与部署模型。PH 以拥有 60K+ 模型、6K 数据集和 6K 演示应用的 Hugging Face Hub 为核心,支持基于 Git 的模型、数据集与 Spaces 版本管理,以及组织账号和权限控制。

2022年8月2日周二
2022年7月28日周四
2022年7月27日周三
  1. Hugging Face 社区博客61

    Hugging Face 用 TensorFlow 与 XLA 加速文本生成,部分场景提速超 100 倍

    Hugging Face 宣布 🤗 transformers 的 TensorFlow 文本生成现可通过 XLA 编译加速,某些场景提速超过 100 倍,在多数基准中比 PyTorch 更快,最高快达 9 倍。

    推荐理由:Hugging Face 官方讲解如何用 jit_compile=True 加速 TensorFlow 文本生成,给出编译缓存机制、padding 技巧和实测数据,方法可直接复用。

2022年7月25日周一
2022年7月14日周四