Unsloth AI· @UnslothAI · X·· 3 小时前AI 评分55
AI 导读
Unsloth 宣布可在仅 4GB 内存的设备上本地运行 Laya Decision 模型，支持 Mac、Windows、Linux 的 CPU、统一内存和 GPU 环境。默认多语言模型 678MB，另有 English 与 Typed decisions 档需 5GB RAM、846MB；可通过 Unsloth Desktop 以 Jev 兼容 API 提供服务，数据留在本地，指南见 https://unsloth.ai/docs/models/decision-laya。
正文
You can now run Laya Decision models locally on just 4GB RAM! 🔥
Works on CPU, Mac, Windows, Linux and GPU setups.
Serve Laya through a Jev-compatible API via Unsloth Desktop.
GitHub: https://github.com/unslothai/unsloth
Guide: https://unsloth.ai/docs/models/decision-laya
来源：Unsloth AI · x.com