AI工具箱
EN
omlx

omlx

模型部署
jundot/omlx
23.0K2.0KPythonApache-2.0

让苹果电脑本地运行大模型的AI服务器，菜单栏一键管理，支持连续批处理和SSD缓存。

让苹果电脑本地运行大模型的AI服务器，菜单栏一键管理，支持连续批处理和SSD缓存。

🧠 模型部署🏠 本地运行
omlx 预览图
预览卡片由 GitHub 根据仓库信息自动生成，卡上的星数可能滞后于上方数据。
工具信息
类型🐙 开源项目
Stars23.0K
Forks2.0K
语言Python
许可证Apache-2.0
解锁完整分析 —— 免费
你看到的是 omlx 的公开预览。AI 生成的优缺点、使用场景、部署指南与适配人群，注册即可免费查看（无需绑卡）。Pro 会员另享 AI 对比（每 30 天 50 次）与会员日报周报。

对比同类工具

看看 omlx 和其他 模型部署 工具的差异

更多工具

tensorflow
201.2K

一个开源的机器学习框架，让开发者能构建和训练自己的AI模型。

ollama
184.2K

一个让你在本地电脑上轻松运行各种大语言模型的工具，支持DeepSeek、Qwen、Gemma等热门模型。

transformers
168.0K

用Python加载和运行各种预训练AI模型，覆盖文本、图像、音频等多种任务。

llama.cpp
131.9K

在你的电脑上离线运行大语言模型，不用联网也不用买显卡

vllm
93.4K

把大语言模型部署成高速 API 服务的开源推理引擎，跑得快、显存省