MLX
MLX 是一个类
NumPy
的数组框架,由Apple 机器学习研究
部门设计,旨在Apple
芯片上实现高效灵活的机器学习。
安装与设置
安装多个 Python 包
pip install mlx-lm transformers huggingface_hub
聊天模型
查看使用示例。
from langchain_community.chat_models.mlx import ChatMLX
API 参考:ChatMLX
LLM
MLX 本地管道
查看使用示例。
from langchain_community.llms.mlx_pipeline import MLXPipeline
API 参考:MLXPipeline