开源项目 PS5LM 支持在越狱 PS5 原生运行 GGUF 模型并提供本地 API

开源项目 PS5LM 基于 llama.cpp 的 Vulkan 后端，支持在已越狱的 PS5 上原生运行 GGUF 格式的大语言模型与决策模型。该工具利用主机 RDNA 2 GPU 的 11.4 GB 共享内存运行模型，提供兼容 OpenAI 与 Anthropic 的局域网 API 服务，并配备电视端交互界面，支持直接从 Hugging Face 下载模型。