近日，Reddit社区用户AdIllustrious7246通过对PS5软硬件环境的深度改造，在破解后的PlayStation 5主机上成功运行了经过量化压缩的Qwen 3.8-27B大型语言模型，将这台次世代游戏主机变成了一台功能完备的本地AI服务器。
PS5之所以能够承担本地AI推理任务，核心优势在于其内存子系统。PS5搭载AMD Zen 2架构CPU和RDNA 2架构GPU，理论算力约为10.3 TFLOPS，在2026年的标准下已不算突出。但PS5采用256位宽GDDR6统一内存架构，CPU与GPU共享16GB内存，实现了高达448GB/s的内存带宽。
开发者AdIllustrious7246借助Mesa开源项目中的AMD RADV驱动，通过Vulkan计算接口将llama.cpp打造成PS5原生应用，成功将可用内存池从6GB提升至11.4GB，并让推理引擎能够调用GPU执行神经网络计算。
实测数据显示，在GPU满载运行下，Qwen 3.8-27B模型的生成速度达到每秒20.9个Token，CPU占用率仅为2%。对于更小规模的模型，性能表现更为亮眼：Gemma 4 E4B达到每秒61个Token，Llama 3.2 3B模型则高达每秒124个Token。
整套系统的总功耗约为86W，PS5在满载运行AI推理任务时温度稳定维持在54°C。作为参照，在CPU模式下作为载荷运行27B模型、从磁盘流式读取数据时，生成速度仅约为每分钟一个Token。GPU加速带来的提升是数量级的。