苹果MacBook Pro外接iPhone 17 Pro Max跑AI模型 预填充性能最高提升44%

Qwen3.8‑27B 是一款表现尚可的 AI 模型，但运行它的前提是设备必须具备充足的显存和系统内存。以搭载 M4 Pro 芯片的 MacBook Pro 为例，其统一内存仅为 24GB，在运行该模型时预填充速度会因此打折扣。据 Wccftech 消息，一位用户通过 USB‑C 接口将 iPhone 17 Pro Max 连接到这台便携 Mac 上，并利用自制软件，让该 AI 模型的预填充性能最多提高了 44%。

IT之家了解到，为了绕开这台 Mac 24GB 统一内存的限制，Reddit 用户“u/StayLameBro”采取了两种策略，将计算任务拆分给 Mac 本机和 iPhone 17 Pro Max 共同完成。在预填充加速方面，MacBook Pro 负责处理每批 256 个 token 中的第 1 至 40 层，随后把激活值数据流传输至手机端；同一时间，iPhone 利用 A19 Pro 的 GPU 运行第 41 至 64 层，而 Mac 则已着手处理下一批数据。得益于 GPU 运算，手机端的运行速度比不使用 GPU 时快了约 2.4 倍。

在这套方案中，神经网络引擎同样没有被浪费。每 16K 长度的旧上下文会被编译成一个神经网络引擎模型。在 140K 上下文长度下，相比仅使用 A19 Pro 的 GPU，单 token 写入耗时从 279 毫秒降低到了 176 毫秒。以将一份 2000 token 的文件预填充并保存会话这一任务为例来看性能表现：上下文设为 8K 时，仅靠 Mac 本机的速度为每秒 132 个 token；外接 iPhone 后达到每秒 177 个 token，性能提升了 35%。上下文设为 16K 时，速度从每秒 109 个 token 增加到每秒 157 个 token，增幅达 44%。

当上下文窗口设为 32K 时，预填充速度从每秒 101 个 token 提升到每秒 130 个 token，性能改善了 29%。将 iPhone 17 Pro Max 外接到 M4 Pro 版 MacBook Pro 上，配合这套自制软件，理论上能获得相当出色的预填充速度。但正如这位 Reddit 用户所指出的，现实并非如此理想，该方案仍有若干局限。比如，在 64K 以内的场景中，手机并不会加速文本生成，文本生成工作仍全部由 Mac 承担。

另外值得关注的是，驱动 iPhone 18 Pro 和 iPhone 18 Pro Max 的 A20 Pro 芯片有望带来更大的性能余量。一方面其整体性能更强；另一方面它配备了双 16 核神经网络引擎。据称，对于专门适配神经网络处理器的任务，这款引擎的数据吞吐能力甚至超过了该系统级芯片内置的 7 核 GPU。这套自制软件目前已开源，可在 GitHub 上下载，项目名称为“backburner”。

即便只是作为一项实验，也能看出预填充速度提升所带来的收益相当可观。后续自然还有继续挖掘性能潜力的余地；不过这或许也意味着，未来 iPhone 这类设备也可能进入与内存、固态硬盘相似的供货紧缺阶段。