据IT之家报道,Mac版Perplexity Computer新增端侧(on-device)模式,本地运行需要36GB统一内存。
端侧模式意味着部分AI推理可在本机完成,减少对云端API的依赖,从而提升响应速度与数据隐私性。该功能对搭载M系列芯片的高配Mac机型开放,也为开发者调用端侧AI能力提供了新思路。
对AI应用开发者而言,端侧推理与云端API的混合架构,正在成为兼顾性能、成本与隐私的新选择。
来源:IT之家(https://www.ithome.com/1/015/609.htm)
网站备案/许可证号:鲁ICP备2021035806号