苹果公司以其在iOS设备上的革命性AI技术引领行业。苹果GPT项目,这个科技巨头的创新成果,旨在克服iPhone和iPad上的内存限制,开启了一个高级AI能力的新时代。最近的发展,特别是在利用闪存技术上,展示了苹果在AI领域不断突破极限的决心。让深入了解苹果计划在2024年推出的各种AI技术,包括生成性AI Ajax和AI驱动的iOS 18。
苹果研究人员在一篇名为“LLM in a flash: Efficient Large Language Model Inference with Limited Memory”的论文中揭示了一种革命性技术。这种开创性的方法利用在移动设备上比传统RAM更丰富的闪存来存储AI模型数据。“窗口化”和“行-列捆绑”两个关键策略发挥了重要作用。前者允许回收处理过的数据,提高速度。后者则高效地组织数据,类似于阅读书籍的章节,加速语言生成。这些策略使AI模型能够在iPhone上运行时拥有高达两倍的可用内存。