ITCOW牛新网6月12日消息,苹果公司在最新一届的全球开发者大会(WWDC24)上,正式对外公布了其最新的人工智能技术——Apple Intelligence。这项技术将为iPhone、Mac等苹果设备带来一系列革新性的AI功能。近日,苹果机器学习官网公布了 Apple Intelligence 的详细信息。

Apple Intelligence由两个基础模型构成:首先是设备上的本地模型,这是一个约含30亿参数的语言模型,其性能在测试中超越了许多70亿参数的开源模型;其次是云上模型,这是一个更大型的、基于服务器的语言模型,运行在苹果芯片服务器上的私有云计算环境中。
苹果公司强调,Apple Intelligence的生成模型专为用户日常任务设计,能够动态适应用户当前的活动。这些模型经过特别微调,以优化用户体验,包括文本撰写与编辑、通知优先级排序、对话图像创作,以及简化应用间交互等。

在预训练阶段,苹果的基础模型在AXLearn框架上进行训练,这是一个苹果于2023年发布的开源项目,支持在多种训练硬件和云平台上进行模型的可扩展训练。
苹果还承诺,在训练基础模型的过程中,不会使用用户的私人数据,同时采用过滤器删除公开的个人信息,如社会保障号码和信用卡号,并且过滤掉脏话和其他低质量内容,确保训练语料库的高质量。
在优化方面,苹果采用了grouped-query-attention技术,本地设备模型使用了49K的词汇量,而服务器模型则使用了100K的词汇量,以包含更多的语言和技术标记。
性能方面,在iPhone 15 Pro上,Apple Intelligence能够实现每个prompt token约0.6毫秒的延迟,以及每秒30个token的生成速率。在IFEval测试中,Apple Intelligence的本地模型性能优于多个现有模型,而云端模型的性能与GPT-4-Turbo相当。





苹果计划在即将到来的夏天推出iOS 18、iPad OS 18和macOS Sequoia的测试版,并在这些系统中开放Apple Intelligence。正式版将于今年秋季以测试版形式向公众开放,但一些功能、语言和平台的全面支持将推迟到明年。
Apple Intelligence将对所有用户免费开放,但仅限于配备A17 Pro芯片或M系列芯片的设备。这意味着用户需要拥有iPhone 15 Pro、iPhone 15 Pro Max,或即将推出的iPhone 16系列,以及配备M1或更高版本芯片的Mac或iPad Pro、iPad Air等设备才能使用。