苹果新专利曝光,利用摄像头和SMI传感器为Vision Pro及智能眼镜提供眼动追踪
苹果Vision Pro 的一项引人注目的功能就是它的眼动追踪系统。与所有主要的苹果设备一样,Vision Pro的每个功能都有数十项专利,甚至更多。今天,美国专利商标局又公布了苹果公司的一项专利申请,该专利主要针对下一代眼动追踪系统,该系统将摄像头与自混合干涉测量(SMI)传感器结合在了一起。
苹果公司在其专利背景中指出,眼动监测技术可用于改进近眼显示器,如头戴式显示器(HMD)、AR系统、VR系统等。例如,注视矢量追踪(也称为注视位置追踪)可用作显示屏眼窝渲染或人机交互的输入。传统的眼球监测技术以摄像头或视频为基础,依赖于对眼球的主动照明、眼球图像采集以及瞳孔中心和角膜闪光等眼球特征的提取。这种眼部监测技术的功耗、外形尺寸、计算成本和延迟对于更方便用户使用的下一代 HMD、AR 和 VR 系统(例如,重量更轻、电池供电和功能更全面的系统)来说可能是一个重大负担。
这正是苹果公司新专利所要解决的问题,即从基于摄像头的眼动追踪转向使用自混合干涉测量(SMI)或摄像头/SMI 组合的眼动追踪。
使用自混合干涉测量法进行眼动追踪
苹果公司的专利涵盖了利用一个或多个自混合干涉测量法 (SMI) 传感器追踪眼球运动的系统、设备、方法和装置。在某些实施方案中,SMI 传感器可以单独使用,也可以与摄像头结合使用,以确定注视矢量或眼球位置。
在第一方面,本专利介绍了一种眼动追踪设备。眼动追踪设备可包括一个可安装在头部的框架、一个安装在头部框架上的光学传感器子系统和一个处理器。光学传感器子系统可包括一组一个或多个 SMI 传感器。处理器可被配置为操作光学传感器子系统,以使一组一个或多个 SMI 传感器朝向用户的眼睛发射一组一个或多个光束;从一组一个或多个 SMI 传感器接收一组一个或多个 SMI 信号;以及使用一组一个或多个 SMI 信号追踪眼睛的移动。
在第二方面,本专利描述了另一种眼动追踪设备。该眼动追踪设备可包括一组一个或多个 SMI 传感器、摄像头和处理器。处理器可配置为:使摄像头以第一频率获取用户眼睛的一组图像;使一组一个或多个 SMI 传感器朝向用户的眼睛发射一组一个或多个光束;以大于第一频率的第二频率对一组一个或多个 SMI 传感器产生的SMI 信号进行采样;使用一组图像中的至少一个图像确定眼睛的注视矢量;以及使用一组一个或多个 SMI 信号追踪眼睛的移动。
第三方面,本专利描述了一种追踪眼睛移动的方法。该方法可包括操作光学传感器子系统,使光学传感器子系统中的一组一个或多个 SMI 传感器向用户的眼睛发射一组一个或多个光束;接收来自一组一个或多个 SMI 传感器的SMI 信号;以及使用一组一个或多个 SMI 信号追踪眼睛的移动。
苹果专利图 1 显示了眼动追踪设备的示例框图;图 3A 显示了眼动追踪设备的第一个示例,其中光学传感子系统和处理器被安装到一副眼镜上;图 3B 显示了眼动追踪设备的第二个示例,其中光学传感子系统和处理器被安装到一个 VR 头显上;图 4A 显示了眼动追踪设备的侧面仰视图,其中光学传感子系统和处理器被安装到一个 VR 头显上。图 4A 显示了一组 SMI 传感器示例的侧视图,这组传感器可安装在头戴式框架上,并配置为朝眼睛发射光线;图 4B 显示了图 4A 中所示眼睛和一组 SMI 传感器的前视图。
苹果专利图 12A 和 12B 说明了如何使用一组一个或多个 SMI 传感器来映射眼睛的一个或多个表面或结构。
苹果公司的专利图 11B 举例说明了使用一组一个或多个 SMI 传感器结合摄像头或其他传感器跟踪眼动运动的方法。
要了解专利的全部细节,请查阅苹果公司的专利申请 20230333371。