0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AR/VR是否是能为Prophesee打开批量市场的领域?

Astroys 来源:Astroys 2023-10-24 17:01 次阅读

Prophesee就像一台动力十足的小马达。这家由Luca Verre经营的法国初创公司推出了第五代基于事件的成像传感器,并开始进军大众消费市场,显示了其顽强的生命力。没有什么能阻止Verre和他的团队不遗余力地寻找适合其神经形态视觉系统的市场。目前的未知数是,AR/VR是否是能为Prophesee打开批量市场的领域,如果是,可能需要多长时间。

2014年,一项独特的生物启发(bio-inspired)视觉技术是一笔巨大的财富,足以说服一个学者团队和一位商人成立Prophesee公司

Prophesee并没有发明神经形态(neuromorphic)计算。但它已成为在商业上实现其原理的先驱:人类不是根据一系列帧来记录视觉信息。相反,他们捕捉感兴趣的东西(空间和时间的变化),并将这些稀疏的信息高效地发送给大脑。

Prophesee在推广基于事件的(event-based)传感器方面做了大量的工作,但其努力尚未建立起规模市场。

由于大多数公司都习惯于拍摄基于帧的电影和视频,要求他们改用完全陌生的技术是一个颠覆性的提议。这家初创公司的腾飞需要一些时间,因为它的商业影响力还很小,业务发展历史也很短。

一方面,Prophesee有充分的机会将其基于事件的技术应用到各行各业的许多产品中。这家初创公司涉足的行业包括医疗、工业、汽车和智能手机等。

另一方面,拥有如此广泛的机会也可能成为初创公司的致命伤,会把团队拉向过多的方向,有可能造成资源紧张。

虽然Prophesee已经在工业市场占有一席之地,但它仍然需要一种能够产生大量需求的产品。

为了实现这一目标,Prophesee推出了第五代基于事件的传感器,名为GenX320 Event-Based Metavision。该公司透露,其GenX传感器体积小、功耗超低,有助于首次进入“边缘”消费类设备市场,包括AR/VR头戴设备、安全和监控/检测系统以及始终在线的智能连接设备。

踏入消费类市场

十年前,当Ryad Benosman、Bernard Gilly、Christoph Posch和Luca Verre创立这家初创公司时,AR/VR可能还不在他们的考虑范围之内。

但今天,Prophesee认为AR/VR与其基于神经形态计算的微型图像传感器“完美契合”。CEO Verre最近解释说,Apple即将推出的Vision Pro等产品,内部使用了十几个微型摄像头,这引发了AR/VR市场的成熟,微型、超低功耗摄像头能够进行高速眼球追踪,创造低延迟的沉浸式体验。头戴式显示器的系统设计师需要能够“减少散热和降低计算负荷”的摄像头。

Prophesee进军消费市场反映了这家初创公司三年来将基于事件的视觉技术引入智能手机的努力。

Prophesee首先与Sony建立了合作关系,生产其第四代基于事件的图像传感芯片。Prophesee为智能手机市场带来的价值来自于将事件数据与帧RGB信息相结合,从而提高图像质量。因此,Prophesee与Qualcomm合作开发了一款去噪软件应用,该应用可在Qualcomm Snapdragon移动平台内的DSP上运行。

与Sony和Qualcomm两家智能手机领域巨头的合作显然改变了Prophesee的发展态势,也为其向消费者推广产品壮了胆。有了这样的合作伙伴,Prophesee得到了业界的关注。

Verre承认:“消费者对这项技术的兴趣让我们大吃一惊。随后,我们开始关注IoT、AR、VR和头戴式显示器的应用。在Apple和Meta的带领下,许多公司正在进入AR/VR领域。但是,Prophesee为智能手机设计的第四代基于事件的传感器却无法进入这一消费类市场。

同一知识树

值得注意的是,在开发基于神经形态技术的视觉系统方面,并非只有Prophesee一家公司。

正如Yole Intelligence的首席分析师Pierre Cambou所解释的那样,Prophesee“成长于一棵知识树”,80年代加州理工学院的Carver Meed团队和Misha Mahowald随后发明的神经形态硅视网膜。

Cambou解释说,在这棵知识树上成长起来的其它初创公司还包括IniVation(苏黎世)、Celepixel(上海)、Insightness(苏黎世)和Alpsentek(苏黎世)。Cambou补充说,Samsung也在2014年涉足神经形态技术,推出了DVS(Dynamic Vision Sensor)。

Cambou预测,Prophesee有望成为其中最成功的公司,这主要归功于其IP、由Verre领导的“一流”团队以及与行业领导者建立合作关系的商业模式。

芯片生产

Prophesee不仅仅是一家应用公司。芯片生产至关重要,因为该公司基于神经形态计算的成像传感器不能继续作为小众精品技术。这种传感器必须更便宜,并以更小的占地面积和更低的功耗批量生产。

在这方面,从与Tower Jazz合作开发第三代VGA传感器到与Sony联合开发第四代高清传感器,Prophesee走过了不平凡的道路。Verre表示,与Sony的合作使Prophesee得以使用Sony的wafer-to-wafer堆叠工艺。这家初创公司能够将基于事件的传感器缩小10倍。

Verre说:“自从我们在2021年底推出第四代成像传感器以来,我们看到了更多的机会。不仅在我们已经使用第三代传感器活跃的工业市场,而且在消费领域也有越来越多的机会。”

Prophesee最新推出的GenX320芯片尺寸为3x4mm,由ST在法国生产。这家初创公司解释说,320×320 6.3μm像素BSI(Back-side Illuminated)堆叠事件视觉传感器提供了极小的1/5英寸光学格式。Verre说,虽然Sony制造Prophesee第四代基于事件的传感器时,“堆叠”是一种新的工艺技术,但现在它已广泛应用于CMOS传感器。ST将其用于ToF传感器。

让技术切换更容易

在拥有颠覆性技术的初创公司必须完成的任务中,有一项在业内鲜有讨论:初创企业是否做好了准备,让客户能够用新技术取代旧技术。

Verre说,让潜在客户惊叹于新的颠覆性技术是一回事。在“惊艳”之后做出承诺则完全是另一回事。Verre解释说,无论是Tier 1还是汽车OEM,大客户希望初创公司能够做到一切,以便他们能够轻松、没有任何麻烦地进行切换。

对于GenX320,Prophesee认为已经做足了功课。

首先,它在GenX中集成了片上电源管理模式,将传感器的功耗降至36μW以下,并启用了“智能唤醒事件(smart wake-on-events)”。Verre说,通过允许传感器按顺序唤醒像素,GenX将从μW至3mW的超低功耗模式开始。

其次,Prophesee试图让GenX 320“为AI做好准备”。Prophesee配置了额外的“智能块(smart blocks)”,对事件数据进行预格式化,因为基于事件的传感器产生的数据必须能够轻松地与主流AI处理器配合使用。

Verre解释说:“理想情况下,你希望有一个神经形态计算平台来处理我们基于事件的传感器数据。”虽然Prophesee一直在与Intel的Loihi以及Brainchip和其他神经形态计算公司合作,但Verre指出,这些平台还不是主流。

因此,为了让GenX能够与“大多数使用AMD、RenesasNXP或Qualcomm等主流平台(这些平台都针对处理帧进行了优化)”协同工作,Verre说,“我们需要预先格式化基于事件的数据”。

第三,Prophesee正在提供MIPI(Mobile Industry Processor Interface)或 CPI(Common Programming Interface)数据输出接口,实现与嵌入式处理器平台的低延迟连接。Verre解释说:“这是我们为促进基于事件的图像传感技术与现有生态系统的整合所做的尝试。”

批量生产

Prophesee GenX320的批量生产已经开始,已开始批量发货。

Verre说:“Prophesee几乎一年前就收到了工程样品,并与30至40家客户分享了这些样品,这些客户已经在评估我们的技术。”

除了推出GenX成像传感器,Prophesee还提供摄像头模组和评估套件。

在这30-40家客户中,Prophesee主要依靠Zinn Labs、Xperi和Ultraleap等早期采用者。

Zinn Labs(加州Menlo Park)正在开发基于Prophesee Metavision事件传感器的先进视线追踪系统(移动和汽车头戴式显示器)。据Zinn Labs称,新型GenX320传感器可满足以毫秒级时间尺度变化的眼球和注视运动的需求。Verre解释说,Zinn Labs使用基于事件的传感器,可以达到1KHz或更高的眼球追踪速度,功耗低于20mW。Verre补充说,相比之下,基于帧传感器的最先进的眼球追踪速度仅为60-120Hz,功耗高达2W。

作为GenX320的另一个早期采用者,Xperi已承诺使用Prophesee基于事件的传感器,Verre指出,此外还有之前展示过的DMS。他说:“他们目前还在为基于GenX320的智能消费类设备做一些原型开发工作,这些设备更多地与家用电器有关。”

Prophesee还与手部追踪系统领域的领先企业Ultraleap建立了合作关系。Verre解释说,Ultraleap使用Prophesee基于事件的技术的主要优势是高速追踪和低功耗。

Verra说,在手部追踪和眼部追踪中,基于事件的图像传感器可以同时实现高速和低功耗,解决了“帧基相机面临的一个基本挑战”。他指出,每秒运行500-600帧的相机会产生大量数据,在有限的功耗预算下很难进行实时处理。

创新者的窘境

Yole的Cambou分析说,Prophesee在2019年决定与Sony合作使用芯片堆叠工艺技术时,就已经播下了成功的种子。随后开发的两款传感器实现了业界最小的像素尺寸(4.86μm)。

Cambou说:“有了这样的分辨率和光学格式,移动、汽车和工业等许多市场都在Prophesee的触及范围之内。”

然而,Cambou说:“如此激进的创新(生成一个非冯诺依曼异步设备),以微秒级分辨率产生图像数据,其速率只有每秒10,000帧的科学相机才能达到,就像外星技术登陆时代广场一样。”他解释说,换句话说,业界看到的是一种纸面上看起来很酷的技术,但对于需要时间来摸索如何利用这种技术的市场来说,这种技术却显得很遥远。

这就像Clayton Christensen的“创新者的窘境”所描述的那样,拥有颠覆性技术的初创公司必须追求现有市场,否则就必须通过创造一个新市场来实现这一目标。Cambou认为,Prophesee一直在“尽可能快地教育生态系统,为自己创造空间”。

Prophesee目前有130名员工,大部分在法国。Verre解释说,该公司还在上海设立了办事处。该公司获得了Intel、Bosch、小米和雷诺等公司的投资。

与专注于制造摄像头的竞争对手不同,Prophesee专门开发传感器,其主要追求的应用领域是边缘市场。Verre说:“现在市场上有超过500亿颗摄像头,每年出货量达约是30亿。大多数被用于传感类型的应用,包括工业设备中的计算摄影、监控或机器视觉。”在这些领域,Prophesee看到了其技术的更多机会。

Prophesee所商业化并引入成像市场的颠覆性技术让许多公司惊艳,但让他们买账却是另一回事。然而,如果神经形态成像传感器最终开始影响各行各业的相机,就像AI影响各行各业一样,Yole的Pierre Cambou相信,有朝一日Prophesee的收入可能会达到10亿美元,在CMOS成像传感器市场占据5%的份额。他说:“这一天可能会比许多人预测的来得更早。”






审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • CMOS
    +关注

    关注

    56

    文章

    4877

    浏览量

    231943
  • 散热器
    +关注

    关注

    2

    文章

    855

    浏览量

    36502
  • RGB
    RGB
    +关注

    关注

    4

    文章

    661

    浏览量

    56853
  • 视觉技术
    +关注

    关注

    0

    文章

    79

    浏览量

    13379
  • 成像传感器
    +关注

    关注

    0

    文章

    19

    浏览量

    8478
收藏 人收藏

    评论

    相关推荐

    2017,VR技术将重新定义未来

    领域与行业,成为未来生活的一部分。VRAR殊途同归VR将我们带入了一个虚拟的可交互世界,而AR(Augmented Reality,简称AR)则将虚拟的物体叠加到真实环境中。VRAR的融合
    发表于 03-14 14:48

    VR BOX out? AR BOX能否逆袭

    市场上出现价格亲民、能促进AR大量普及的产品出现。这就促使了新事物的发生和发展,AR BOX应运而生,AR BOX 必将肩负着像VR BOX普及VR一样向大众普及AR的历史使命
    发表于 05-16 09:28

    高薪诚聘AR/VR产品经理(北京)

    AR/VR产品经理(北京)任职资格;1、本科及以上学历,2年以上产品经理经验; 2、对智能设备有浓烈的兴趣; 3、对移动端产品设计有一定经验与了解; 4、良好的沟通与协调能力,严格的自我把
    发表于 06-27 16:48

    CCS Insight最新预测:VR/AR设备市场将达99亿美元

    领域。” [img][/img]   游戏仍然是
    发表于 04-20 09:27

    VRAR应用离不开5G支持 积淀方能迎来爆发

    领域的渗透在不断深入,市场需求、行业应用正在激活,虚拟现实产业发展的战略
    发表于 11-02 09:23

    天线设计将提高AR/VR设备的性能

    AR/VR 设备仍然采用有线方式的原因;当前来说,与内容相比,是否转为无线应用则是一个关注度较低的问题。”此外,极高
    发表于 11-30 14:05

    IDC FutureScape对中国AR/VR市场的预测

    AR/VR市场的预测
    发表于 02-04 06:41

    VR/AR和MR的区别是什么?

    VRAR的区别是什么?VR/AR和MR的区别是什么?
    发表于 06-01 06:54

    通过VR/AR领域数据报告反映出VR/AR领域的发展前景

    VR/AR 领域从 2014 年开始,融资事件、融资额度和媒体报道都在持续增长。但由轮次比例显示,这个领域仍处于起步阶段。我们分析了其中 2% 的已退出项目和目前估值最高的项目发现,技术
    发表于 09-14 14:58 4次下载

    ARVR的整个市场将会达到1500亿

    ARVR的整个市场将会达到1500亿,但是在整个市场里面AR,增强现实的市场是有1200亿,VR市场是300亿,AR市场将是VR市场的4倍。
    发表于 12-06 23:20 605次阅读

    VR/AR市场2020年预计可达1620亿美元

    VR技术与应用发展的元年,2017年,AR是否也会跟上VR的脚步同时起飞? 身为电子、半导体产业看重的新兴市场,虚拟实境(VR)领域的发展速度令人惊叹,虽然头戴式显示器仍然较为笨重
    的头像 发表于 03-30 10:16 5085次阅读
    <b>VR</b>/<b>AR</b><b>市场</b>2020年预计可达1620亿美元

    中国的VRAR市场将逐渐打开

    VRAR是近两年来比较热门的两项虚拟技术。根据现在IT互联网发展的成熟程度估算,在近期的中国,VRAR将会有很广泛的市场空间, 将会带来的行业革命也会更为深刻。
    发表于 07-11 10:41 760次阅读

    罗永浩将进军ARVR领域

    ARVR领域。近日,有媒体报道消息称,罗永浩即将还完锤子科技的债务,还表示称将进军ARVR领域,重返科技行业。此前就有消息称罗永浩秘密创建过一个VR团队,主要从事VR(虚拟现实)行业研究。
    的头像 发表于 12-16 10:46 5434次阅读

    罗永浩将进军ARVR领域 VR/AR领域再迎春风

    VR虚拟技术的关注可以追溯到2016年,在去年的Rebuild 2020活动中也曾表示过长期看好AR/VR市场
    发表于 12-16 14:48 1271次阅读

    不只是游戏!AR/VR正在改变工业制造

    领域,对于设备形态、功耗的要求并没有那么高,对于垂直应用的生态打造也更为简单。尤其是在工业制造业领域AR/VR设备正在打开局面,真正实现生产力的提
    的头像 发表于 10-18 16:25 86次阅读