(2019年09月26日)在今天举行的oculus connect 6大会中,facebook公布了一系列arvr创新、发展成果以及oculus quest最新更新和计划。以下是映维网带来的首日内容汇总(蓝色标题是可点击,了解更多信息)。vr主题乐园
延伸阅读:oc6卡马克:悼念gearvr,quest将无线支持pc vr,rift s表现优于rift,5g+vr没看头
1 oculus quest
11 oculus quest手部追踪
在今天举行的oc6大会中,facebook正式展示了手部追踪技术,而手部追踪计划于2020年初作为面向消费者的实验功能和面向开发人员的sdk登陆quest。这意味着,vr开发者从明年年初开始就可以构建和发行相关的体验,允许用户无需利用控制器或其他外设即可在vr中利用自己的双手。
这原本是facebook reality labs的实验项目,但通过与产品和设计团队的紧密合作,手部追踪终于成为现实,并为vr输入带来了全新的范式。据介绍,facebook的计算机视觉团队开发了一种全新的方法。利用深度学习,只需通过quest搭载的单色摄像头即可理解手指位置,无需有源深度感知摄像头,额外的传感器或处理器。这项技术可以近似用户的手部形状,并创建一组3d点以准确表示你在vr中的手部和手指运动。
12 oculus quest前向兼容
facebook表示他们已经在研发下一代oculus quest头显,但facebook希望开发者为当前quest版本头显开发的每一个内容都能实现前向兼容,即能兼容下一代oculus quest头显。未来,oculus将为当前版本quest持续发布更多升级软件来帮助开发者实现这一目标,而开发者只需关注发布其内容即可。
13 oculus link
用户即将可以通过quest开玩rift游戏。令用户感到兴奋的一项功能显然是oculus link。这将允许quest用户通过游戏pc访问rift内容和体验。从今年11月开始,结合高质量的usb 3数据线,任何拥有quest和游戏pc的用户都可以通过oculus link软件访问rift游戏。另外,facebook将于今年下半年发布提供最大吞吐量和舒适人体工学设计的专用数据线。
14 passthrough+
rift s的passthrough+透视功能将于下周开始支持quest。当你置身于vr环境时,这项功能可以为你提供周围环境的实时立体校正视图。得益于图像处理和3d计算的进步,现在quest已经能够支持passthrough+透视功能。届时,你无需摘下头显即可随时查看周围的环境。
15 oculus go apps on quest
用户将可以通过quest体验oculus go的一系列热门应用。对于大多数人来说,oculus go是步入vr世界的第一步。自发售以来,这个平台已经迎来了一系列优质的内容,为看电视,玩游戏,与朋友联系等用例提供了全新的方式。从下周开始,超过50款热门的oculus go应用将登陆quest用户。如果你已经通过oculus go购买了一款应用,你将能免费获得quest版本。换句话说,相关应用将提供通用购买支持。
2 oculus平台及生态
21 oculus商店1亿美元销售额
一个可持续发展的vr生态当然得是大家都有钱赚,这样才能促进生态的良性循环——开发者有动力开发更多优秀的内容,进而吸引更多的消费者参与消费,互相促进实现内容的量变和质变。今天在oc6大会上,facebook宣布其在这一道路上达到了一个新的里程碑——用户在oculus store的消费总额已经超过了1亿美元,其中oculus quest占据20%(2000万美元)。之前facebook曾透露说,quest上市前两周的消费总额达到了500万美元,迄今quest已经上市18周。
22 全新社交vr平台horizon
facebook正式发布了全新的社交vr世界facebook horizon,并定于2020年登陆oculus quest和oculus rift。horizon将从一个熙熙攘攘的城镇广场开始,人们将在这里见面和交流,然后再扩展到一个相互联系的世界,并开始探索新的地方,畅玩游戏,建立社区,甚至创造自己的新体验。
在首次进入horizon之前,你可以自定义属于自己的虚拟角色,这样每个人都能充分表达自己的个性。然后,魔法般的传送门telepods会将你从公共空间运送至充满冒险和探索的新世界。你同时能够加入通过world builder构建的一系列horizon世界。
facebook horizon定于2020年上线,而他们将在2019年10月25日关闭facebook spaces和oculus rooms。
23 oculus riftquest 新游戏
facebook今天在oc6大会发布了一系列的新游戏,包括基于《荣誉勋章》系列的《medal of honor: above and beyond》、星战续集《vader immortal: a star wars vr series – episode ii》、瞬息万变的开放世界《stormland》、承诺30小时的冒险游戏《asgard’s wrath》、来自panic! at the disco的《beat saber》全新音乐包、将登陆quest的rift游戏《echo vr》等。
基于《荣誉勋章》系列的《medal of honor: above and beyond》基于第二次世界大战的第一人称射击游戏游戏中,你将扮演盟军特工,负责渗透,控制纳粹战机并打击纳粹。当你完成欧洲的任务后,你又会与法国抵抗军合作,努力从敌后破坏纳粹行动。
另外,将有100多款游戏定于今年年底前与大家见面,而2020年将有更多的作品面世。益智游戏《the room vr: a dark matter》将于明年登陆quest,而逃生冒险游戏《last labyrinth》很快就将登陆quest和rift。
从3a级游戏到基于好莱坞作品的ip系列,oculus store将迎来越来越多的高质量作品。所以,喜欢游戏的玩家可以耐心等待oculus带给大家的惊喜。
24 全新oculus社交网络
oculus计划在今年晚些时候推出一个基于facebook社交网络的全新oculus平台社交网络。届时,用户需要在oculus平台登录facebook账号才能使用oculus的社交功能(如聚会、加好友、oculus tv中共同观影),因为这些功能都是来自facebook技术。聊天功能(chat)还将允许你在非vr环境下与你的oculus朋友联系交流。另外,oculus还计划增加“活动(events)”功能,届时你就能在朋友间发起组织多人vr竞赛、共同vr观影等。最后,你还可以在vr中组建facebook groups群组,分享vr的精彩瞬间。
总之,oculus的社交网络将与facebook的社交网络全面打通。映维网猜测,其最终会发展成为facebook社交网络的一部分。
25 标志性场景打卡:destinations + rich presence
开发者将可以在他们的游戏和应用中定义不同的标志性场景地点(destinations)。一旦设置了标志性场景地点,rich presence功能将允许用户分享他们已经打卡的标志性场景,因此他们的朋友可以更快速方便地加入进来。从10月份开始,用户就可以在vr或者oculus移动端app中看到他们好友的“已打卡标志性场景”。当然这属于隐私范畴,用户可以自主控制是否公开。
接下来的几个月,oculus将开放广播“标志性场景地点(destinations)”的功能给开发者,从而允许他们的用户分享。
26 oculus tv + oculus media studio
facebook宣布推出全新的oculus tv和oculus media studio。oculus tv可以帮助用户轻松发现和享受创作者的体验,寻找并观看oculus quest和oculus go中的媒体内容。全新的媒体内容管理系统media studio,可以支持创作者轻松上传、发布和分析沉浸式内容。
3 商业服务oculus for business
全新的oculus for business平台将于今年11月启动。oculus for business旨在支持各个行业轻松采用和扩展虚拟现实,帮助他们改变工作场所,令大规模部署vr成为可能,同时为不断增长的vr开发者社区扩展市场机会。
全新的device setup(首先支持android)可允许你一次性设置和配置大量的头显,而device manager控制中心可以支持管理员更新设置并在多个办公室和位置远程部署应用程序。
oculus for business同时提供了一个全新的帮助端口和专门的客户支持,包括实时聊天,和电子邮件支持。
4 开发者工具
41 调试工具renderdoc
renderdoc是一个支持android的开源调试器。oculus帮助优化了renderdoc,新版本现在只需更少的内存,可以更流畅地支持quest,并在opengl和vulkan中支持特定于vr的扩展。展望未来,oculus将致力于支持renderdoc,从而帮助开发者准确了解gpu的要求。
42 性能工具ovr metrics tool
ovr metrics tool是oculus提供的性能工具,面向unity,unreal和原生开发者。平视模式允许你查看vr叠加层中的实时指标,而报告模式则在vr会话结束后提供性能报告。oculus希望扩展在ovr指标工具中提供的信息,通过将其集成至操作系统中来进一步实现无缝的体验,以及构建允许你利用控制器来打开和关闭它的方法。
43 vulkan支持
oculus已经在其平台和unreal engine中支持了vulkan多视图和固定注视点渲染,这可以大幅提升运行性能。今年晚些时候,oculus将扩大quest对vulkan的支持,包括更方便debug调试的unity和vulkan校验层。
44 unity gpu
oculus已经在quest和go上支持了unity的gpu profiler,不过oculus还在跟高通合作,以开发更底层的gpu分析api。这将可以提供更加精准丰富的信息来帮助解决性能问题。
45 app销售分析
oculus将为quest带来新的开发者分析工具指标,以帮助开发者了解其app在商店的销售表现,包括app详细介绍页面的浏览、搜索和参与度指标。
46 quest混合现实捕捉
利用最新的mixed reality capture库,开发者现在可以更加轻松的集成到oculus quest和rift平台上的游戏和应用程序中。通过将mrc集成到内容之中,并利用oculus提供的mixed reality capture tools,可以制作更加引人入胜的预告片,从而吸引观众的注意力。
47 oculus link:远程渲染
当oculus link软件发布后,开发者也可以利用该功能进行更方便的迭代开发,在pc上运行并直接渲染传输到quest,而不再需要编译导出apk文件。
5 360度摄像开源系统facebookdep
赋能艺术工作者创造引人入胜的六自由度vr体验是oculus的目标,而能够在3d中捕获世界的摄像头和软件是创作过程的基础。
但是,设计支持六自由度头部运动视差的完全集成式360度摄像系统异常艰巨,因为你需要从各个摄像头中计算出新的视图。今天facebook发布了一个开源软件堆栈facebookdep,它可以在oculus quest和rift s等vr头显中中重建深度并支持实时播放。代码已经托管至github。facebookdep具备通用性,并旨在接收来自各种球形和平面相机阵列的输入,包括red digital cinema的manifold。facebook是与red digital cinema合作创建了manifold,这是一款采用16个独立的red helium 8k传感器的定制摄像系统。
facebook表示:“我们已经吸取了上一次开源工作中所获得的经验教训,即surround360,并结合六自由度头部运动视差进行了全新的设计。结果是一种新颖的设计方法和架构。”facebook早前已经在名为“an integrated 6dof video camera and system design”的siggraph asia 2019论文 中进行了介绍。
facebook的另一个目标是支持技术社区扩展和改进初始软件框架和摄影系统设计。所以,我们提供了适用于软件的多个数据集。他们表示:“我们希望数据集将在深度估计和视图合成领域促进正在进行中的学术研究。”
6 最新研究成果
6 1 shared spaces
frl在今年六月展示了最新的现实环境3d模型,并向研究社区发布了18个空间的数据集。这种模拟环境捕获了房间的细微细节,如镜面反射和地毯纹理,而这是令它们与真实物体几乎无法区分的必要条件。facebook指出:“通过将高精度的深度捕获系统,最新的即时定位和地图构建(slam)技术,先进的摄影头,以及密集的重建系统相结合,我们能够在vr中达到前所未有的保真度。”在今年的oc6大会中,frl演示了相关的3d建模技术。其中,两人可以使用oculus avatars共同出现在3d重建空间中,并且一起看欣赏视频或开玩游戏。他们指出:“这是人们第一次在个性化3d环境中共享体验,而这是激动人心的未来一瞥。”
6 2 livemaps
frl研究团队正在开始构建将为明天的ar体验奠定基础的核心基础架构。利用机器视觉和slam技术,livemaps可以创建共享的虚拟映射。为了实现这种规模的技术,frl团队设想livemaps将依靠未来智能设备捕获的众包信息。为了填充第一代映射,研究人员正在探索对facebook的园区进行映射绘制,以及采用包含地理标签的公共图像来生成点云(这是当今导航地图中常用的技术)。
这支团队指出:“我们依然处于研究阶段,但的我们愿意公开这项研究,并且分享我们在ar眼镜开发过程中取得的进展。我们同时会考虑如何在保护隐私的情况下继续推进这项研究,并邀请全球专家提供关于最佳时间,以及人们如何保留自己对信息的控制的反馈。这项技术可能会从根本上改变人类未来的联结方式,而我们很高兴看到它给我们指明的发展方向。”
63 half dome
在oc6大会,亚伯拉什分享了frl在发明光学未来方面所取得的进展,包括于2018年f8大会首次亮相的half dome原型。这款原型头显是多年研究和反复探索的结果。今天,oculus拉开了下一步的帷幕。最初的half dome原型优先考虑视觉沉浸感,而half dome 2原型则主要瞄准视觉和物理方面的人体工学和舒适性。half dome 2原型将光路折叠成小体积,从而缩小了头显的尺寸,并且将重量减少了200克。总体而言,facebook已经相较于half dome 1大幅改善了形状参数,同时减少了200克的重量。尽管half dome 2的视场比half dome 1窄,但依然比oculus quest宽20%。
oculus同时展示了half dome系列的电子变焦版本。这个原型采用了新型液晶透镜来代替移动式机械零件。所述的新型液晶透镜是由交替堆叠的两个薄款平面光学元件制成:偏振相关透镜和可切换半波板。偏振相关透镜非常特别,因为其焦距会根据偏振态而变化。通过改变施加到可切换板的电压,你可以在两个焦距之间切换。这可能会产生一组优秀的数字双焦点,但不一定能带来舒适的vr体验。通过将一系列偏振相关透镜和可切换半波片堆叠在一起,你可以实现平滑的变焦,并能够舒适,无缝地调整焦点。
64 full-body codec avatars
facebook于今年年初分享了关于codec avatars的研究。这种栩栩如生的虚拟化身可以实时进行动画制作,从而为vr带来了轻松,实时的无脚本交互。两人能够仿佛身处于同一个物理房间中,并且自然地通过逼真虚拟化身进行交流只是第一步。但是,实现真正的社交临场感不仅仅需要面容表情。肢体语言对于我们的沟通同样重要。所以,今天frl团队证实介绍了全身式codec avatars。尽管短期内你无法在消费类产品中看到这项技术,但我们可以想象这样一个未来:你我将能够通过数个自拍来创建自己的超现实虚拟化身,然后头显能够实时制作动画。显然,未来将迎来全新的全身沉浸式vr浪潮。