什么是空间计算?

空间计算将数字数据与物理世界实时融合,通过增强现实和虚拟现实头显或智能眼镜等设备、增强混合现实交互。

Foxconn

空间计算是如何运作的?

空间计算通过将数字内容与物理环境无缝融合来增强用户交互。为了实现这一目标,它利用了许多先进技术。

增强现实和混合现实 (AR/MR)

增强现实 (AR) 和混合现实 (MR) 在空间计算中发挥着关键作用。AR 通过叠加数字内容来增强现实世界环境,使用户能够同时感知两种现实。同时,MR 更进一步,将物理和数字领域无缝融合。

边缘和云计算

边缘和云计算对于提高空间计算设备的数据处理效率和输出质量是不可或缺的。边缘和云计算能够流式传输令人惊叹的视觉效果和极其复杂的场景,将高质量图形直接传送到头显等本地设备,实现身临其境的实时交互。边缘和云计算还提供复杂的人工智能任务所需的计算能力。通过混合渲染,用户可以将一些任务分载到云端,同时在本地处理其他任务,将它们无缝混合到单一应用中。这样可有效管理即时和高要求的过程,确保沉浸且高效的空间计算体验。

AI 和机器学习

借助 AI 和机器学习,空间计算设备能够通过处理和情境化来自现实世界的传感器数据、来解释物理世界并与之交互。这些技术增强了交互性和沉浸感,并构成了手部跟踪等直观用户界面的基础。例如,手部跟踪允许用户以自然、无缝的方式与虚拟对象交互,从而改善整体用户体验。

生成式 AI 可以根据文本描述创建 3D 和 4D 模型,这些模型随后用于增强扩展现实 (XR) 设备的渲染能力。3D 模型表示静态对象,而 4D 模型增加了时间维度,融入了运动、动画或动态变化。这丰富了视觉质量,使虚拟环境更加生动和引人入胜。

世界捕获与渲染

空间计算利用计算机视觉等技术来创建环境的交互式 3D 表示。通过分析视觉数据,计算机视觉可解释物理空间的几何形状和布局。其他技术,如高斯泼溅和神经辐射场 (NeRF),可以快速重建 3D 场景以进行可视化和分析。生成式 AI(包括扩散模型)可以将 2D 图像转换为 3D 动画,增强数字内容与现实世界的融合。

世界捕获与渲染技术的进步促进了数字孪生的创建,将现实世界的数据带入空间计算设备,实现身临其境的体验。这种数字内容与物理空间的无缝融合支持 XR 环境中的训练、协作和内容创建方面的应用。

空间计算有哪些优势?

  1. 融合现实世界和虚拟世界:这项技术促进了物理和数字领域的无缝融合,为用户提供情境信息以增强他们对这些空间的理解和在其中的互动。
  2. 增强协作:它允许用户在虚拟环境中与数字对象交互并进行协作,这对于基于团队的活动和项目尤为有益。
  3. 训练和仿真:空间计算可实现在危险或复杂的环境中进行安全有效的训练仿真,使其成为医学、制造和建筑等领域的宝贵工具。
  4. 集成 AI:通过 AI 支持高级场景理解,空间计算可用于创建沉浸式体验,将我们物理空间的元素融入其中,以增强虚拟环境的交互性。
  5. 使用熟悉的 2D 范式:空间计算允许用户在 3D 空间中使用熟悉的 2D 计算范式,如 Web 浏览器或其他 2D 窗口。这使得向空间计算的过渡更加直观和易于接受。

总体而言,这些优势使 XR 环境更具交互性、沉浸感和协作性,极大丰富了用户体验。

空间计算使用案例有哪些?

空间计算在各行各业都有变革性的使用案例,增强了功能和用户体验。以下是空间计算的一些实际应用示例:

  1. 汽车设计:汽车设计通过虚拟原型设计和数字孪生受益于空间计算。设计师可以在虚拟应用中创建和测试汽车模型,从而加快设计流程并实现更创新、更高效的设计。激光雷达技术的集成可以进一步增强汽车领域的空间计算,提供车辆及其周围环境的精确且详细的 3D 扫描,从而实现更准确的数字复制和仿真。
  2. 虚拟展厅定制:在零售业,空间计算有助于虚拟展厅的创建,购物者可以在其中定制汽车或家具的产品变体,创造逼真的个性化交互购物体验。
  3. 手术规划和培训:空间计算可以连接并整合来自手术室中各种物联网设备(如医疗设备、传感器和患者监护仪)的数据。这种整合可以增强情境感知能力,提高手术团队成员之间的协调性。
  4. 游戏:空间计算可提供身临其境的体验,让玩家能以更自然、更直观的方式与游戏环境互动,因而彻底改变了游戏。
  5. 建筑和产品设计:空间计算工具可显著增强数字环境中的 3D 模型设计和优化,在 AECO 和产品设计中尤其有用,可实现快速可视化、迭代和审批。
  6. 室内导航:空间计算可以显著增强室内导航,特别是在机场、医院和购物中心等大型设施中。通过集成空间技术,用户可以接收实时、情境感知且叠加在其物理环境中的方向指引。例如,医院的访客可以使用空间计算设备查看前往特定病房或部门的导航指引,虚拟箭头和标记会引导他们穿过复杂的布局。
  7. 物理 AI:空间计算通过创建逼真的虚拟环境并帮助机器人在物理世界中导航来增强物理人形机器人的训练和功能。机器人可以在虚拟环境中模拟、学习和优化任务,然后再部署到现实世界中。通过利用 XR 远程操作和数字孪生等技术,物理机器人可以在复杂环境中高精度地导航和操作。这种方法推动了机器人在制造、物流和医疗保健等行业中的应用,确保机器人获得良好的训练且高效。

空间计算的挑战

为了实现空间计算的承诺,开发者需要克服几个挑战和实际问题:

  1. 高计算能力:空间计算需要大量计算资源来实时处理和渲染复杂环境,这对当前的设备内硬件可能要求较高。NVIDIA GPU 和边缘 AI 技术能够实时处理海量数据集,确保高保真模拟和交互。NVIDIA Omniverse™ CloudXR™ 等技术可利用这种计算能力将大量模型的高保真渲染无缝融入空间计算应用中,帮助各行业克服硬件限制。
  2. 低延迟:确保低延迟对于提供无缝且响应迅速的用户体验至关重要。任何延迟都可能破坏空间计算应用的沉浸感和有效性。NVIDIA 通过在广泛的环境(包括云服务提供商 (CSP)、本地基础设施和边缘设备)中部署其 GPU 来应对这一挑战。这种广泛部署可确保数据处理更接近于用户,从而最大限度地减少延迟,并提供空间计算应用必需的流畅、实时的交互。
  3. AI 集成:集成 AI 以准确理解并情景化用户环境非常具有挑战性,但有助于创建响应迅速且适应性强的虚拟空间。NVIDIA 通过 NVIDIA Isaac™Metropolis (NIM) 等旨在为空间计算应用精简 AI 集成的平台来简化这一过程。这些解决方案提供了针对实时情境理解优化的预构建 AI 模型和工具套件,使开发者能够轻松创建可适应用户交互和环境变化的智能系统。
  4. 逼真且身临其境的体验:创造逼真且身临其境的体验需要高级图形。这涉及复杂的软件和硬件能力。NVIDIA 凭借其行业领先的 RTX™ GPU 来解决这一问题,这些 GPU 支持实时光线追踪和 AI 增强的渲染,可生成逼真的视觉效果。结合 NVIDIA Omniverse 等平台,开发者可以利用强大的工具来创建逼真的模拟和交互环境。这些解决方案确保空间计算应用在各行业提供无与伦比的真实感和沉浸感。

入门指南

详细了解 NVIDIA XR

了解 NVIDIA 如何利用尖端技术彻底改变虚拟现实,为沉浸式体验和下一代应用提供支持。

用于 Omniverse 数字孪生工作流的空间串流

详细了解如何通过此参考工作流将基于 OpenUSD 的沉浸式 Omniverse 数字孪生串流到 Apple Vision Pro。

如何构建原生 OpenUSD XR 应用

在此实战实验中了解如何使用 OpenUSD、NVIDIA Omniverse 和 CloudXR 构建、定制和串流 XR 应用。