Unity Hololens2开发|(六)MRTK3子系统 DictationSubsystem(听写功能)

简介: Unity Hololens2开发|(六)MRTK3子系统 DictationSubsystem(听写功能)


1.前言

核心定义包附带 DictationSubsystem,是 和 IDictationsystem 的基本MRTKSubsystem实现,用作 MRTK3 中负责听写的子系统的基础。 作为 MRTK 的一部分提供的具体实现,例如 WindowsDictationSubsystem ,你可能生成的其他潜在听写子系统应都基于此类。 继承自 DictationSubsystem 的子系统允许启动和停止听写会话,并提供在处理语音输入、识别最终结果以及听写会话完成或出错时触发的事件。 可以将事件处理程序添加到这些事件中,以处理听写功能。

2.设置

3.使用 DictationSubsystem

  • DictationSubsystem若要在脚本中使用,请将事件处理程序添加到要响应的听写事件,然后调用 StartDictation
DictationSubsystem dictationSubsystem = XRSubsystemHelpers.GetFirstRunningSubsystem<DictationSubsystem>();
if (dictationSubsystem != null)
{
    dictationSubsystem.Recognizing += DictationSubsystem_Recognizing;
    dictationSubsystem.Recognized += DictationSubsystem_Recognized;
    dictationSubsystem.RecognitionFinished += DictationSubsystem_RecognitionFinished;
    dictationSubsystem.RecognitionFaulted += DictationSubsystem_RecognitionFaulted;
    dictationSubsystem.StartDictation();
}

在触发事件时,你将使用任何想要发生的事件来实现这些事件处理程序。

  • Recognizing 在识别器处理输入并返回暂定结果时触发。
  • Recognized 当识别器识别输入并返回最终结果时触发。
  • RecognitionFinished 在识别会话完成并返回原因时触发。
  • RecognitionFaulted 当识别出错 (即) 发生错误并返回原因时触发。

完成后,删除这些事件处理程序。

if (dictationSubsystem != null)
{
    dictationSubsystem.StopDictation();
    dictationSubsystem.Recognizing -= DictationSubsystem_Recognizing;
    dictationSubsystem.Recognized -= DictationSubsystem_Recognized;
    dictationSubsystem.RecognitionFinished -= DictationSubsystem_RecognitionFinished;
    dictationSubsystem.RecognitionFaulted -= DictationSubsystem_RecognitionFaulted;
}

完整识别程序代码:

using MixedReality.Toolkit;
using MixedReality.Toolkit.Subsystems;
using UnityEngine;
using UnityEngine.Events;
  /// <summary>
  /// 显示如何订阅和处理 DictationSubsystem 触发事件的演示脚本。
  /// </summary>
  public class DictationHandler : MonoBehaviour
  {
      [System.Serializable]
      public class StringUnityEvent : UnityEvent<string> { }
      /// <summary>
      /// 当用户说话时引发的事件。当识别程序侦听时,它提供到目前为止所听到的内容的文本。
      /// </summary>
      [field: SerializeField]
      public StringUnityEvent OnSpeechRecognizing { get; private set; }
      /// <summary>
      /// 事件在用户停顿后引发,通常在句末。包含目前为止完整识别的字符串。
      /// </summary>
      [field: SerializeField]
      public StringUnityEvent OnSpeechRecognized { get; private set; }
      /// <summary>
      /// 事件在识别程序停止时引发。包含最终识别的字符串。
      /// </summary>
      [field: SerializeField]
      public StringUnityEvent OnRecognitionFinished { get; private set; }
      /// <summary>
      /// 事件。包含错误原因的字符串表示形式。
      /// </summary>
      [field: SerializeField]
      public StringUnityEvent OnRecognitionFaulted { get; private set; }
      private DictationSubsystem dictationSubsystem;
      /// <summary>
      /// 在 DictationSubsystem 上开始听写.
      /// </summary>
      public void StartRecognition()
      {
          // 确保没有正在进行的听写
          StopRecognition();
          dictationSubsystem = XRSubsystemHelpers.GetFirstRunningSubsystem<DictationSubsystem>();
          if (dictationSubsystem != null)
          {
              dictationSubsystem.Recognizing += DictationSubsystem_Recognizing;
              dictationSubsystem.Recognized += DictationSubsystem_Recognized;
              dictationSubsystem.RecognitionFinished += DictationSubsystem_RecognitionFinished;
              dictationSubsystem.RecognitionFaulted += DictationSubsystem_RecognitionFaulted;
              dictationSubsystem.StartDictation();
          }
          else
          {
              OnRecognitionFaulted.Invoke("找不到正在运行的 DictationSubsystem。请检查 MRTK 配置文件设置 " +
                  "(Project Settings -> MRTK3) 或确保 DictationSubsystem 正在运行.");
          }
      }
      private void DictationSubsystem_RecognitionFaulted(DictationSessionEventArgs obj)
      {
          OnRecognitionFaulted.Invoke("识别错误,原因: " + obj.ReasonString);
      }
      private void DictationSubsystem_RecognitionFinished(DictationSessionEventArgs obj)
      {
          OnRecognitionFinished.Invoke("识别结束,原因: " + obj.ReasonString);
      }
      private void DictationSubsystem_Recognized(DictationResultEventArgs obj)
      {
          OnSpeechRecognized.Invoke("Recognized:" + obj.Result);
      }
      private void DictationSubsystem_Recognizing(DictationResultEventArgs obj)
      {
          OnSpeechRecognizing.Invoke("Recognizing:" + obj.Result);
      }
      /// <summary>
      /// 停止当前 DictationSubsystem 上的听写。
      /// </summary>
      public void StopRecognition()
      {
          if (dictationSubsystem != null)
          {
              dictationSubsystem.StopDictation();
              dictationSubsystem.Recognizing -= DictationSubsystem_Recognizing;
              dictationSubsystem.Recognized -= DictationSubsystem_Recognized;
              dictationSubsystem.RecognitionFinished -= DictationSubsystem_RecognitionFinished;
              dictationSubsystem.RecognitionFaulted -= DictationSubsystem_RecognitionFaulted;
              dictationSubsystem = null;
          }
      }
  }
相关文章
|
3月前
|
定位技术 C# 图形学
从零开始的unity3d入门教程(二)----基本功能讲解
这是一篇Unity3D入门教程,详细介绍了Unity界面操作、游戏物体创建修改、场景搭建、玩家控制、音效添加以及游戏测试和导出的全过程。
从零开始的unity3d入门教程(二)----基本功能讲解
|
3月前
|
算法 vr&ar C#
使用Unity进行虚拟现实开发:深入探索与实践
【8月更文挑战第24天】使用Unity进行虚拟现实开发是一个充满挑战和机遇的过程。通过掌握Unity的VR开发技术,你可以创造出令人惊叹的VR体验,为用户带来前所未有的沉浸感和乐趣。随着技术的不断进步和应用场景的不断拓展,VR开发的未来充满了无限可能。希望本文能为你提供有用的指导和启发!
|
3月前
|
图形学
小功能⭐️Unity UnityEvent实现代码的选择
小功能⭐️Unity UnityEvent实现代码的选择
|
2月前
|
图形学 C++ C#
Unity插件开发全攻略:从零起步教你用C++扩展游戏功能,解锁Unity新玩法的详细步骤与实战技巧大公开
【8月更文挑战第31天】Unity 是一款功能强大的游戏开发引擎,支持多平台发布并拥有丰富的插件生态系统。本文介绍 Unity 插件开发基础,帮助读者从零开始编写自定义插件以扩展其功能。插件通常用 C++ 编写,通过 Mono C# 运行时调用,需在不同平台上编译。文中详细讲解了开发环境搭建、简单插件编写及在 Unity 中调用的方法,包括创建 C# 封装脚本和处理跨平台问题,助力开发者提升游戏开发效率。
197 0
|
2月前
|
图形学 iOS开发 Android开发
从Unity开发到移动平台制胜攻略:全面解析iOS与Android应用发布流程,助你轻松掌握跨平台发布技巧,打造爆款手游不是梦——性能优化、广告集成与内购设置全包含
【8月更文挑战第31天】本书详细介绍了如何在Unity中设置项目以适应移动设备,涵盖性能优化、集成广告及内购功能等关键步骤。通过具体示例和代码片段,指导读者完成iOS和Android应用的打包与发布,确保应用顺利上线并获得成功。无论是性能调整还是平台特定的操作,本书均提供了全面的解决方案。
150 0
|
3月前
|
vr&ar 图形学 开发者
步入未来科技前沿:全方位解读Unity在VR/AR开发中的应用技巧,带你轻松打造震撼人心的沉浸式虚拟现实与增强现实体验——附详细示例代码与实战指南
【8月更文挑战第31天】虚拟现实(VR)和增强现实(AR)技术正深刻改变生活,从教育、娱乐到医疗、工业,应用广泛。Unity作为强大的游戏开发引擎,适用于构建高质量的VR/AR应用,支持Oculus Rift、HTC Vive、Microsoft HoloLens、ARKit和ARCore等平台。本文将介绍如何使用Unity创建沉浸式虚拟体验,包括设置项目、添加相机、处理用户输入等,并通过具体示例代码展示实现过程。无论是完全沉浸式的VR体验,还是将数字内容叠加到现实世界的AR应用,Unity均提供了所需的一切工具。
127 0
|
3月前
|
图形学 C#
超实用!深度解析Unity引擎,手把手教你从零开始构建精美的2D平面冒险游戏,涵盖资源导入、角色控制与动画、碰撞检测等核心技巧,打造沉浸式游戏体验完全指南
【8月更文挑战第31天】本文是 Unity 2D 游戏开发的全面指南,手把手教你从零开始构建精美的平面冒险游戏。首先,通过 Unity Hub 创建 2D 项目并导入游戏资源。接着,编写 `PlayerController` 脚本来实现角色移动,并添加动画以增强视觉效果。最后,通过 Collider 2D 组件实现碰撞检测等游戏机制。每一步均展示 Unity 在 2D 游戏开发中的强大功能。
172 6
|
2月前
|
测试技术 C# 图形学
掌握Unity调试与测试的终极指南:从内置调试工具到自动化测试框架,全方位保障游戏品质不踩坑,打造流畅游戏体验的必备技能大揭秘!
【9月更文挑战第1天】在开发游戏时,Unity 引擎让创意变为现实。但软件开发中难免遇到 Bug,若不解决,将严重影响用户体验。调试与测试成为确保游戏质量的最后一道防线。本文介绍如何利用 Unity 的调试工具高效排查问题,并通过 Profiler 分析性能瓶颈。此外,Unity Test Framework 支持自动化测试,提高开发效率。结合单元测试与集成测试,确保游戏逻辑正确无误。对于在线游戏,还需进行压力测试以验证服务器稳定性。总之,调试与测试贯穿游戏开发全流程,确保最终作品既好玩又稳定。
96 4
|
3月前
|
图形学 缓存 算法
掌握这五大绝招,让您的Unity游戏瞬间加载完毕,从此告别漫长等待,大幅提升玩家首次体验的满意度与留存率!
【8月更文挑战第31天】游戏的加载时间是影响玩家初次体验的关键因素,特别是在移动设备上。本文介绍了几种常见的Unity游戏加载优化方法,包括资源的预加载与异步加载、使用AssetBundles管理动态资源、纹理和模型优化、合理利用缓存系统以及脚本优化。通过具体示例代码展示了如何实现异步加载场景,并提出了针对不同资源的优化策略。综合运用这些技术可以显著缩短加载时间,提升玩家满意度。
125 5