ThreeJs控制模型骨骼实现数字人

简介: 这篇文章讲解了如何使用Three.js通过控制模型的骨骼来实现数字人的动态表现,包括加载模型、获取骨骼信息以及通过编程控制骨骼动作的具体方法。

之前章节有讲过ThreeJs加载pmd模型和vmd动作文件,实现动画人物根据vmd中的动作跳舞,不过缺点是只能按照文件中指定动作跳舞,如果要让一个模型做出多种动作的话,就需要做很多个动作文件,如果动作文件很多,加载势必也会变的慢了,所以这节讲ThreeJs用threejs代码控制模型中骨骼运动,实现动态控制人物做出指定动作。

首先我们还是需要搭建出场景,这部分可以按照之前的章节提供的方法搭建,然后在场景中添加pmd模型,我们还拿之前的初音人物模型演示。

//加载pmd模型,模型为一个girl
initGirl() {
      this.helper = new MMDAnimationHelper()
      const loader = new MMDLoader()
      const _this = this
      loader.load('/static/animal/miku_v2.pmd', function(object) {
        const mesh = object
        if (object) {
          _this.bodyBone = object.skeleton.bones;
          console.log(_this.bodyBone)
        }
        _this.face = mesh.morphTargetInfluences
        _this.scene.add(mesh)
      }, null, null)
    },

加载完成后就可以得到一个静止的卡通女孩模型,因为没有加载动作文件,所以任务是不会动的,接下来就要使用js修改骨骼模型位置让她动起来,首先我们需要把加载的人物模型骨骼打印出来看下,刚才加载的方法中已经添加了打印骨骼的方法,可以看到一共140个骨骼,每个骨骼的name标示了这个骨骼属于哪部分,这样就更方便我们等会操作指定的骨骼了。

假设我们先让她的头发随风飘动,先找到他的头发骨骼模型,这里找到是下标12,13,14,15,16为左侧头发,44,45,46,47,48为右侧头发,下面可以控制头发摆动,先创建一个控制数组actions元素为bool类型,假设第三个为控制头发飘动,为true的时候朝向一个方向移动,为false往另一个方向移动回来,代码如下,

    //动漫渲染
    initAnimate() {
      requestAnimationFrame(this.initAnimate)
      this.renderer.render(this.scene, this.camera)
      if(this.bodyBone.length>0){
        if(this.bodyBone[12].rotation.z<0.1 && this.actions[3]===true) {
          this.bodyBone[12].rotation.z += 0.001
          this.bodyBone[13].rotation.z += 0.001
          this.bodyBone[14].rotation.z -= 0.001
          this.bodyBone[15].rotation.z += 0.001
          this.bodyBone[16].rotation.z -= 0.001
          this.bodyBone[44].rotation.z += 0.001
          this.bodyBone[45].rotation.z += 0.001
          this.bodyBone[46].rotation.z -= 0.001
          this.bodyBone[47].rotation.z += 0.001
          this.bodyBone[48].rotation.z -= 0.001
        }else{
          this.actions[3] = false
        }
        if(this.bodyBone[12].rotation.z>0 && this.actions[3]===false){
          this.bodyBone[12].rotation.z -=0.001
          this.bodyBone[13].rotation.z -=0.001
          this.bodyBone[14].rotation.z +=0.001
          this.bodyBone[15].rotation.z -=0.001
          this.bodyBone[16].rotation.z +=0.001
          this.bodyBone[44].rotation.z -=0.001
          this.bodyBone[45].rotation.z -=0.001
          this.bodyBone[46].rotation.z +=0.001
          this.bodyBone[47].rotation.z -=0.001
          this.bodyBone[48].rotation.z +=0.001
        }else{
          this.actions[3] = true
        }
      }
    },

threejs控制头发摆动,这里不支持视频,需要看视频效果的可以私信我。

但是身体还比较僵硬,下面再给其他部分添加一点动态效果,比如嘴巴说话,因为嘴巴说话不同的文字嘴型是不一样的,而不是像头发一样可以左右摆动,所以这里给嘴巴的偏移设置随机数但是见骨骼模型中发现并没有嘴巴的部分,然后发现是在morphTargetInfluences中。注:morphTargetInfluences是 Three.js 中的一个属性,主要用于控制网格(Mesh)的变形目标(morph targets)的权重。Three.js 是一个基于 WebGL 的 JavaScript 3D 库,它允许开发者在网页上创建和显示 3D 图形。

那么可以通过threejs改变morphTargetInfluences的嘴巴参数,来控制嘴巴活动,我们还可以添加按钮控制嘴巴开始说话和停止说话,这里引入了element-ui,添加两个按钮来实现。

    <el-button style="position:absolute;right:20px;top:120px;" @click="getHand(1)">说话</el-button>
    <el-button style="position:absolute;right:20px;top:160px;" @click="getBackHand(1)">停止说话</el-button>
 talkAction()  {
      if (this.actions[1]) { //如果说话被开启
        if (this.actionDistance[1] > 15) { //这个15用来控制说话的快慢
          this.actionDistance[1] = 0
          this.face[24] = Math.random() * 0.6
          this.face[25] = Math.random() * 0.6
          this.face[26] = Math.random() * 0.6
        }
        this.actionDistance[1] += 1; //每次叠加,到一定基数就随机改变一次嘴巴形状
      }
      if(this.rebackActions[1]){ // 如果回复就把嘴巴重置为0
        this.face[24] = 0
        this.face[25] = 0
        this.face[26] = 0
      }
    },

threejs控制嘴巴和头发动,这里不支持视频,需要看视频效果的可以私信我。

以上就先演示两个部分的运动,有兴趣可以写方法分别控制140个骨骼模型做各种运动,如果再配合大模型获取说话嘴巴的大小和形状就可以做成数字人说话了,不过还需要对接前面章节的CosyVoice和SenseVoice才可以实现语音对话。

需要源码的同学可以评论区留下邮箱。我会持续更新此模型的功能

相关文章
|
25天前
|
弹性计算 人工智能 架构师
阿里云携手Altair共拓云上工业仿真新机遇
2024年9月12日,「2024 Altair 技术大会杭州站」成功召开,阿里云弹性计算产品运营与生态负责人何川,与Altair中国技术总监赵阳在会上联合发布了最新的“云上CAE一体机”。
阿里云携手Altair共拓云上工业仿真新机遇
|
2天前
|
人工智能 Rust Java
10月更文挑战赛火热启动,坚持热爱坚持创作!
开发者社区10月更文挑战,寻找热爱技术内容创作的你,欢迎来创作!
294 13
|
18天前
|
存储 关系型数据库 分布式数据库
GraphRAG:基于PolarDB+通义千问+LangChain的知识图谱+大模型最佳实践
本文介绍了如何使用PolarDB、通义千问和LangChain搭建GraphRAG系统,结合知识图谱和向量检索提升问答质量。通过实例展示了单独使用向量检索和图检索的局限性,并通过图+向量联合搜索增强了问答准确性。PolarDB支持AGE图引擎和pgvector插件,实现图数据和向量数据的统一存储与检索,提升了RAG系统的性能和效果。
|
5天前
|
JSON 自然语言处理 数据管理
阿里云百炼产品月刊【2024年9月】
阿里云百炼产品月刊【2024年9月】,涵盖本月产品和功能发布、活动,应用实践等内容,帮助您快速了解阿里云百炼产品的最新动态。
阿里云百炼产品月刊【2024年9月】
|
20天前
|
人工智能 IDE 程序员
期盼已久!通义灵码 AI 程序员开启邀测,全流程开发仅用几分钟
在云栖大会上,阿里云云原生应用平台负责人丁宇宣布,「通义灵码」完成全面升级,并正式发布 AI 程序员。
|
22天前
|
机器学习/深度学习 算法 大数据
【BetterBench博士】2024 “华为杯”第二十一届中国研究生数学建模竞赛 选题分析
2024“华为杯”数学建模竞赛,对ABCDEF每个题进行详细的分析,涵盖风电场功率优化、WLAN网络吞吐量、磁性元件损耗建模、地理环境问题、高速公路应急车道启用和X射线脉冲星建模等多领域问题,解析了问题类型、专业和技能的需要。
2583 22
【BetterBench博士】2024 “华为杯”第二十一届中国研究生数学建模竞赛 选题分析
|
4天前
|
存储 人工智能 搜索推荐
数据治理,是时候打破刻板印象了
瓴羊智能数据建设与治理产品Datapin全面升级,可演进扩展的数据架构体系为企业数据治理预留发展空间,推出敏捷版用以解决企业数据量不大但需构建数据的场景问题,基于大模型打造的DataAgent更是为企业用好数据资产提供了便利。
175 2
|
2天前
|
编译器 C#
C#多态概述:通过继承实现的不同对象调用相同的方法,表现出不同的行为
C#多态概述:通过继承实现的不同对象调用相同的方法,表现出不同的行为
101 65
|
5天前
|
Linux 虚拟化 开发者
一键将CentOs的yum源更换为国内阿里yum源
一键将CentOs的yum源更换为国内阿里yum源
278 2
|
22天前
|
机器学习/深度学习 算法 数据可视化
【BetterBench博士】2024年中国研究生数学建模竞赛 C题:数据驱动下磁性元件的磁芯损耗建模 问题分析、数学模型、python 代码
2024年中国研究生数学建模竞赛C题聚焦磁性元件磁芯损耗建模。题目背景介绍了电能变换技术的发展与应用,强调磁性元件在功率变换器中的重要性。磁芯损耗受多种因素影响,现有模型难以精确预测。题目要求通过数据分析建立高精度磁芯损耗模型。具体任务包括励磁波形分类、修正斯坦麦茨方程、分析影响因素、构建预测模型及优化设计条件。涉及数据预处理、特征提取、机器学习及优化算法等技术。适合电气、材料、计算机等多个专业学生参与。
1580 16
【BetterBench博士】2024年中国研究生数学建模竞赛 C题:数据驱动下磁性元件的磁芯损耗建模 问题分析、数学模型、python 代码