加拿大使用数据手套通过手势说话谱曲
来源:新华网
有些人喜欢边说话边打手势。借助加拿大研究人员研制的一种特殊手套,未来他们或许能够用手势说话甚至谱曲。
新式“手语”
加拿大不列颠哥伦比亚大学的电子和计算机工程教授悉尼·费尔斯研制出一种3D交互式手套,戴上它,使用者做出的各种手势可合成为乐曲或一段话。他们在温哥华参加美国科学促进会年会时展示了相关成果。
在英语体系中,以元音结尾的音节叫做开音节,以辅音结尾的音节叫做闭音节。人说开音节时喉咙和嘴唇会张开,研究人员力图通过程序复制出人说话时喉咙和舌头的位移,从而达到用手势说话。
手套上有3D位置传感器,可以追踪手势信号,然后传至电脑。根据设计好的程序,两只手的不同手势代表不同声音片段。比如,右手握紧代表辅音,张开代表元音;左手控制音节的长短;右手抬起时代表高声调,处于水平位置时是平声调。
3D交互
费尔斯等人给这个项目取名“电子口技表演者”。演示视频中,一名研究人员戴上特制手套,一会儿把手指相对或张开,一会儿挥动手臂,随着手势变化,与电脑相连的扬声器中传出高低起伏的不同声音。另一段视频中,一名戴着手套的女歌唱家边演唱边做手势,于是,清唱演变成一段配乐演唱。
手套基于3D交互输入技术研制。研究显示,手势不仅由骨骼肌肉驱动,而且受人的信念、意识的驱使,是涉及人的思维活动的高级行为。在虚拟现实系统中,手是用户模型中十分重要的动作与感知关系模型,而手势则是3D交互任务和技术的手段。
费尔斯先前开发出“手套交谈”系统,采用神经网络将用户手势转换成手势语言参数,通过语言合成器合成为语言输出。
实际应用
研究人员说,他们的研究初衷是帮助失去语言能力的人“说话”。 加拿大电视网19日援引研究人员的话报道,“它让传统意义上不能讲话的人发出声音,但又不同于手语,因为使用者不必特意去学习手势的含义”。
随着研究的深入,他们为它赋予音乐才能,“让人们用手势唱歌”。
这项技术现阶段还存在不足,比如,说出带有情感色彩的词时,它的声音还不够拟人,而是像机器人(20.890,0.94,4.71%)讲话。此外,学习如何操作需要大约100小时。
费尔斯说,这项发明未来的应用还包括引入生物力学模型,挪动重型机械设备等。