W3C

无障碍专题交流

2022年9月7日

题目:触觉反馈技术助力信息无障碍

讲者:徐士立(腾讯游戏 MTGPA 负责人) [演示文稿]

现场纪要

徐士立:

徐士立:大家好,简单自我介绍一下,我是来自于腾讯游戏MTGPA团队的徐士立,非常遗憾由于疫情的原因不能来到现场。 我今天分享的议题是触觉反馈技术助力信息无障碍。

我先跟大家介绍一下我们团队,MTGPA是游戏的终端技术中台,我们和手机终端、芯片以及硬件厂商都有非常广泛的合作,先后和行业伙伴探索出了软硬件协同的性能优化解决方案,游戏体验优化解决方案和触觉反馈解决方案。

今天和大家介绍一下我们在触觉反馈技术领域的探索和跨界应用到信息无障碍领域的情况。

其实人类的触觉是有很多种,比如说压感、痛觉等等,但是受限于目前电子元器件的能力,在市场终端能够成熟应用的只有振动这个触觉反馈。

在终端上振动的功能并不是一个新的技术,比如说大哥大的时代,手机就已经具备了振动的能力,主要用于来电、闹钟和短信的提醒等等。

W3C在2015年发布了震动相关的技术标准,让Web的开发者很方便的使用到系统的功能,但是在这个阶段话因为硬件能力的限制,震动的效果是非常单调的,开发者是无法实现非常复杂的震动,只能简单地触发震动或者控制震动时间的长度,其他是无法做出来的。

随着技术的发展,我们可以制定出复杂的震动效果。但是想应用到游戏这样的复杂场景,还需要一系列的问题需要解决的。

基于游戏的需求,我们建立了一套完整的技术方案,通过统一的震动文件和接口,可以让游戏实现震动的功能,包括可以自定义震动的频率,震动的强度,震动的持续时间,同时结合一套可视化的震动效果识别工具,可以根据游戏的场景去设计每一个场景专属的震动效果。

同时在这个基础上,我们还建立了一套评测的体系,确保设计出来的震动效果在所有的终端上都有一致的效果。

在用户侧提供了非常灵活的自定义配置,比如说针对枪械、载具和声音设计了200多个不同的效果。以枪械为例的话,可以复现不同的枪械的设计和细微的震动差别,为用户营造出沉浸式的游戏体验,也获得了玩家的高度认可。

有了和平精英的成功经验,目前触觉反馈技术,在游戏、音乐、地图、输入法和社交等等场景中都有了非常广泛的应用,在内容侧的全面开花也促进了整个行业标准的建立,我们也和终端、核心端、芯片厂商通过制定了一系列的标准体系。

有了以上的技术基础之后,我们也希望这项技术能够在更多的领域得到应用。

去年10月份的时候,有幸参与了研究会组织的2021无障碍开放日的活动,我们与残障用户进行了面对面的交流讨论,深入的了解了他们在实际生活中遇到的困难,同时也共同探讨的触觉反馈技术在无障碍方面的可能性。

通过这一次的活动,我们发现视障人士对触觉非常的灵敏。正常人接受信息主要通过视觉、听觉、触觉,而视障人群因为缺失了视觉,而信息化社会特别是触屏手机广泛应用之后,他们接收信息的渠道就只剩下声音,受到很大的限制。

在技术成熟之后,这项技术也可以帮助视障人群在信息化社会,特别是在智能终端上更好的获取信息,为他们的工作、生活带来更大的便利。

比如对于视障用户来说,他只依赖于语音操作手机的时候,有一些场景比如说在户外或者说复杂的环境中无法使用语音。特别是一些类似于密码播报这样的场景,通过语音的话也会暴露用户的隐私,对于用户来说也是一个很现实,很尴尬的问题。

还有一些场景,不仅仅是视障用户,对于听障用户,甚至普通人也会用到的。比如在医院挂号,公交到站提醒等,在外界环境非常复杂的情况下,触觉也可以给大家带来很大的帮助。触觉反馈技术可以不受到环境的影响,同时触觉反馈的私密性可以更好的帮助到保护用户的隐私。

触觉反馈技术虽然说我们称之为是一项技术,实际上它是有技术和效果设计这两个不同的领域组成的,在技术领域通过在游戏里面建立的一整套的技术标准,这一块相对来说技术的问题都已经解决了,并且在游戏内技术如果要应用到无障碍领域的话是完全可以100%复用的。

但是在效果设计领域,游戏和无障碍是有非常大的区别。在游戏中用触觉反馈主要是用来模拟各种各样的震动效果,模拟和现实世界有一定的关联,和用户的音效一起为用户营造一个沉浸式的用户体验,我们所塑造的震动效果的话,是更加主观的,更加感性的一个体验。

而在无障碍的领域,我们需要借助震动来传递准确的信息,这个时候需要更加的简洁有区分度,同时更可能的降低用户的使用成本,因为游戏的成本和需要传递信息的差别还是非常大的,因此我们和东南大学的宋教授团队一起设计了很多套不同的方案,最终选用了以盲文为基础的方案。

通过震动的强度、频率还有持续的时间来完整的表达盲文,通过匹配六点盲文适用不同的场景。

经过多轮的适配之后,绝大部分的用户都可以掌握这套电脑方案,同时识别的准确率达到90%以上。

视障用户之间的差异也非常的大,比如说有一些用户先天盲,他们对于这个盲文非常的熟悉,因为他们从小受到的教育就包括盲文。但是后天的盲人,他们对六点盲文是相对比较陌生的,如果我们仍然用同样的一套编码,对他们来说学习起来比较吃力。因此我们也对这一块的编码进行了简化。

我们结合用户的实际场景来简化这套编码,用户就可以更容易的理解震动编码的区别。

接下来通过两个例子来介绍编码方案在实际业务场景下的应用。

首先是输入法的场景,输入是用户在使用手机过程中非常高频的应用场景,大部分的情况下视障用需要借助于读屏完成输入。

但是在一些复杂的环境下,如果用户无法接听语音的信息,特别是在输入密码的时候,用户还是有很大的担心播报会泄露隐私,这个时候我们就需要有不依赖于语音的解决方案。

为了解决这个问题我们和搜狗输入法团队进行了探索,通过六点盲文为每一个键匹配了一个震动的效果,这样的话用户就不需要依赖于语音就可以准确的识别按键中的每一个字母。

同时我们也设计的一套简化的方案,比如说图中的九宫格的数字键盘中我们为5设计了一个效果,为其他的键位设计了另一个效果,这样的话用户可以通过触觉准确的定位到5这个按键,用户可以通过不同方向的移动定位到其他的按键,这样的话用户就可以通过触觉反馈不依赖于读屏的情况下准确的识别按键中的顺序和准确的键位。

目前这套方案已经在内测阶段,大家很快就可以在搜狗输入法中体验到这个功能。

接下来介绍在出行场景中的应用,根据统计中国有1700万的视障用户,这是一个非常庞大的数字,但是日常生活中很少能够见到他们,可能最核心的问题就是出行这一块,他们很难做到独立的出行。

我们和腾讯地图一起来尝试解决这个问题,在步行导航的过程中,我们通过震动的效果让用户快速的定位方向。这些功能目前在腾讯地图已经正式上线了,大家在无障碍模式下是可以直接体验得到的。

在这个项目过程中,我有一个非常深的感触。一个新的技术要想让用户接受并且和用户的实际需求相匹配,是一件非常困难的事,我们必须对用户的需求有一个非常深刻的认识,同时还需要充分的考虑到用户使用习惯变迁带来的隐形的成本。

通过和用户的交流和沟通,发现用户在下面的这九大场景中,触觉反馈技术都相对于应用来说,可以更加直观的给用户带来体验上的提升,我们希望有越来越多的团队和我们一起真正的理解用户,特别是视障用户的需求,并且用新的技术帮助用户来解决这些诉求,让他们能够和明眼人熟悉社会,更好的工作和生活。

今天的分享就到这里,谢谢大家!

主持人:线上有同学提问,是否可以在游戏里面增加一套TTS的朗读,或者在开启读屏之后,进行TTS的弹框。

读出密码的功能,很多应该是涉及的,有没有提供扬声器朗读这样的选项?

徐老师:第一个问题提到了游戏这一块的问题,目前大部分主流的游戏都是没有做到无障碍适配的,腾讯也有做一些专门为视障用户设计的游戏,比如说前一段时间有一个《见》通过声音来做游戏的声音和游戏内容的体验,这一块大家可以体验一下。

至于其他游戏的无障碍,后续也会考虑比如说通过语音,通过触觉反馈技术来做这一块的尝试。

针对读出密码的功能,不同的产品有不同的解决方案,比如说有的产品只有插入耳机才能读的话,有的APP还做了一个功能,比如说我不读出你的密码,但是在你输入之后我提示你对还是错,但是这几种方式都各有优劣。

在触觉反馈这一块做的功能,相对来说提供了内容的解决方案,之前也跟用户做过一些调研,用户对这一块体验反馈还是挺不错的。

主持人:谢谢徐老师的回答,也欢迎加入到群里面来,这样的话用户有任何的问题可以及时地和老师交流。

返回会议总结主页


若您对上述内容有任何疑问或需进一步协助,请联系:讲者冉若曦 <ran@w3.org> 或会议主办方 W3C 北航总部 <team-beihang-events@w3.org>。