外媒报道,近期有研究称,采用某种人工智能方式的网络攻击者可以通过观察用户双手的移动方式,来了解其在Meta Horizon工作室的VR会议中私下输入的内容,并根据动作移动进一步进行数据分析,进而获取个人隐私账户密码。

  在会议时使用物理键盘打字,可能会将密码和其他敏感信息泄露给使用攻击者,这听起来似乎有些耸人听闻,但据外媒研究显示,某些微妙的手部动作泄露的信息远比我们想象的更多。

  近期,有研究人员通过训练人工智能来分析每个人的虚拟化身手部动作,并重建化身用户在10或15分钟内的打字过程中键入的大多数按键。他们利用了Meta Horizon Workrooms(Meta提供的虚拟办公平台)作为环境,测试了该漏洞。

  “你甚至不需要认识这个人,”伊利诺伊州芝加哥大学的研究员说:“只要你能和他们进入同一个VR房间,他们就完蛋了。”

  接下来,研究员们演示了几种通过VR办公平台进行的几种键盘推理攻击,其中包括一些以目标人群访问数据为切入点的攻击。但最简单的方法,仅仅只需要进入与被攻击者目标相同的虚拟空间,直观地记录目标对象的手部动作。

  由于VR头显的传感器尚无法完美跟踪手指运动,因此任何物理键盘输入最终都会被解释为更微妙的虚拟人物手部动作。因此,研究人员训练了单独的人工智能模型来识别击键动作,通过识别按下按键的各个指尖,最后预测正在键入的按键,该项目的主要负责人、伊利诺伊州芝加哥大学的卓林·杨说,描述这项工作的论文已通过了期刊的审核,正在等待发表。

  在参与本次虚拟现实实验的15名参与者中,有13人被人工智能进行的攻击识别出了86%到98%的按键。但嘈杂的手指运动数据使人工智能更难以检测其余两个人的击键。

  北卡罗来纳州立大学的研究员阿瓦德表示,这种攻击对具有多个不同键盘输入模式的用户确实能够产生很大的威胁,这一事实“尤其令人震惊”。但他表示,该漏洞的发现“将有助于VR软件供应商制定隐私保护政策。”

  同时,在本研究中,研究人员开始尝试添加一些噪音来掩盖VR手部运动数据,以阻止这种人工智能攻击。

  目前尚不清楚平台对于本次实验的影响,由于本次所使用的平台为Meta Horizon Workrooms,但对此事件Meta没有回应置评请求。不过相信在未来的实验中,研究员们将引入更多的虚拟办公软件平台进行对比,确保这并非是某一软件或公司对虚拟现实办公安全所产生的影响。

  显然人工智能的风险管控已经到了刻不容缓的地步,这不仅仅是在现实世界,即使到了VR世界里也是一样,此前在英国布莱切利公园召开的人工智能安全峰会很好的诠释了这一宗旨,当时在峰会上英国首相曾指出:“我们现在需要达成协议和共识,我们需要在模型向公众发布之前进行测试,我们不能指望公司给自己的功课打分。”

  同时苏纳克表示,监管“需要时间,我们需要更快地行动”,并补充说,在制定有效的监管之前,必须收集更多关于人工智能的信息。

  目前已知包括Meta、Google DeepMind和OpenAI在内的从事人工智能研究的大型科技公司已同意与组织合作,参与共同监管。来源:新浪VR