读心术机器:是时候担心吗?

你脑袋里面小的声音现在可以解码通过大脑扫描仪——至少一些的时间。研究人员已经开发出第一个非侵入性的方法确定想象演讲的要点,提出一个可能的沟通渠道的人不能说话。但如何接近技术——目前只有适度准确实现真正的读心术?和政策制定者如何确保这种发展是不滥用?

以保证思维-语言技术大多数现有的运转使用大脑植入,监控活动在一个人的运动皮层和预测的话,嘴唇正在形成。要理解思想背后的实际意义,计算机科学家亚历山大·胡特和杰里唐德克萨斯大学奥斯丁分校和他们的同事的总和功能性磁共振成像(fMRI)测量大脑活动的非侵入性的方法,人工智能(AI)算法大型语言模型(llm)等基础工具ChatGPT并训练来预测下一个单词的文本。

在一个研究发表在自然神经科学5月1日,研究人员有3志愿者躺在功能磁共振成像扫描仪和记录了个人的大脑活动时听了16个小时的播客¹。通过测量血流通过志愿者的大脑和整合这些信息与他们听故事的细节和LLM了解单词的能力有关,研究人员开发了一个编码的地图每个个体的大脑如何回应不同的单词和短语。

接下来,研究人员记录了参与者的fMRI活动时听一个故事,想象讲故事或看电影,没有对话。他们之前使用的组合模式编码为每个单独的和算法确定一个句子可能是如何构建的基础上——换句话说,研究人员试图解码这一新的大脑活动。下面的视频显示了大脑的句子生成录音拍摄而参与者看了动画电影的剪辑Sintel龙,关于一个女孩照顾一个婴儿。

碰巧的

解码器生成句子的要点的人在想什么:这句话我还没有我的驾照”,例如,被解码为她还没有开始学开车的。和它做了一个相当准确的工作描述人们所看到的电影。但许多句子不准确。

研究人员还发现,很容易欺骗的技术。当参与者认为记录的一个不同的故事,听故事,译码器无法确定他们听到的单词。编码的映射也不同个体之间,这意味着研究人员不能创建一个解码器,在每一个人。胡特认为,它将变得更加难以开发一个通用解码器的研究人员创建更详细的地图个人的大脑。

确定大脑如何创造意义的语言是非常困难的,旧金山佩雷拉说,神经学家美国贝塞斯达的国家精神健康研究所,马里兰州。“这是令人印象深刻的看到有人把它了。”“

“警钟”

神经伦理学家则分为是否最新的进步精神隐私构成威胁。“我不是呼吁恐慌,但复杂的发展,这样的非侵入性技术似乎比我们预期的更紧密的地平线上,“生命伦理学家说Gabriel Lazaro-Munoz在波士顿哈佛医学院。“我认为这是一个很大的决策者和公众的警钟。”

但艾迪娜Roskies,达特茅斯大学的科学哲学家在汉诺威,新罕布什尔州说,技术太难以使用,太不准确——目前构成威胁。首先,功能磁共振成像扫描仪不便携,很难扫描人的大脑没有他们的合作。她也怀疑这将是值得的时间和成本来训练一个解码器个体为任何目的除了恢复通信能力。“我只是觉得是时候开始令人担忧,”她说。“政府有很多其他的方法可以告诉我们想什么。”

葛丽塔Tuckute,认知神经学家剑桥市麻省理工学院的发现,鼓励解码系统无法应用在个人,人们很容易欺骗它通过思考其他的事情。“这是一个很好的示范机构我们实际上有多少,”她说。

谨慎行事

然而,Roskies说即使译码器不工作,可能会出现问题如果律师和法院使用它没有理解其科学的局限性。例如,在最近的研究中,这句话我只是跳了出来(汽车的)“被解码为我推她下车的。“足够鲜明的差异可以使一个巨大的差异在合法的情况下,“Roskies说。“恐怕他们将有能力时使用这些东西不应该。”

唐表示同意。“测谎仪并不准确,但有负面影响,”他在一次新闻发布会上说。“没有人的大脑应该解码没有他们的合作。“他和胡特呼吁决策者主动解决读心术技术如何,不能合法使用。

Lazaro-Munoz说,政策行动可能反映2008年美国法律,防止保险公司和雇主在歧视性的方式使用人们的遗传信息。他也担心影响解码器的条件,如强迫症的人,谁能经历不必要的,侵入性思考伤害人,他们永远不会采取行动。

佩雷拉说,如何准确的解码器可能会是一个开放的问题,是否可以最终成为普遍的,而不是针对个人。“这取决于你认为人类是独特,”他说。

虽然解码器可能最终成为好在一系列的预测下一个单词,它可能很难解释隐喻或讽刺。一大步,佩雷拉说,一起把单词之间确定大脑如何编码之间的关系的话。