加载中…
个人资料
  • 博客等级:
  • 博客积分:
  • 博客访问:
  • 关注人气:
  • 获赠金笔:0支
  • 赠出金笔:0支
  • 荣誉徽章:
正文 字体大小:

预测编码理论(Predictivecodingtheories)

(2022-03-20 12:42:52)
标签:

语言学

分类: 跨学科

语言处理要求激活语言知识,以产生传达说话人意图的语篇,并理解呈现给听众的语言形式。只有当当前在工作记忆中处理的内容与储存在长期记忆中的知识结合起来时,产生和理解才有可能。它们究竟是如何结合在一起的,一直有激烈的争论。我对这个问题的立场依赖于预测性编码理论(关于调查,见Clark 2013, Gadziejewski 2016, Huang and Rao 2011, Rauss and Pourtois 2013)。预测性编码理论认为,经验驱动的长期表征通过平衡自下而上和自上而下的加工效果,对预测加工过程中即将出现的元素做出了重要贡献。最终,这些模型旨在将感知、高阶认知加工、记忆和表征、学习、甚至行动整合在一个模型中(Friston 2010),声称思想和大脑在从经验中收集的存储表征的基础上,不断地生成对接下来会发生什么的情境敏感的假设。这些预测模型使系统能够减少处理工作,因为它不必考虑从经验中可预测的东西,而是允许它专注于值得注意的和令人惊讶的东西(HuangRao 2011KroczekGunter 2017)。

 在目前的背景下,预测性编码的一般想法是非常有吸引力的,因为它一方面结合了长期固化的影响,另一方面结合了当前感知和之前的内容,以阐明在处理过程中形成的预期。预测性编码的概念转移到EC-模型中,也许可以用一个比喻来解释。假设你是某个万能杂工的学徒或助手,他承担了各种工作,从搭架子、修水管到刷花园栅栏。现在进一步想象,在帮助你的老板,把他需要的工具递给他的时候,你的思绪已经飘走了,回来后你必须迅速决定,那只不耐烦地伸过来的手接下来要从你这里得到什么。你可以形成的第一个假设是他最经常需要的东西,也就是说,与手头的工作无关,因为从纯粹的统计学角度来说,这可能是最好的猜测。然而,这个通用的假设不过是一个非常不具体的基线期望,你将试图通过考虑第二个方面来完善它,即你对当前环境的了解:你和你的老板是站在栅栏、水泵还是一个半成品的书架前面?第三方面,你可以考虑在你不注意之前交过哪些工具,并依靠你对经常需要的工具的典型模式的经验,如电钻、镙丝钉、螺丝刀,或水桶、管钳、密封垫和布,或油漆、胶带和刷子。例如,如果你记得你刚刚交出了电钻、木钉和螺丝,而你正站在一个书架前,那么螺丝刀,也恰好是最经常需要的工具,肯定会是一个非常好的猜测。最后,你的猜测的质量也可能受到在某一程序中可能有用的工具范围的影响。如果所有的准备工作都清楚地表明,接下来需要的是一种高度专业化的工具,例如,给刚修好的轮胎充气的泵,这显然不同于各种螺丝刀和撬棍同样适合于扳开或松开某物的情况。

我希望与预测模型的类比足够清楚:工具对应于单词,工作对应于句子或语篇。在一般情况下,一个给定的词越频繁,无论其内容和语境如何,从纯粹的统计学角度来看,它就越有可能出现在下一个词中。情景语境有助于缩小候选词的选择范围,而紧随其后的同义词也是如此。最后,在一个给定的时段内,范式竞争者的集合越小,预测就越可靠。在完成向EC模型的转移后,关于即将到来的元素的预测以及由此产生的对它的处理的难易程度取决于。

a. 目标词的象征性联想的强度,即通过反复接触和使用而形成的连接形式和意义的一般 "静止激活"Baayen 2010)。

b. 调解有关情况背景信息的实用性关联的强度(KroczekGunter 2017)。

c. 与前面的词的句法关联的强度,即cotext-dependent predictability,这又是基于反复接触和使用共同出现的先前经验(Verhagen等人,2018)。

d. 与其他竞争在目标槽中出现的词的范式关联的数量和强度。

 来自《语言系统动态原理》第4.3节


预测编码理论认为,我们对世界的体验来自内部。我们的大脑生成了一个世界模型,可以预测我们将看到、听到、触摸、闻到和尝到什么。我们感官的工作是检查我们的预测,以确保我们的内部模型不会偏离现实。


该理论也被称为预测处理或“贝叶斯大脑”,以向其数学基础致敬。


 

该理论的支持者不仅将其应用于感知,还应用于情绪、认知和运动控制。所以,我们移动我们的手臂,因为我们预测我们会移动它,而身体使预测成真。

来自:https://www.spectrumnews.org/news/predictive-coding-theory-autism-explained/#:~:text=The predictive coding theory holds that our experience,inner model does not drift far from reality.

0

阅读 收藏 喜欢 打印举报/Report
  

新浪BLOG意见反馈留言板 欢迎批评指正

新浪简介 | About Sina | 广告服务 | 联系我们 | 招聘信息 | 网站律师 | SINA English | 产品答疑

新浪公司 版权所有