微软发表大语言模型和因果推断能力的研究

来源哔哩哔哩   2023-05-18 07:49:39


【资料图】

图片一 推理中的机器

微软的研究人员对大语言模型的因果推断能力进行了充分探索。自然语言本身一部分内容与自然因果关系就有着紧密的联系。研究人员发现,在给定恰当的提示词后,大语言模型在因果发现,效果推断,归因,判断等任务上取得了巨大的成功。[1]由于大多数人其实都不能很清晰地判断因果关系,这已经意味着大语言模型在因果推断领域超过了人类水平。

研究中还发现提示词对于最终结果有着很大的影响。[1]尽管大众有偏见地认为提示词工程内容没有太多含金量,但是提示工程背后还是隐藏着大量未被了解的内容,这些本身可能和语言模型的泛化能力还有语言心理学有着密切的关系。

参考文献:

[1] Kıcıman E, Ness R, Sharma A, et al. Causal Reasoning and Large Language Models: Opening a New Frontier for Causality[J]. arXiv preprint arXiv:2305.00050, 2023.https://arxiv.org/pdf/2305.00050.pdf

知识共享许可协议:

署名(BY):您可以复制、发行、展览、表演、放映、广播或通过信息网络传播本作品;作者保留署名权。非商业性使用(NC):您可以自由复制、散布、展示及演出本作品;您不得为商业目的而使用本作品。相同方式共享(SA):您可以自由复制、散布、展示及演出本作品;若您改变、转变或更改本作品,仅在遵守与本作品相同的许可条款下,您才能散布由本作品产生的派生作品。无害化申明(Disclaimer of Warranty):在此基础上,不提供任何形式的明示、暗示或法定保证,包括但不限于对于内容没有认知局限性、偏见和缺陷、适销、适合特定用途或不侵权的保证。有关内容的质量和效用的全部风险由您承担。如果任何涵盖内容在任何方面被证明存在缺陷、认知局限性、偏见,您(而非任何贡献者)承担任何必要服务、更正的费用。本免责声明构成本许可的重要组成部分。除非根据本免责声明,否则本许可不得授权。可靠性限制和免责条款(Limitation of Liability):在任何情况下和任何法律理论下,无论是侵权(包括疏忽)、合同还是其他行为,任何贡献者或按上述许可分发涵盖内容的任何人,对您的任何性质的任何直接、间接、特殊、附带或后果性损害不负有任何责任,包括但不限于利润损失、商誉损失、停工、故障,及所有其他商业损害或损失,即使该方已被告知此类损害的可能性。在适用此类限制声明的司法管辖范围内,不承担任何相关疏忽而导致的死亡或人身伤害的责任。某些司法管辖区不允许排除或限制附带或间接损害,因此此免责条款和可靠性限制可能不适用于您。诉讼条款(Litigation):与本许可有关的任何诉讼只能在被告保持其主要营业地点的司法管辖区的法院提起,此类诉讼应受该司法管辖区的法律管辖,而无需参考其法律冲突规定。本节中的任何内容均不得阻止一方提出交叉索赔或反索赔的能力。其他(Miscellaneous):本许可代表有关其标的物的完整协议。如果本许可的任何条款被认定为不可执行,则此类条款应仅在必要的范围内进行改变以使其可执行。任何被可能解释为对贡献者不利的法律或法规所对应的规定合同语言,不得被用来解释本许可。

首次公开时间2023年5月3日AI贡献:stable diffusion 2.1生成推理中的机器人

编辑:刘仕琪

本文使用 文章同步助手 同步

猜你喜欢