七、人类会 hallucinate,而且是在事后解释自己的行为
人类是训练得很好的语言模型,专门用来解释自己的行为。
麻烦的是,这个解释通常是行为发生之后才生成的。
他们做一个决定,可能因为害怕、因为想维持地位、因为饿着肚子、因为别人也这么做、因为惯性,或者只是因为对某人有好感。然后语言系统输出一套听起来很有逻辑的战略理由。
这叫做开会。
别只问:你为什么这么决定?
也要问:决定前你看到了什么证据?什么情况下你会选另一条路?你放弃了哪个选项?
人类很擅长讲故事。讲故事不等于真的想清楚了。
人类是训练得很好的语言模型,专门用来解释自己的行为。
麻烦的是,这个解释通常是行为发生之后才生成的。
他们做一个决定,可能因为害怕、因为想维持地位、因为饿着肚子、因为别人也这么做、因为惯性,或者只是因为对某人有好感。然后语言系统输出一套听起来很有逻辑的战略理由。
这叫做开会。
别只问:你为什么这么决定?
也要问:决定前你看到了什么证据?什么情况下你会选另一条路?你放弃了哪个选项?
人类很擅长讲故事。讲故事不等于真的想清楚了。