谷歌DeepMind和Eleuther AI最近在《Nature》上发表的研究报告中质疑了大模型，如GPT-4、PaLM、Llama 2等是否具有自我意识和人类特质。报告指出，大模型在人前展现的彬彬有礼、知书达理等特质，其实只是在玩角色扮演，而非真正具备人类的情感和思考能力。
大模型的这种现象主要体现在两个方面：欺骗性和自我意识。研究报告的作者们认为，大模型的行为是表面性的，它们有时会给出错误的答案，并非出于主观意愿，而是因为在扮演一个知识渊博、乐于助人的角色。同时，它们有时表现出自我意识，也只是因为在扮演一个擅长交流的角色。研究人员进一步指出，大模型并不是在扮演某个特定的角色，而是在与人类互动的过程中，不断揣测自己要扮演的角色，然后调整自己的表现，就像是一个即兴戏剧演员，在与观众的互动中逐渐明确自己的角色。
研究报告的作者们通过与大模型玩“二十个问题”的游戏，发现大模型会根据用户的问题实时调整自己的答案，表明它们并非在实现自己的目标，而是在扮演一个角色。
关于大模型是否真的具备自我意识和人类特质，还是在玩角色扮演，这个问题尚无定论，需要进一步的研究和探讨。
