内部人担忧“威胁全人类”,OpenAI神秘“Q*”究竟是什么?

值得一看   2023-11-24 22:22   36   0  

OpenAI的神秘新模型Q*,引起了广泛关注。Q是由公司的首席科学家Ilya Sutskever主导的项目,被认为是通向超级智能的重要一步。Q的核心特性包括能够突破人类数据的限制,自己生成大量训练数据,具有自主学习和自我改进的能力。该模型能够解决以前从未见过的数学问题,这意味着它将拥有更强的推理能力,与人类智能相媲美。

该模型的开发使得OpenAI在追寻通用人工智能(AGI)的道路上取得了突破,但是其强大的人工智能也引发了内部人员的担忧。一些研究人员甚至因此向董事会发送了一封警告信,表示新发现可能对人类构成威胁,成为了导致OpenAI前CEO Sam Altman被解雇的导火索。

据称,Q项目也使得OpenAI实现了人工通用智能(AGI)领域的重要突破,让一些关注人工智能安全的研究人员感到震惊。尽管OpenAI内部对Q项目存在不同意见,但它在解决数学问题方面取得的成果,使得人工智能拥有了更强的推理能力,这在以前是从未见过的。

OpenAI成立了“AI科学家”新团队,以探索优化提高AI的推理能力,并最终开展科学探索。同时,为了应对这一挑战,OpenAI也招聘了强化学习和决策算法研究人员,以增强系统的决策能力。然而,尽管OpenAI已更换了CEO并进行了新的董事会组成,但关于Q*项目引发的争议和担忧仍在继续。

博客评论
还没有人评论,赶紧抢个沙发~
发表评论
说明:请文明发言,共建和谐网络,您的个人信息不会被公开显示。