最新千亿大模型免费商用:1026亿参数!诚邀开发者共同训练

值得一看   2023-12-03 23:25   50   0  

浪潮信息最近发布了名为"源2.0"的基础大模型,这个模型包括1026亿、518亿、21亿三种不同参数规模的模型。该模型在编程、推理、逻辑等方面表现出先进的处理能力,且在数理逻辑、数学计算、代码生成等方面进行了大幅提升。浪潮信息在发布这个模型的同时,也公布了源大模型共训计划,旨在针对开发者的需求进行增强训练。

"源2.0"模型采用了新型的局部注意力过滤增强机制来改善算法,通过学习相邻词之间的关联性,再计算全局关联性,以更好地学习自然语言的局部和全局特征。此外,模型还使用高质量的中英文资料,降低了互联网语料内容占比,并采用数据清洗流程,为大模型训练提供专业数据集和逻辑推理数据集。

重要的是,这个模型现已经全面开源,其模型参数和代码均可免费下载使用。这有利于打破大模型的孤立状态,促进协作和更新迭代,降低开发者适配难度,提升模型泛化应用能力。浪潮信息一直致力于人工智能基础设施的研发,发布的"源2.0"实现了模型能力的全面提升,为开发者、研究机构、科技企业等提供了坚实的技术底座。

浪潮信息未来还计划发布多模态大模型、长序列版本等,期待与广大开发者共同训练,推动人工智能的发展。

博客评论
还没有人评论,赶紧抢个沙发~
发表评论
说明:请文明发言,共建和谐网络,您的个人信息不会被公开显示。