MOSS

MOSS大模型是由复旦大学邱锡鹏教授团队研发的对话式大型语言模型，2023年2月发布，是国内首个公开邀请公众参与内测的类ChatGPT模型。以下是核心信息： 基本信息 – 开发团队：复旦大学自然语言处理实验室 – 发布时间：2023年2月20日 – 参数规模：200亿级（2025年计划升级至千亿级） – 开源时间：2023年3月底，完整开源代码及训练框架 核心能力 – 支持多轮对话、编程辅助、事实问答等任务 – 英文能力优于中文，因训练数据含3000亿英文单词和300亿中文词汇 – 采用Transformer架构，具备上下文学习（无需微调完成新任务） 技术亮点 – 层拆分架构：冻结原模型参数，新增语音理解、语义对齐等模块，实现语音到语音对话（MOSS-Speech版本） – 工具增强：连接搜索引擎、计算器等外部工具，扩展调用能力 应用与影响 – 学术验证：为高校提供实验平台，验证跨语言迁移等理论 – 商业落地：衍生产品应用于视觉语言模型“眸思”等 未来规划 – 2025年前实现千亿参数规模 – 探索世界模型、具身智能等方向