一、人工智能发展的总体态势

（一）技术演进的范式转变

以 Transformer 架构为基础的大模型推动人工智能走向新范式，展现出规模可扩展、多任务适应及能力可塑的特征。模型研发聚焦算法理论融合与改造，深挖架构潜力，如 OpenAI o1 模型提升复杂任务性能，非 Transformer 模型也在特定领域取得突破。

（二）工程化迈入新阶段

工程化技术助力人工智能从实验室走向生产，工具链在其中发挥关键作用。开发工具链加速模型技术迭代，应用工具链拓展应用广度，两者共同推动人工智能工程化进入产业化阶段，降低开发门槛，提升智能应用性能与用户体验。

（三）安全治理工作紧密推进

全球人工智能治理合作升温，各经济体治理体系渐明晰，秉持 “负责任” 与普惠发展理念，我国积极参与并提出多项倡议与计划。同时，安全前瞻研究与产业实践结合，技术应用能力提升，各国通过推出测试平台、工具集等，加强人工智能安全治理。

（四）产业发展迎来新动能

全球人工智能产业高速增长，大模型的涌现与生成式人工智能技术的产业化是主要驱动力。大模型领域投融资活跃，创业企业不断涌现且创新高，独角兽企业增多，部分已成功上市，垂直行业赛道将成为创新重点。

二、人工智能的技术创新趋势

（一）基础模型的快速演进

1. 语言大模型
   • 能力显著提升，上下文窗口扩展、知识密度增强、采用 MoE 架构及强化学习融入思维链等技术，使模型在文本处理和复杂推理任务上表现更佳。
   • 面临挑战，如逻辑推理泛化能力待强化、幻觉问题难以消除、训练成本偏高等，针对这些问题，业界正在探索多种解决思路。
2. 视觉大模型
   • Transformer 架构在视觉领域应用广泛，如 ViT 模型，但仍面临计算资源需求高、数据依赖性强、自监督学习挑战及部署推理加速等问题。
   • 扩散模型在图像生成领域优势明显，头部厂商持续提升其能力，但在推理速度、幻觉问题和评估指标方面有待改进。
3. 多模态模型
   • 融合多种数据类型，通过多模态理解和生成模型实现跨模态处理，包括基于语言大模型底座与外部专家模型结合，以及端到端统一多模态架构等技术路线。

（二）计算平台与模型的协同创新

1. 模型创新依赖先进计算平台，大模型发展促使计算平台升级，强调软硬件协同发展，以满足其复杂实验和迭代需求。
2. 框架发展呈现新态势，PyTorch 主导学术界，国产框架崛起并向垂直领域渗透。大规模分布式训练成为框架优化重点，百度飞桨等框架在分布式训练能力上取得突破。
3. 芯片加速迭代，大模型计算特性推动芯片架构定制化、存储与互联优化及软硬协同升级，英伟达垄断格局受到挑战，AMD、英特尔等半导体巨头及芯片初创企业纷纷布局，量子等前沿技术也在探索与大模型结合的可能性。

（三）工具链完善加速研发应用

1. 模型训练工具升级，加速模型生产质效变革，多种训练加速技术提升效率，参数高效微调成为主流，降低资源消耗，提高模型适应性。
2. 模型推理工具优化，提升部署推理效能，模型压缩技术不断演进，推理引擎创新发展，模型与推理工具协同优化，降低时延，提高吞吐。
3. 应用开发工具平台化，助力智能应用开发，整合开发工具与框架，简化流程，激发开发需求，降低门槛，适应不同开发能力用户，拓展模型应用场景。

（四）高质量多模态数据集的关键作用

1. 多模态数据集对模型能力提升至关重要，随着大模型发展，其需求愈发凸显，数据工程涵盖全生命周期，需确保数据质量、安全与合规。
2. 数据预处理技术向多模态融合、智能化、实时性和边缘计算方向发展，提升模型对复杂信息的处理能力。
3. 高水平数据标注成为趋势，自动化、智能化标注工具涌现，多模态标注融合、持续学习反馈机制及跨学科融合提升标注质量与效率。
4. 质量评估注重多方面指标，评估与反馈机制融合，多模态评估框架发展，偏差与公平性评估受重视，动态监控体系完善，保障数据质量。
5. 合成数据有望解决数据瓶颈，其技术不断进化，包括模型深度进化、多模态合成能力提升、与强化学习融合及隐私保护增强，应用领域广泛。

三、人工智能的应用赋能情况

（一）赋能的阶段性特征

1. 大模型应用在企业侧注重专业定制与效益反馈，在生产性服务业、关键民生领域和制造业等展现变革潜力，但在实时生产环节应用较慢。
2. 消费侧应用强调普惠适用与创意生成，对话助手热度高且创新应用涌现，用户需求转向多模式内容生成与编辑。
3. 应用在产业链呈现 “两端快、中间慢” 特征，研发设计和运营服务环节落地快，生产制造环节面临挑战，但在部分领域已有成熟应用。
4. 消费品行业利用人工智能推动产品创新、精准营销与智能客服，优化供应链管理，提升购物体验，推动行业智能化发展。
5. 原材料行业借助人工智能实现资源勘探开发智能化、生产流程优化与节能减排、废弃物管理与资源回收，促进传统产业变革。

（二）重点行业的深度应用

1. 消费品行业
   • 新产品研发响应市场变化，智能家居产品集成人工智能技术，提供便捷生活体验。
   • 精准营销与智能客服提升服务效率，分析消费者数据实现个性化推荐，智能聊天服务替代人工客服。
   • 供应链管理智能化，京东物流等企业利用大模型实现全链路降本增效。
2. 原材料行业
   • 资源勘探开发智能化，如 GoldSpot Discoveries 公司利用机器学习算法提高勘探成功率。
   • 生产流程优化节能减排，宝钢股份等企业实时监控生产状态，降低能耗与排放。
   • 废弃物管理与资源回收，Recycleye 公司开发系统实现精准分类与回收利用。

（三）应用落地的体系化推动

1. 企业布局大模型前开展战略需求分析，如思必驰为轨交领域打造语音平台，助力企业智能化转型。
2. 明确选型方案是关键，涵盖模型生态、部署、协同和算力推算等，企业根据需求选择合适方案，确保模型稳定运行与高效应用。
3. 人工智能能力平台成为工程落地核心，初创企业和大中型企业分别通过不同方式构建平台，实现资源优化管理，加速智能应用落地。
4. 智能体应用释放大模型潜能，通过工具调用、工作流和人机交互等方式，解决大模型决策执行问题，提升输出质量，实现优势互补。
5. 运维管理体系助力 AI 生产规范化，MLOps 工具和平台支持模型全流程生产，解决传统问题，提升运营管理效率，实现价值闭环。
6. 风险管理为大模型落地保驾护航，构建风险管理链路，结合国际标准，从多维度识别、评估和应对风险，部分企业已开展实践。

四、人工智能的安全治理进展

（一）技术应用带来的挑战

1. 自身安全问题涉及传统信息安全与新挑战，如算法模型可解释性不足、框架漏洞和数据标注不规范等，导致生成内容不可信、遭受攻击和学习错误知识。
2. 衍生安全问题影响广泛，对个人组织造成隐私、生命财产和伦理风险，对国家社会带来多领域风险，对全人类造成资源浪费和极端风险，如人工智能换脸诈骗、军事应用及模型训练的高碳排放。

（二）全球治理的关键阶段

1. 国际层面形成治理共识，联合国等组织推动通过多项决议和报告，经济合作与发展组织更新治理原则，金砖国家等开展合作，全球围绕安全议题合作紧密。
2. 主要经济体完善治理体系，欧盟立法治理，美国行业自律，英国促进创新，新加坡温和干预，我国展现举国体制优势，各经济体通过不同方式保障人工智能安全。
3. 产业组织发挥协同优势，发布治理框架、制定标准规范、开展安全技术研究，如 NIST、中国信通院等机构积极参与，推动人工智能治理发展。
4. 企业落实自律，管理体系重视全流程管控，设立治理组织并发布伦理准则，安全技术方案向一体化、定制化发展，涵盖风险识别、评估和防御环节，支持个性化配置。

五、人工智能的未来发展展望

（一）技术升级方向

1. 增强语言大模型能力仍是重点，通过提升数据和模型能力，降低成本和幻觉，强化推理能力，“慢思考” 型模型或成发展方向，后训练阶段将获更多关注。
2. 多模态模型有望突破，从依赖语言大模型向原生多模态模型演变，提升图文理解和跨模态交互能力。
3. 智能体将拓展应用场景，凭借强大交互和执行能力提升用户体验和工作效率，为行业赋能奠定基础。
4. 具身智能推动思维与行为智能融合，使智能体与物理世界交互，是迈向通用人工智能的重要一步。

（二）行业转型趋势

1. 行业大模型演进聚焦增强通用性、提升专业稳定性与准确性、拓展多元化人机交互方式，推动人工智能在行业中更广泛深入应用。
2. 赋能应用场景将深入生产流程优化核心环节，从提升基础功能向推动业务创新和集成发展转变，最终实现与产业深度融合，推动行业变革。

（三）安全治理深化

1. 安全治理需多元协同共治，完善风险识别方法论，强化风险评估与防范，加强安全技术治理，推动国际合作，以应对人工智能发展带来的安全挑战。

2024 年，人工智能在技术创新、应用赋能和安全治理方面取得显著进展，虽面临挑战，但未来发展前景广阔，将持续推动社会经济变革与进步。