赛迪智库：展望2026年 防范AI技术滥用与恶意应用将成为治理工作的重中之重

格隆汇1月14日｜由工信部主管的综合性研究机构赛迪智库发表文章《2026年我国人工智能治理发展形势展望》。文章指出，展望2026年，我国人工智能治理体系与格局将进一步健全，大模型数据保护、防范技术滥用、应对就业结构冲击等将成为关键治理议题，我国也将更加积极地参与并引领全球AI治理规则构建。同时，仍需关注制度供给碎片化、数据治理矛盾突出、技术风险防控能力薄弱、社会负面影响难应对以及全球协同治理难度加大等问题。

2025年，人工智能技术滥用的现象引发广泛关注。利用AI生成虚假信息、进行网络诈骗、实施自动化攻击等事件频发，对社会秩序、公共安全和公民权益构成现实威胁。展望2026年，防范AI技术滥用与恶意应用将成为治理工作的重中之重。在技术层面，将大力支持AI内容检测与溯源、深度伪造识别、算法公平性评估等核心监管技术与工具的研发与应用，力求在识别准确率、响应速度和覆盖范围上取得突破。在监管层面，将进一步明确AI服务提供者的主体责任，建立健全内容审核、用户实名、风险预警和应急处置机制。针对利用AI实施的诈骗、诽谤、侵犯知识产权等违法犯罪行为，将强化执法与惩处力度，形成有效震慑。