前沿与热点

生成式AI时代的网络信息内容风险样态与治理路径*

展开
  • (1.南京大学信息管理学院   江苏南京   210023)
    (2.南京大学数据智能与交叉创新实验室   江苏南京   210023)
李阳(1989-),男,南京大学信息管理学院副教授,南京大学数据智能与交叉创新实验室特聘研究员,博士生导师,研究方向:社交媒体信息分析与人工智能治理;刘柏珍(2002-),女,南京大学信息管理学院硕士研究生,研究方向:社交媒体信息分析与数据治理。

收稿日期: 2025-10-16

  网络出版日期: 2025-12-30

基金资助

*本文系江苏省社会科学基金一般项目“人机混合信息环境下社交媒体AIGC风险敏捷治理研究”(项目编号:25XZB001)与中央高校基本科研业务费专项资金资助、南京大学文科人工智能交叉研究计划(AI for HASS)首批专项课题“生成式人工智能环境下网络信息内容风险识别与智能治理研究”(项目编号:2025300123)研究成果之一。

Risk Patterns and Governance Approaches for Network Information Content in the Era of Generative AI

Expand

Received date: 2025-10-16

  Online published: 2025-12-30

摘要

生成式AI时代,网络信息内容的底层逻辑与场景应用发生新的改变,催生出全新的人机混合信息环境,网络信息内容风险面临着AIGC“增长无序”和“跑偏无边”的双重挑战。文章从信息维和系统维建构了生成式AI技术影响下的网络信息内容新型风险体系,并构建和分析了AIGC风险金字塔模型。针对风险样态的新变化,文章基于敏捷治理思维从理念、主体、工具三个层面提出生成式AI时代的网络信息内容风险治理路径,为未来网络信息内容生态体系建设提供参考。

本文引用格式

李 阳 刘柏珍 . 生成式AI时代的网络信息内容风险样态与治理路径*[J]. 图书与情报, 2025 , 45(06) : 43 -52 . DOI: 10.11968/tsyqb.1003-6938.2025070

Abstract

In the era of generative AI, the underlying logic and application scenarios of network information content have undergone new transformations, spawning an entirely new human-machine hybrid information environment. Network information content risks are confronted with the dual challenges of "disorderly growth" and "unbounded deviation" of AI-Generated Content (AIGC). This paper constructs a novel risk framework for network information content under the influence of generative AI technology, integrating both informational and systemic dimensions, and further develops and analyzes an AIGC risk pyramid model. Addressing these evolving risk patterns, the paper proposes a risk governance pathway for network information content in the era of generative AI based on agile governance principles, covering three key levels—governance philosophy, governance subjects, and tools—providing references for the future development of network information content ecosystems.
文章导航

/