人机社会网络生态治理的难点及对策

来源：《人民论坛》
作 者：肖珺

人工智能、大数据、大模型持续融入社会生活，一个人机共存、算法参与内容生产与传播的“人机社会”正在形成。传统网络治理模式以管理人为核心，面对算法自动生成内容、智能账号交互传播、虚实场景深度交织的新形态，原有治理手段出现明显滞后。本文提出媒介化敏捷治理这一前瞻性学术观点，兼顾理论创新与落地实践，为数字时代网络生态治理提供新思路。

人机社会最核心的特征，是网络行为由人类主体与智能体共同完成。大模型可以自动撰写文案、生成图片视频，智能账号能够批量互动、制造舆论热点。很多网络信息并非由人主动发布，而是算法自主生成、自动流转。这种新形态改变信息传播底层逻辑：信息源头模糊、传播链条非线性、内容迭代速度极快，传统事后追责、静态监管的治理方式难以适配。过去网络治理，发现不良信息后删除账号、清理内容，属于“事件发生之后”的处置。而人机网络中，算法可以瞬间批量生产内容，等人工发现时，信息已经大范围扩散，治理陷入被动。

作者提出，人机社会治理，应当从静态管控转向敏捷治理。敏捷治理，核心是预判人机混合行为的演进规律，建立动态感知、快速响应、持续迭代的治理闭环。它不是弱化监管，而是变“事后处置”为前置预警。一方面搭建算法行为监测体系，对大模型输出内容、智能账号集群行为实时感知，识别谣言、煽动性内容、虚假信息的生成传播苗头；另一方面建立分级分类监管机制，区分普通生成内容、高风险公共信息，对医疗、金融、司法等敏感领域设置更严格的算法审核门槛。敏捷治理尊重技术迭代的节奏，不采取一刀切禁令，以动态规则适配技术快速更新，在创新空间与安全底线之间寻找平衡。

文章的第二个核心观点，是人文伦理前置的数智媒介素养教育。很多治理难题根源在使用者：普通民众难以区分AI生成的虚假图文、深度伪造视频，容易被算法诱导，误信伪造信息。以往媒介教育，主要教大众辨别网络谣言。而人机时代的媒介素养，需要增加算法认知能力，教会公众看懂AI内容的局限，识别深度伪造、AI编造的虚假史料、伪造音视频。这种素养教育面向全年龄段，青少年重点学习AI内容辨别，中老年重点防范AI换脸、语音合成类诈骗，企业从业者规范AI内容生产流程。伦理前置，意味着在技术应用落地之前，就把价值准则嵌入算法设计，而不是等产生负面社会影响再补救。

第三项实践性路径，是推进事实核查制度化建设。AI生成内容常常“看似有理，实则虚构”，编造引文、伪造数据，普通人难以核验。文章提出，要构建社会化事实核查网络，联动媒体、高校、平台机构共建事实核查数据库，对热点信息自动溯源核验。同时完善内容溯源机制，要求AI生成内容主动标注来源，实现内容可追溯、生成主体可识别。平台承担主体责任，建立自适应、自学习的内容审核体系，让算法辅助人工审核，形成人机协同的审核模式。

此外，文章立足全球视野，提出要参与人工智能国际治理对话。各国都面临人机网络治理难题，没有现成标准答案。我国应当立足本土社会治理实践，以“智能向善”为价值锚点，探索符合中国国情的网络治理方案，参与制定人工智能内容治理的国际规则，提升数字领域国际话语权。

该学术观点具有很强现实指导价值。当前短视频平台、社交软件大量接入AI生成工具，虚假信息、深度伪造风险持续上升。媒介化敏捷治理，给网信、市场监管部门提供一套可落地的治理框架，兼顾数字产业创新发展，守住网络文明与信息安全底线。理论跳出单纯技术监管视角，融合传播学、伦理学、公共治理多学科视角，是对数字社会治理理论的拓展。

技术本身无善恶，关键在于构建适配人机共生时代的治理体系。人机社会网络治理，不是单纯限制AI发展，而是以治理引导技术向善，使人智能技术服务社会，减少虚假信息、网络欺诈、舆论乱象，守护清朗网络空间。面向未来，技术会持续迭代，治理体系也需要不断优化，坚持敏捷响应、伦理前置、多元协同，才能在智能化浪潮中行稳致远。

（发布人：木子传承）