近日举办的2026年中国网络文明大会上,正式发布了《人工智能应用伦理安全指引1.0》(以下简称《指引》),旨在进一步引导人工智能应用坚持以人为本、智能向善,推动人工智能应用相关方正确认识和妥善应对应用活动中的伦理安全影响,促进人工智能应用在规范有序、安全可控的轨道上健康发展。《指引》给出了人工智能应用伦理安全理念与原则,明确了人工智能应用开发、服务提供和应用使用等安全指引。
《指引》归纳了人工智能技术应用可能带来的六大结构性影响,包括人类主导权影响、公共秩序影响、个体认知与社会价值影响、社会分化和歧视影响、生命健康与基本权益影响以及可持续生态影响。
前端方面,《指引》针对应用开发阶段提出了明确指引,核心在于将安全可控、公平公正、隐私保护等伦理要求作为应用设计的默认设置。在具体研发流程中,引导开发者在数据选择、目标设定、算法设计等核心环节高度关注潜在的偏见歧视影响,从技术源头保障机会均等。
中端方面,《指引》着重对服务提供者的管理责任作出指引,特别是在关键领域场景进行重要决策时,若使用不可解释的人工智能,将其限定为仅承担辅助决策作用、不提供直接决策依据,并设置人工复核机制,防止算法替代人类做出核心判断。
后端方面,《指引》专设了应用使用指引,倡导积极提升人工智能使用素养,形成理性、审慎的使用习惯。在内容生产与传播方面,《指引》划定了清晰的行为底线,提出在使用人工智能生成内容并对外发布时,履行主动声明及标识义务,不利用技术伪造他人身份或仿冒权威主体开展活动。
全国网络安全标准化技术委员会有关负责人表示,《指引》的发布,正是对引导人工智能应用尊重人的主体地位、维护公平正义、保障合法权益、促进社会信任,推动人工智能技术始终朝着有益、安全、公平方向发展这一时代课题的积极回应,体现了人工智能治理坚持积极稳妥、开放包容、协同共治的实践导向,也体现了网络文明建设对人工智能时代技术向善、价值引领和秩序塑造的主动回应。
推荐阅读
经典栏目
精彩专题
关注我们

大视频行业颇具影响力的行业社群平台,重要新闻、热点观察、深度评论分析,推动电视行业与各行各业的连接。

集合电视台、网络视听、潮科技等各种好玩信息。

专注于报道广电行业新鲜5G资讯,致力于成为广电行业有权威、有深度的5G自媒体平台。

UHD、4K、8K的最新资讯和最深入的分析,都在这里。

视频产业的专业圈子,人脉、活动、社区,就等你来。

我们只沉淀有深度的信息和数据。

致力于卫星电视信息、卫星通信技术、天地一体网络应用案例、以及广电、通信等产业的市场动态、政策法规和技术资讯的传播。