“当机器开始思考,人类如何与之相处?当算法参与决策,安全如何保障?当技术挑战伦理,治理如何跟上?当鸿沟不断拉大,普惠如何实现?”习近平总书记在2026世界人工智能大会暨人工智能全球治理高级别会议开幕式上的主旨讲话中提出了四个之问。
当前,人工智能技术加速迭代演进,从“数字世界”向“物理世界”纵深拓展,其赋能效应呈指数级释放。AI已经从实验室快步走进千家万户,但也伴生了“大数据杀熟”“信息茧房”“AI投毒”等乱象,带来了前所未有的治理挑战。这四个之问,问的不只是技术,更是治理的智慧。
以规制划定底线,让AI“行有所止”。人工智能带来的风险,既有内生的算法偏差,也有衍生的深度伪造、谣言生成等乱局。守住安全底线,不能只靠企业自觉,更要靠制度“硬杠杠”。2026年1月1日起施行的新修改的《中华人民共和国网络安全法》,首次将人工智能纳入国家网络安全法律体系;7月15日施行的《人工智能拟人化互动服务管理暂行办法》,是全球首部专门规范持续性情感拟人AI服务的专项监管规章,补齐我国人工智能分层分类治理体系短板,形成覆盖通用大模型、算法治理、深度合成、情感拟人互动服务的全链条监管格局,秉持以人为本的治理理念,为全球同类治理输出中国方案。
以素养筑牢防线,让用户“心有所明”。广大用户既是AI红利的分享者,也是最广泛的社会监督力量。在社交媒体上,不少网友自发分享“破茧房”技巧,主动跳出同质化推送的“信息围城”;遭遇“杀熟”时,敢于留存证据、提出异议。这些看似微小的举动,实则是数字时代公民素养的生动体现。平台更不能当“甩手掌柜”,要把算法逻辑中涉及公众权益的部分,用通俗易懂的方式告知用户,让大家既享受智能推送的便利,又不被算法裹挟。要提升全民数字素养,让数字素养成为全民“新标配”,让每个人在数字技术普及中拥抱机遇,在数字成果共享中收获幸福,共同为网络强国建设注入新动能。
以监管守好红线,让技术“责有所归”。技术跑得快,监管必须跟得上、跑得稳。今年上半年,公安机关已侦办利用AI工具生成网络谣言案件170余起;国家反诈中心App上线“AI内容鉴定”功能,用户可通过上传图片、视频、音频或文本来检测AI生成痕迹,主要用于识别诈骗场景中的伪造内容;公安部等多部门联合发布《人工智能生成合成内容标识办法》,强制要求给AI合成内容“打标签”;全国网络安全标准化技术委员会发布的《人工智能应用伦理安全指引1.0》,为我国人工智能健康发展划定伦理安全边界,筑牢AI伦理安全基石。接下来,监管的触角还应进一步延伸到算法设计、数据训练、模型部署、应用运行的全生命周期,答好安全“必答题”。
建规立制,解决的是“有章可循”;赋能用户,解决的是“人人参与”;从严监管,解决的是“落地见效”。三者互为支撑,缺一不可,共同构成AI治理的三根支柱。法治划定边界,素养提升免疫力,监管确保执行,唯有如此,人工智能才能在向上向善的轨道上稳健前行,真正服务于人、造福于民。(蔡佳贝)