【编者按】当前，人工智能技术加速向经济社会各领域渗透，与之相伴的安全风险与伦理挑战也日益凸显。2026年国家网络安全宣传周期间，光明网联合科普中国推出AI科技伦理系列科普视频，引导公众理性认知技术逻辑，秉持算法向善理念，共建网络安全生态。
每天打开手机，AI便已经为我们安排好了一日的“信息行程”：推送什么短视频、推荐哪些商品、提示哪些社交动态，算法仿佛比我们自己更懂自己。在未来，当AI更加深入地参与到我们的日常生活与工作决策，我们应当思考：如何引导技术向善，把技术的主导权牢牢握在人的手中？
短视频平台追求用户停留时长，电商平台追求商品下单转化，社交平台看重用户打开频次。平台的技术迭代，很多时候优先围绕这些业务指标展开，延长用户屏幕使用时间，刺激消费行为。
每一条算法推荐的背后，都预设了平台的优化目标。每一次内容筛选、每一轮个性化推荐，本质上都是设计者价值选择的外化：什么作为优化目标，什么可以当作发展代价？
同样一件商品，不同用户在购物软件搜索，接收到的推荐结果却大相径庭。算法揣摩用户偏好，投其所好促成下单。身处其中的用户，常常会产生自主决策的错觉，实则沿着算法预先铺好的路径做出选择。
那么技术向前奔跑之时，方向盘究竟掌握在谁的手中？
如果方向盘握在坚守公共利益、维护用户权益的一方，算法推送的便是真正有价值的信息，切实帮助用户降低选择成本。倘若只以点击量、商业利润为导向，AI就会变成收割注意力的工具，消耗用户的时间与理性，换取平台商业收益。
2026年，全国网络安全标准化技术委员会发布《人工智能应用伦理安全指引1.0》（以下简称《指引》），将“增进人类福祉”作为伦理安全的首要原则，明确人工智能的产品设计，最终都应当回归服务人的根本目的。
对普通使用者而言，提升人工智能媒介素养已经成为数字时代的必修课。面对AI输出的内容与建议，多一份理性审慎：它是帮我们拓展认知看清真相，还是一味投其所好？是真正节约我们的时间精力，还是诱导我们不断停留消耗？
认清算法推荐背后的运行逻辑，才能分清何为服务、何为引诱。《指引》也提出，使用者应“正确认知人工智能，学习人工智能伦理安全基本知识，增强对虚假、错误、误导性内容的识别能力，增强对人工智能相关物理安全风险、决策的认识、形成理性、审慎的使用习惯。”
而对于AI产品开发者，肩上承载着更重的社会责任。一行算法代码，背后就暗含一套价值判断。将点击率、转化率设置为核心优化目标的同时，也是在用数字定义何为“好的结果”。技术研发应当把用户作为目的，而非牟利的手段。
《指引》要求设计开发者“将安全可控、公平公正、隐私保护、机会均等理念贯穿数据选择、目标设定、算法设计、技术开发、产品研发、测试评估、运行维护等全过程。”
人工智能本身不会天然自带价值观，它的取向，全部来自人的设计与抉择。技术不会自主选择前进的方向，握方向盘的始终是人。让技术服务于人，让人掌握技术的主导权，这正是AI伦理的核心要义。服务于人，既是人工智能发展的起点，也应当是永不偏离的终点。
出 品
科普中国前沿科技科普解读
监 制
光明网科普事业部
科学性审核
段伟文 崔原豪
策 划
宋雅娟
编 导
宋雅娟 王若昕