来源 | 人民论坛网-国家治理杂志转载请注明来源

当前，数字技术正被广泛应用到医疗、教育、政务民生、基层治理等各个领域，也融入人们日常生活的无数场景。然而，数字技术在赋能基层治理的同时，产生出的技术滥用问题，也亟需我们给予高度重视和系统防控。比如，去年河南郑州某些机构滥用健康码事件；有的基层政府采用数字技术创建多个数字工作平台，导致隐性的“数字形式主义”行为时有发生……数字技术滥用还有哪些表现形式？该如何治？一起关注。

01

(资料图片)

表现

技术滥用是指过度使用或不加节制地、甚至是恶意使用某些技术以实现某种利益或产生某种社会后果的行为或现象。随着基因编辑技术、合成生物技术、大数据、人工智能和人脸识别技术等前沿技术的快速推进和优化迭代，相关技术被滥用的风险及其严重后果日益引起社会普遍关注，各类科学组织、社会团体、科技企业和政府机构纷纷出台相关的规范条例、行为准则和政策法案，要求相关机构、企业和科技工作者履行负责任的研究和创新责任，使科技向善、不作恶。

基层治理中的数字技术滥用，大致包括两种情形：其一是作为治理对象的数字技术滥用问题，即由于互联网、人工智能、人脸识别、音频编辑和数字监控等数字技术的广泛应用，而在基层社会出现的各类亟待解决的新的社会治理问题，比如数字歧视、信息欺诈、个人隐私侵犯等等；其二是指作为治理工具而引出数字技术滥用问题，主要表现为基层政府在解决某些治理问题过程中发生的技术滥用行为，如恶意或过度使用数字技术的行为等。在当前的基层治理实践中，这两类技术滥用问题相互交织，共同形成基层治理中技术滥用的复杂场景，但后者对推进基层治理体系和治理能力现代化带来更为严重的负面影响。因此我们聚焦后者，并将其粗略概括为以下五类表现形式。

▲ 数字公共产品的恶意使用

第一类指变相或恶意使用具有重要公共产品属性的数字技术产品或工具，且造成极坏社会影响的技术滥用行为。最典型的例子就是河南郑州某些机构滥用健康码事件。健康码本是基于新冠疫情防控严峻形势开发出来的具有强大公信力的数字技术产品，目的在于确保各地疫情防控政策的有效执行和相互协调，平衡疫情防控政策要求和公民异地出行、参与社会经济活动诉求之间的关系。郑州某些机构变相使用健康码，将其变成限制外地储户合法维权的“维稳”手段，不仅侵犯了村镇银行储户的合法权益，而且透支了健康码在疫情防控中的权威性和公信力，严重损害了人民群众与基层政府之间的信任关系。该事件不仅是基层治理中性质比较恶劣的技术滥用事件，也是社会影响极坏的公权力被滥用的事件。

▲ 数字形式主义

第二类指过度使用数字技术，在基层治理中导致各种隐性的“数字形式主义”泛滥的数字技术滥用行为。我们在基层调研中发现，一些基层政府采用数字技术创建了多个微信群、APP和数字工作平台，尽管本意是提高工作效率和改善服务质量，以快捷地回应基层人民群众的治理诉求，但这些微信群和数字工作平台多数最终演变为各种形式主义和官僚主义的技术配置，变成了科层制体系中上级主管部门对基层干部实施监督管理的形式化工具。比如，要求基层扶贫干部或乡村振兴“第一书记”每天按时打卡、定位，填写扶贫或在乡日志，上传入户的行动轨迹等，结果导致基层工作者天天围着数据填写和上报转，根本没有精力开展基层社会治理和公共服务，只能以形式主义应对形式主义。

▲ 对存在风险与争议的技术的滥用

第三类指在基层治理中不当或过度使用有安全风险或有社会争议的数字技术或智能设施。自疫情发生以来，无接触式“人脸识别”等数字技术已成为许多公共场所、商场、餐厅、办公楼的标配，其在精准高效识别人脸和测量体温，协助基层高效完成疫情防控任务和治理目标的同时，也引发了可能被滥用的安全风险关注和社会争议。许多公共场所安装人脸识别等数字技术设备和系统时，没有明确提供隐私保护政策和用户协议，人民群众基本上是在不知情的前提下被动接受相关的数据采集和应用行为。

2019年9月，一组课堂上学生行为分析的视频截图在网上引发热议。其中，摄像头通过计算机视觉算法获取学生的课堂表现，并以标签的形式计算出学生“听讲、阅读、举手、趴桌子、玩手机、睡觉”等动作次数。尽管相关技术的开发公司强调这仅仅是一种“技术场景化概念演示”，“仅停留在技术展示阶段，尚未落地应用”，但此类技术可能存在的滥用风险还是引起社会普遍关注。一些人担心，这样的数字技术创新可能将课堂或者公共场所变成“全景敞视监狱”。这类数字技术创新或许对特定情景下的社会治安维护有帮助，但如果将其不加任何限制地应用于基层治理，则可能造成个人隐私侵犯和数据被滥用或泄露等其他非预期的后果，给人民群众的生产生活和国家安全造成难以预料的危害，并对人民群众的行为和心理产生严重的负面影响，不利于基层社会的和谐、稳定和安全。

▲ 非法窃取公众数据信息

第四类指非法利用各种数字技术手段窃取和分析公众的数据和信息，并应用于非正当的目的。2022年3月22日，360公司披露，美国国家安全局利用量子攻击平台技术对世界各国访问美国社交媒体的互联网用户发起网络攻击，在30天内远程窃取了970亿条全球互联网数据和1240亿条电话记录，中国社交软件也是其攻击目标。滥用前沿数字技术在网络平台或社交媒体中非法窃取互联网用户数据和信息，用于社会监控和其他非正当目的，这可能是数字技术时代最危险的技术滥用行为，其危害的不仅仅是互联网用户的个人隐私和人身安全，还削弱公众对数字技术合理应用的信任，破坏数字社会赖以持续发展的社会团结，亟需尽快立法加强对此类技术滥用行为的规范和监管。尽管目前在我国基层治理中尚未发生此类技术滥用的严重事件，但我们必须对此保持高度警惕。

▲ 数字技术滥用的资源浪费

第五类指基层政府过度使用昂贵数字技术工具去解决某些无关紧要或不存在的基层治理问题，造成基层治理资源浪费的数字技术滥用行为。比如，某些社区在公园的公厕中安装人脸识别厕纸机，说是用于统计每人抽取厕纸的数据以减少资源浪费。一些地方政府部门大量使用摄像头、无人机等智能监控技术对偏僻乡村可能存在农作物秸秆焚烧行为进行高强度监管，尽管可能对个别农户私自焚烧秸秆的行为起到了威慑作用，但其产生的社会效果与其投入的社会资源并不成比例。某些基层政府热衷于在社会治安良好的社区或人口稀少的乡村，过度使用高精度的数字设备搞所谓的“智慧社区”或“明亮乡村”，结果导致了人民群众的抱怨和社会公共资源的浪费。

特别需要注意的是，一些基层政府在建立数字政务平台时过于追求高大上，却很少考虑具体的应用场景和服务配套，结果将基层数字治理平台变成“秀场”工程。有的在线办事窗口因缺少共享数据库支持，居民在每个窗口办事都要重复提交相关信息资料，给人民群众造成很大的不便。数字技术治理并非包治百病的“灵丹妙药”，基层政府应因地制宜，灵活采用，切莫贪大求新。

02

成因

基层治理中数字技术滥用的发生，首先与数字技术的双重使用属性相关。科技是发展的利器，也可能成为风险的源头。数字技术的快速发展、迭代创新及其在基层治理中的应用，也表现出显著的双重使用特性。2021年4月，安徽省合肥市警方在公安部“净网2021”专项行动中打掉一个犯罪团伙，该团伙利用人工智能技术伪造他人人脸动态视频，为黑灰产业链提供注册手机卡等技术支撑。据犯罪嫌疑人交代，深度合成技术和人工智能技术让人脸动态视频伪造制作简单易行，任何一个中学生都可通过在线网购教程和下载软件“自学成才”。数字技术创新的快速推进降低了相关技术使用的门槛，使之应用变得快捷易行，但同时也使不法分子利用数字技术的违法犯罪行为成本降低，大大增加了基层社会治理中数字技术被滥用的风险。数字技术是很有效的赋能工具，如果相关技术创新服务机构和科技人员在将数字技术应用于基层治理服务时，仅仅展示数字技术创新的新颖性、便捷性和功用性，而对其可能被滥用的风险及其社会后果缺乏系统评估和必要警示，那会增加基层治理中数字技术滥用行为的可能性，使基层治理问题复杂化和尖锐化，给人民群众的社会生活带来负面影响，进而会影响人民群众和基层社会对数字技术创新的正确认知和客观判断，形成不利于数字技术创新高质量发展的社会环境。

其次，基层治理中技术滥用发生也与基层治理人员普遍形成的“解决主义”惯习有关。受政绩工程和目标导向等基层治理观念的影响，一些基层人员在使用数字技术时更多关心的是其解决问题的快速、便捷、新奇或“亮眼”，通常会忽略相关技术应用可能引发的社会矛盾和利益冲突等其他问题。这种“解决主义”的惯习与数字技术双重使用本性相互叠加，可能就会在不经意间造成技术滥用行为，如郑州健康码被赋红码的行为。需要指出的是，基层治理中的许多问题，因牵涉到诸多利益相关者的复杂社会关系，无法通过某种数字技术手段得到完美解决，搞不好还会引出更复杂、更棘手的其他治理问题。例如，在基层社区和农村安装很多摄像头、传感器之类的监控设备，随时抓取人们生产生活的相关数据，可能对防范各种不法行为有威慑力，也可能为基层治理提供必要的数据和决策依据，但是否会有利于增进基层社会和谐与团结，增加人民群众的获得感、幸福感和安全感，可能还需要基层政府跳出“解决主义”的惯习进行审慎考量和系统评估。

再者，当前基层治理中之所以出现各种数字技术滥用行为，也与数字技术应用规制体系的相对滞后和不完善密切相关。北京大学邱泽奇教授分析，“对一个合作有序的社会而言，技术从来都只是工具，对工具运用的规制才是决定技术影响社会秩序的关键因素”。尽管我国已设立许多针对数字技术应用的法律规范，但这些法律规范如何落地实施依然需要细化和完善。比如相关法律明确禁止利用信息技术等方式侵害他人的肖像权或侵犯个人隐私，但对相关技术如何合理使用、哪些情形下应禁止使用等却没有明确规范。一些科技公司虽已提出科技向善等主张，但对那些敏感数字技术如何在社会层面向善使用或负责任地创新，依然缺乏明确的技术规范和行动指南。总之，这些规制方面的不完善，可能为基层治理中某些腐败官员和不法分子恶意使用数字技术提供可乘之机，进而导致基层治理中的技术滥用行为。

03

对策

人脸识别和人工智能等前沿数字技术如果正确应用，必将成为普惠的应用基础设施，赋能基层社会治理，高质量地推动基层公共服务和社会治理价值和目标的实现。但要适当地使用人脸识别、人工智能和健康码等前沿数字技术，除了加强国家对数字技术应用的立法监管和制度体系建设外，还必须加强基层治理人员的数字技术安全和伦理教育，倡导负责任的数字技术创新，以减少数字伤害、避免数字鸿沟，推进基层治理体系和治理能力现代化。结合基层治理创新实践，提出如下有效防控数字技术滥用的基本策略。

首先，加强对基层公务人员进行数字技术应用相关的法律和伦理教育。要明确数字技术应用的特性和底线，培养他们对基层治理中可能出现技术滥用行为的敏感性和责任意识，以帮助他们树立正确的数字技术创新观，更好地履行执政为民、服务社会的社会职责。通过教育培训使基层治理者明确：数字技术只是基层治理的工具，并不是全部；数字技术在基层治理能发挥有效作用，其根本取决于技术和社会良性互动形成的技术社会系统，而非某种特定的技术；数字技术可以赋能基层治理，但不能主导甚至替代基层治理。

其次，要通过多部门协作的机制设置技术滥用的安全防线。要明确前沿数字技术应用服务治理的预警原则，并发挥龙头企业和行业协会的作用，适时制定和完善前沿数字技术应用的服务标准和规范体系；建立安全风险监测评价体系，以加强对基层数字技术滥用的行政执法监督和敏捷管理，更好地平衡数字技术在基层治理中的创新应用和技术滥用风险防控，统筹好发展与安全的关系，推进数字技术创新和基层治理体系和治理能力现代化。政府监管部门要对相关标准的执行情况进行监督检查，并在力所能及的情况下为社区和基层政府使用相关敏感技术提供指导和咨询服务。

再者，要加强预防数字技术滥用的源头治理。在计划部署对基层治理意义重大的数字技术项目时设立法律和伦理审查委员会，并举行听证会，邀请社会公众参加，以广泛听取人民群众的意愿和诉求，对相关技术应用进行社会后果和技术被滥用的风险进行系统评估，进而让数字技术更好地赋能基层治理而不是增加社会分歧、引发社会矛盾和冲突。数字技术在基层治理中的应用，本质上是数字技术嵌入基层社会文化和政治议程的过程，基层政府和数字技术服务企业对基层治理中采用的各类事关民生和社会公共利益的数字技术项目和计划，进行必要的技术评估和法律、伦理和社会影响分析，有利于克服简单追求政绩和“解决主义”惯习的局限性。

此外，要鼓励专家学者和科技社团对基层治理中可能出现的技术滥用情况进行预警分析，前瞻研判数字技术创新带来的规则冲突、社会风险和伦理挑战。为完善相关法律法规、伦理审查规则及监管框架，促进数字技术创新和基层数字治理等提供政策建议，以确保数字技术高质量、负责任地推进基层治理体系和治理能力现代化建设。

上文略有删减

选自 |《国家治理》杂志原标题 | 基层治理中的数字技术滥用及其防控策略

作者 | 中国农业大学人文与发展学院教授 李建军

新媒体编辑 | 王思楠

原文责编 | 董惠敏

咨询热线：01065367145 马老师

欢迎关注↓↓