AI Trends

Nankai Scholar Points Out That Over-Reliance on AI for Human Substitution Leads to Service Degradation and Employment Risks

YicaiUpdated Nov 18 20:13

English text is being prepared.

AI summary

Scholars from Nankai University have published an article pointing out that some companies are over-applying AI customer service and review systems with the goal of reducing costs, leading to a decline in service quality, harm to consumer rights, and structural employment risks. The article recommends establishing a pre-assessment system for employment impacts, setting rigid human fallbacks in key scenarios, and improving mechanisms for job transition training and unemployment protection.

Why read this

AI score 64

The article analyzes the hidden dangers of AI replacing human workers through policy and case studies, proposing the establishment of an employment-friendly evaluation mechanism and clear boundaries for human-machine collaboration.

Topics

Tags

Body

人工智能(AI)从辅助生成内容、处理标准化任务,快速进入客户服务、财务审核、物流调度、劳动管理等生产经营环节。智能化改造原本应当推动企业提质增效、改善劳动条件,但部分企业以减少人工投入衡量技术升级成效,出现服务系统不能有效履职、人工岗位先行压缩、人员安置跟不上技术部署等现象。2026年10月,国务院办公厅印发《关于适应人工智能技术发展助力构建就业友好型发展方式的意见》,明确要求有效减缓AI应用就业替代影响。11月3日,国家发展和改革委创新和高技术发展司副司长王若蒙进一步提出,密切关注AI对就业结构的影响,强化就业替代风险监测预警,做好兜底性、普惠性社会保障。目前,实践当中部分企业的智能化改造存在重降本轻增效倾向,企业内部成本节约与社会整体效益改善并不同步,相关风险正向消费者权益、劳动关系和社会就业领域传导。

当前较为突出的问题

(一)智能服务过度替代人工,企业降本与服务质量下降并存。AI客服加快向电商、通信、金融等领域渗透,部分企业以压缩人工成本为主要目标,忽视智能系统的实际服务能力。中国消费者协会数据显示,2026年上半年全国消协组织共受理消费者投诉98.6万件,售后服务问题占比最高,达26.79%,AI客服不实承诺、人工接入困难、生成内容失准等成为投诉新热点。某些企业还将AI拦截率而非问题解决率作为考核指标。瑞典金融科技公司Klarna是典型的反面样本:2024年它高调上线OpenAI客服,首月处理230万次对话、等效700名全职客服,响应时间从11分钟压到2分钟,预计年省约4000万美元,并大幅缩减人力规模;但到2025年,其CEO公开承认“成本占比过高导致服务质量下降”,AI接不住复杂纠纷、情绪安抚与高风险场景,公司被迫重启人工客服招聘,从“全替代”退回到“人机分层”。当智能系统不能理解复杂诉求,人工入口又被层层隐藏时,企业节约的接待成本实质上转化为消费者等待、重复说明和反复投诉的负担。智能客服应承担标准化事务,而非成为阻隔必要人工服务的门槛。短期报表红利牵引的转型,省下的是当期人力成本,透支的却是服务韧性、客户信任与组织能力,损害的是企业长期的竞争力。

(二)智能化改造偏重岗位压缩,技术替代与实际增效存在脱节。AI正向专业审核、质量管理等领域延伸,部分企业将减少岗位视为技术升级,忽视异常处置、结果复核、经验判断等无法简单量化的劳动价值。2026年4月,杭州市中级人民法院发布AI企业与从业人员权益保护典型案例。某金融科技企业以AI技术升级、原有质检工作可以由AI完成为由,对周某进行调岗降薪,遭到周某拒绝后便通知周某解除劳动合同,法院最终认定企业构成违法解除,需支付26万余元赔偿金。技术能够完成部分工作任务,并不意味着可以完全替代原有岗位。特别是在质量控制等专业性较强的环节,人工复核不仅承担纠错职能,也是保障业务可靠性、控制经营风险的重要环节。企业若仅依据技术替代能力削减人员,而缺乏对系统差错率、人工复核必要性及综合运营成本的评估,可能形成短期用工成本下降、长期经营风险上升的局面。过度追求减员降本,可能削弱质量监督与纠错能力,使技术应用偏离实际增效目标。

(三)企业技术转型重替代轻安置,岗位退出成本向劳动者转嫁。劳动密集型行业岗位集中、流程相对标准化,企业导入智能系统后往往可以较快调整部门设置,原有劳动者却难以在短期内取得新岗位所需技能。2025年12月,北京市人社局公布的典型案例显示,某科技公司将人工地图采集转向AI自动化采集,撤销原有部门及岗位,并以客观情况发生重大变化为由解除员工劳动合同,最终被认定违法解除。企业技术升级虽属自主经营决策,但不能将技术迭代风险直接转嫁给劳动者。尤其在客服、物流仓储、数据处理等岗位规模较大的行业,若缺乏内部转岗、技能培训和收入缓冲安排,容易形成企业获得降本收益、劳动者承担就业损失的局面。

过度追求人工替代引发的主要风险

(一)企业短期降本与长期经营效益背离,低质量智能化转型风险上升。企业有权使用新技术提高经营效率,问题在于其计算收益时可能只计算减少的人工费用,却忽视系统维护、错误处理、客户流失与劳动争议等后续成本。2026年10月,有媒体对16家银行客服热线开展实测,发现部分银行智能语音菜单层层嵌套,客户多次操作仍难以接入人工服务。银行将智能客服作为降本增效的重要工具,但人工接入困难反而成为影响客户体验的新问题。企业内部节省的人力成本,可能被客户流失、投诉处理和服务补救成本抵消。若长期以岗位压缩替代流程优化和人才培养,还会削弱企业专业服务能力与持续竞争力。

(二)企业服务责任弱化,消费者权益保障成本上升。智能客服不仅承担业务咨询,也控制消费者获取人工服务的渠道,一旦企业过度追求人工分流,技术系统便可能成为售后维权的障碍。中消协公布的2026年上半年全国消协组织受理投诉情况分析案例中,某汽车交易平台AI客服承诺车款已包含过户费,实际交易时却被要求额外支付1000元。企业通过智能系统提供服务,却可能以算法错误、人工与智能客服信息不一致等理由推卸责任,使消费者承担更多时间和维权成本。AI应用由此不仅影响服务效率,还可能造成交易信息失真、责任认定困难和售后救济受阻。企业通过智能化压缩服务成本,却使消费者承担额外的核实、沟通和维权成本,甚至可能利用技术流程降低消费者追究责任的意愿。

(三)岗位替代收益与就业转型成本分离,结构性就业风险向社会传导。AI带来新的工程开发、数据治理和设备运维岗位,但就业创造与岗位替代不发生在同一时间、同一地区,也未必面向同一群体。2026年3月,智联招聘数据显示,春节后前三周AI智能体相关职位数同比增长455%,而部分初级白领岗位需求持续收缩。新兴技术岗位增长并不意味着原有劳动者能够同步实现转岗。特别是在客服、数据处理、物流配送等劳动密集型行业,若企业集中压缩人工投入,劳动者将面临技能转换、收入中断和再就业困难,相关成本进一步向家庭和公共就业保障体系转移。个别企业的短期降本行为叠加后,可能加剧结构性就业矛盾,增加社会整体调整成本。

做好人智协同发展的建议

(一)建立就业友好型AI应用评价机制,建立重点行业前置评估制度。改变以模型接入率、人工替代率、单项成本节约额评价项目成效的做法,推动企业同步披露或内部记录问题一次解决率、人工转接成功率、差错纠正率、客户投诉变化、岗位净变动和人员安置情况。对客服、物流仓储等劳动密集型行业的大规模智能化改造,建立就业影响前置评估和定期监测制度,重点关注岗位集中退出、服务质量下降及劳动争议增加等情形。对享受政府支持的智能化项目,将实际增效和稳岗转岗成效作为评价依据,避免以人工替代率、成本节约额代替技术升级的真实效果。国家政策已提出就业影响评估和风险监测机制,落实时应着重明确评估对象、资料口径、触发条件和整改路径。评价不应以“人工减少越多越先进”为导向,也不能机械地将保留人数越多视为越好,而要检验技术是否真正改善产出质量和劳动条件。

(二)实行分场景人机协作管理,对基本权益和高风险环节设置刚性人工兜底。根据不同行业的服务性质、技术风险和人工替代程度,分类明确人机协作边界。在电商、通信、金融等领域,对投诉维权、资金交易、费用争议等事项保留便捷人工办理渠道,不得以智能应答替代必要的人工处理;在医疗、养老等涉及人身安全的领域,坚持智能辅助、专业人员主导,对诊断决策、紧急救治和特殊群体照护设置人工复核与应急接管要求;在交通运输、物流配送等领域,对自动驾驶、智能调度和设备运行中的异常情况保留人工监控、干预及应急处置能力;在政务、公共就业等基本公共服务领域,保障老年人、残障人士及数字技能不足群体获得必要的线下人工服务。将人工接管能力、服务质量和异常处置效果纳入重点场景的应用评估与监管检查,对涉及人身安全和重大权益的关键环节研究设置刚性人工兜底要求,防止企业以智能化改造为由过度压缩人工投入,将技术运行风险和服务成本转嫁给社会。

(三)强化企业技术替岗责任,完善就业影响缓冲与转岗保障机制。首先,建立技术替岗前置安置机制。对因人工智能应用实施规模化岗位调整的企业,推动在技术部署前同步制定人员安置方案,明确受影响岗位、人员规模及转岗安排,优先通过内部转岗、岗位调整和带薪培训等方式稳定就业,防止以技术升级为由随意降薪裁员,严格落实劳动合同变更、解除及经济补偿等法定要求。其次,完善企业主导的转岗培训机制。由人社部门联合行业协会、重点企业梳理人工智能新增岗位需求,针对客服、数据处理、物流仓储等受影响较大的岗位,开展智能设备运维、数据质量审核等相近技能培训,推动培训内容与企业实际用工需求对接。将实际转岗率、就业稳定性和薪酬变化纳入培训补贴和稳岗支持政策评价,防止以培训人数替代实际安置成效。最后,健全失业过渡保障机制。对确因岗位替代退出企业的劳动者,及时做好失业保险待遇申领、职业培训补贴、岗位推荐和就业援助衔接,探索企业转岗支持与公共就业服务协同的过渡安排,对就业困难群体实施重点帮扶,减少岗位退出至重新就业期间的收入损失,防止技术升级成本集中转嫁给劳动者和社会。

(四)推动技术收益合理反哺就业,健全企业与社会共同分担转型成本的机制。技术应用的优先方向应包括危险岗位替代、劳动强度降低、人员安全改善和专业判断辅助,而不仅是劳动投入减少。建议鼓励企业优先将人工智能用于改善劳动条件、提高工作安全和服务效率,保留必要的人机协作岗位,将部分效率提升收益用于员工技能培养、薪酬改善和岗位再创造。支持人工智能头部企业、行业协会及公益组织依法依规发起设立先进技术可持续发展公益基金,引导企业通过自愿捐赠、公益配捐等方式,将部分技术发展收益用于受人工智能替代影响劳动者的转岗培训、青年就业支持和困难群体数字技能提升。鼓励企业将生产效率提升形成的部分收益用于员工技能培养、薪酬改善和岗位再创造,并将就业帮扶成效纳入公益项目评价,推动技术红利从企业内部向劳动者和社会合理延伸,形成技术发展收益与就业转型成本相协调的社会共担共享机制。

(陈兵系南开大学竞争法研究中心主任、法学院副院长;尼乐冰系南开大学竞争法研究中心助理)

Source

Yicai