TRAI 草案要求电信运营商为第三方 AI 系统后果负责，Anthropic 招股书称 AI 责任法律未定

印度电信管理局（TRAI）提议，电信运营商应对其使用的每一套人工智能（AI）系统的后果负责，包括从外部供应商购买的系统。

TRAI在其关于在电信网络和服务中负责任使用AI的草案指引中表示：“适用的获授权实体应对其使用的所有AI系统的后果负责，无论这些AI系统是内部开发、从第三方采购/外包，还是两者兼有。”

TRAI于2026年10月30日发布该草案，并接受意见至11月27日。该指引将适用于使用或计划使用AI系统的持牌电信服务提供商和网络运营商。

电信运营商需要做什么？

经董事会批准的AI政策：每家运营商必须采用经其董事会批准的内部AI政策，至少每年审查一次，并在政策生效后七个工作日内向TRAI提交。

风险评级：每套AI系统必须根据其对网络或服务的重要程度、其财务和运营影响以及其“对消费者的潜在影响”被归类为高风险、中风险或低风险。

审批与清单：必须由指定官员在使用前批准每套AI系统。运营商必须保存其所有AI系统的清单，“除非列入清单，否则不得使用任何AI系统。”

上线前测试：运营商必须在部署每套系统前检查其准确性、稳健性、可解释性和公平性。稳健性意味着系统在不同条件下都能可靠运行。可解释性意味着人们能够理解系统为何产生某一结果。运营商还必须检查“漂移”，即随着现实世界数据变化，系统性能随时间推移而恶化。

事件报告：运营商必须将AI相关事件分为四个严重级别，将每一起事件记录在中央数据库中，并向TRAI报告最严重的两个级别。草案未设定截止期限，仅表示报告必须“以规定的格式、方式和时限”提交。草案指出，TRAI可将这些报告用于“全行业学习、风险评估、咨询建议、预防措施及其他合法监管目的”。

人工监督：每套AI系统都必须有人监督。

消费者投诉：运营商必须在合理时间内解决“用户报告的AI相关损害”。

治理委员会：每家运营商必须设立一个由高级高管领导的AI治理与安全委员会。该委员会应至少每年审查一次AI系统，并可下令更改或关停某套系统。

运营商如何为并非自己开发的AI负责？

通过审查和合同。在购买AI系统之前，运营商必须核查“供应商的可信度、AI系统的健全性及其局限性，以及用于训练的数据的适用性和质量”。

运营商还必须在供应商合同中写入可执行的条款，涵盖“监管合规、审计和检查权、事件管理、风险分配和问责”。风险分配决定出了问题由谁承担费用。设备供应商还必须披露其销售产品中内置的任何AI。

这将包括TRAI已经要求的AI。2023年，TRAI要求运营商部署基于AI的语音通话和短信垃圾信息过滤器。根据该草案，当这些过滤器出错时，运营商将承担责任。

AI公司对其自身责任有何说法？

AI制造商表示，关于AI损害由谁承担的法律尚未确定，其自身的合同条款可能无法成立。开发Claude模型的Anthropic于10月26日申请在美国上市。其向美国证券交易委员会（SEC）提交的注册声明是公司在首次公开募股（IPO）前必须提交的文件，其中列明其业务和风险。

保证免责声明称，公司不保证其产品按预期运行。责任限制条款则设定了公司因出现问题而可能需支付的金额上限。

该文件列出了依赖AI供应商的企业面临的七项风险：

AI智能体相关法律未定：AI智能体是能够自行采取行动的系统，例如发送电子邮件或更改软件。该文件称：“规范AI系统（包括我们的智能体产品）自主行为责任的法律框架尚未确定，可能使我们面临重大且不可预测的法律索赔。”文件还称，关于过失和产品责任的现行法律“尚未被权威性地适用于自主AI系统”。

客户可能分担责任：该文件称：“我们可能面临来自客户、其最终用户或第三方的索赔，声称我们应对我们的智能体自主行为造成的损害负责，即使客户配置、部署或监督了该智能体。”

错误可能累积：当AI智能体执行多步骤任务时，“任何单个步骤中的错误或意外行为都可能传播到后续步骤，在发现或纠正之前加重损害的严重程度，”该文件称。

人工监督可能跟不上：TRAI草案要求对每个人工智能系统进行人工监督。Anthropic表示：“自主执行的速度和规模，尤其是在企业部署中，也可能超出人工审核人员的能力范围，使他们无法有意义地理解和评估每一项操作是否恰当。”

是服务，不是产品：产品责任法可以要求制造商对缺陷产品负责。Anthropic表示，它认为其人工智能“在产品责任法律框架的语境下被视为一种‘服务’，但法院和监管机构在不同司法管辖区可能得出不同结论。”通过将其人工智能称为服务，Anthropic主张这些法律不应适用于它。

保险缺口：在灾难性人工智能事件中，“可能没有任何一家保险公司，甚至整个保险行业合计，拥有足够的能力或专业知识来承保与此类风险敞口相称的保险，”该文件称。

人工智能供应商能帮助运营者报告事件吗？

并非总是如此。TRAI草案要求运营者调查并报告人工智能故障。Anthropic表示，完整记录其人工智能智能体的所作所为很困难。该文件称：“任何无法提供充分审计轨迹的情况，都可能损害我们调查事件、回应监管问询或为责任索赔辩护的能力。”

对于其很大一部分流量，Anthropic根本不保留对话记录。该文件称：“我们很大一部分流量适用零数据保留（‘ZDR’）条款，根据该条款，我们仅保留分类器评分，而不保留提示词或输出。”

根据这些条款，Anthropic会删除客户输入的内容及其人工智能的回复，仅保留自动安全评级。它表示：“ZDR还可能使我们无法为传票、监管审查或事件报告义务生成记录。”

Anthropic表示，受监管行业的企业客户期望获得这些条款。它还表示，可能无法满足欧洲的事件报告截止期限，当地监管机构希望获得详细信息，“而我们可能无法在规定的时间范围内提供”。

这如何契合印度的人工智能规则？

TRAI表示，该草案将《印度人工智能治理指南》适用于电信业。这些指南建议“根据其角色和风险水平”，将责任分配给构建人工智能的公司和使用人工智能的公司。TRAI的草案将问责归于使用人工智能的运营者。

电子和信息技术部（MeitY）正在制定更广泛的人工智能规则。信息技术部长Ashwini Vaishnaw在10月表示，关于人工智能监管的咨询文件将在一个月内出台。“行业必须承担主要责任，”他说。MeitY还表示将收紧人工智能事件报告规则。

TRAI的草案没有新增处罚。涉及人工智能的违规行为将适用现行法律、规则和许可证条件。

草案未解答的问题：

供应商：如果人工智能供应商在合同中拒绝承担责任或拒绝允许审计，运营者能做什么？

记录：运营者将如何调查涉及删除对话数据或缺乏完整记录的供应商的故障？

监督：运营者将如何监督行动速度快于人工审核能力的人工智能智能体？

截止期限：运营者必须在多长时间内向TRAI报告严重人工智能事件？

执法：鉴于草案没有新增处罚，不遵守规定的运营者会面临什么后果？

另请阅读：

TRAI发布电信行业人工智能和大数据建议

MeitY对人工智能平台安全港的表述及我们的看法

[googlesitekit-end-of-content]

WP QUADS内容广告插件 v. 3.0.5.1

为你推荐

阅读Nikhil Pahwa的Reasoned：人工智能如何改变我们的世界

赞助MediaNama活动