人工智能（AI）技术飞速发展，降低了内容创作的门槛，AI生成内容大量面世。如果用户在传播AI生成内容过程中构成侵权，能否以“AI生成”主张免责？生成式AI使用者负有怎样的注意义务？
近日，广州互联网法院对一起涉AI生成内容的网络侵权责任纠纷案作出一审宣判，首次系统确定生成式AI使用者在内容传播时的注意义务边界，明确使用者不能以“AI生成”为由主张侵权免责。
AI用1700字素材生成1.5万字文章，涉“犯罪细节”
原告某集团公司是一家国内上市企业，该公司某高管因涉嫌职务犯罪被依法逮捕。被告曹某注册并运营一个财经类个人微信公众号，账号简介显示其为注册会计师、注册资产评估师、注册税务师，拥有三十年相关行业从业经历。
2025年8月，曹某将一篇1700字的文档输入某生成式AI应用程序，该文档内含有某集团公司某高管的职务犯罪案细节，包括以进口补贴套取财政资金、通过关联交易进行利益输送等内容。同时，曹某指令AI以该文档生成一篇不低于1万字的深度长文。AI经7次深度思考、联网搜索139个信息来源后，生成逾1.5万字的案涉文章。
后曹某将案涉文章发布于案涉公众号，标题为《某集团公司某高管的3.2亿犯罪细节曝光》。文章标注为“原创”，全文详细描述了该名高管的所谓“犯罪细节”，包括利用人脉为公司获取批文、牌照等资源，称该公司存在财务数据异常、虚增利润、通过关联交易进行利益输送，并涉嫌财务造假等违规违法行为。
经法庭审理查明，曹某输入AI的1700字文档中，涉及原告公司及案涉高管的相关内容，均无合法有效证据、权威公开报道予以佐证，内容不实；AI生成的案涉文章所标注的检索来源中，亦未包含前述内容的合法出处与有效佐证。截至文章下架时，累计阅读量超1.1万次，转发量超1千次。
原告某集团公司诉称，曹某发布的案涉文章内容严重失实，损害公司的商业信誉，构成名誉侵权，故诉至法院，请求判令曹某赔礼道歉、赔偿经济损失50万元及维权费用。
被告曹某辩称，案涉文章为AI生成，相关内容来源于网络公开信息，并非其本人捏造，故其行为不构成名誉侵权。
广州互联网法院判决，被告曹某于案涉微信公众号向原告公司发布赔礼道歉声明，并向原告公司赔偿经济损失1万元。该判决已发生法律效力。
以诱导性提示词生成虚假文章，构成侵害名誉权
法院生效裁判认为，基于生成式AI的技术原理和当前发展水平，AI模型存在固有“幻觉”风险，因此网络用户使用并传播AI生成内容，负有合理注意义务。本案中，曹某未尽到合理的注意义务，存在较大的主观过错，具体体现在以下四个方面：
一、生成阶段，曹某未对输入的参考材料进行必要核实，且使用了诱导性提示词
首先，用户对输入参考材料的真实性、准确性负有必要的核实义务，以保障生成结果的可靠性。本案中，曹某向AI输入1700字基础文档，其中涉及某集团公司的相关内容并无客观证据佐证，属于虚假信息。曹某作为AI使用者，应当预见AI模型有可能基于虚假信息输出错误内容，却疏于核实，存在明显过错。
其次，用户指令会直接影响生成内容的合法边界，因此用户负有审慎使用生成指令的注意义务。本案中，曹某向AI下达的“将参考文本生成一篇不低于1万字的深度长文”的指令，实质上是要求AI以不实文本为基础素材，对虚假信息进行深度扩写，主观上具有放任侵权内容生成、侵权影响扩大的故意。
二、传播阶段，曹某未对AI生成内容在发布前进行必要核实，放任虚假信息传播
曹某向AI输入了虚假信息并下达了诱导性指令，其应当预见生成结果存在虚假成分的高度可能性，但其未对生成的万字文章进行任何事实审核与虚假信息过滤，亦未采取避免损害发生的必要措施，反而直接公开发布传播，导致侵权言论扩散，具有放任侵权后果发生的主观过错。
三、曹某未尽到AI生成合成内容标识的注意义务
《人工智能生成合成内容标识办法》第十条第一款规定：“用户使用网络信息内容传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识。”该规定明确用户在传播AI生成合成内容时的标识义务，不仅有助于遏制虚假信息传播，也是提示公众、减少虚假信息误导、防范侵权风险的保护性义务。本案中，曹某发布的案涉文章为AI生成内容，其未按规定履行标识义务与主动声明责任，存在相应过错。
四、曹某未尽与其专业身份相匹配的注意义务
曹某作为具有多项专业资质的财经领域从业者，对财务造假、利益输送等术语的内涵及其社会破坏性应具有高于一般公众的认知。其应当预见案涉反映某集团公司存在财务造假等违法情形的文章经公开传播后，足以影响该公司声誉，却疏于履行与其专业相匹配的注意义务，利用公众对其专业身份的信赖，将文章标注为“原创”，主观上存在误导公众认为文章系其专业分析成果的故意。
综上，法院认定，案涉文章虽由AI生成，但曹某作为AI工具的使用者、案涉内容的发布者与传播者，是侵权风险的开启者和控制者，其未尽注意义务，客观上造成了某集团公司社会评价的降低，构成对某集团公司名誉权的侵害。
文 | 记者 鄢敏 通讯员 朱晓瑾 刘文倩