杭州宣判“AI幻觉案”：AI不是“免责金牌”

【本报讯】一篇由AI自动生成的文章，将无关公司包装成知名企业的“重要子公司”，引发不正当竞争纠纷。博主却认为内容是AI写的，其不应该负责。

民众与AI下棋机器人博弈。（图片来源：中新网资料图）

中新网报道，浙江杭州市滨江区法院3日表示，该院审结了这起因传播AI幻觉内容引发的不正当竞争纠纷案，明确生成式人工智能的使用者必须扛起“内容审核”与“显著标识”的双重责任，为AI时代的内容创作与传播划定清晰的责任边界。

据了解，原告是在电商领域具有极高知名度的公司。被告李某是百度百家号某账号的运营者。

2023年12月30日，李某使用某AI平台生成一篇题为《某数字控股有限公司是真的吗》的文章，称某数字控股（深圳）有限公司是原告公司的重要子公司。实际上，文中公司与原告公司没有任何关联。原告公司遂以不正当竞争为由，将李某诉至法院，要求其消除影响、赔偿损失。法庭上，李某辩称，涉案文章完全由AI生成，自己未作修改，且在后台标注了“由某AI平台生成”，主观上没有侵权故意。

法院认为，生成式人工智能作为内容生产工具，“AI幻觉”现象在现阶段难以避免，但这恰恰要求使用者必须承担起最终的把关责任。特别是像李某这样拥有数万粉丝、通过商业推广营利的自媒体运营者，更不能以内容为AI生成作为推卸责任的理由。法院最终认定，被告行为构成不正当竞争行为，判决被告在其账号内连续3日发布声明消除影响，并赔偿3万元。

“当前，生成式人工智能的‘幻觉’现象难以避免，它可能流畅地输出看似合理却并不真实的信息。但技术的局限，不应成为使用者规避责任的‘避风港’。法律所关注和规制的，始终是人的行为。”杭州市滨江区人民法院白马湖人民法庭(数据知识产权法庭)庭长倪晓花表示。

浙江大学光华法学院教授、博导张伟君认为，在当前难以完全避免“AI幻觉”现象的技术条件下，此案判决适时和恰当地确立了因人工智能生成内容存在信息错误而导致侵权损害的司法裁量标准，为自媒体内容提供者发布人工智能生成内容提供了清晰和准确的司法指引。（完）