央视曝光哩布哩布AI涉黄漏洞，公司致歉整改，平台收紧审核

据央视《财经调查》报道，近日，多款AI应用在内容审核方面存在漏洞，其中AI图像生成平台哩布哩布AI（LiblibAI）被点名。记者使用网上流传的“隐晦提示词”测试发现，平台一度可生成带有明显性暗示的内容，过程中未触发限制机制。

4月14日，哩布哩布AI发布致歉声明称，经排查，在部分复杂提示词组合及规避表达的边界场景下，平台确实存在生成不符合规范内容的情况。目前相关问题已完成技术修复，并对风险路径进行封堵。实测显示，相关提示词已无法生成违规内容，平台审核明显收紧。

公开信息显示，哩布哩布AI成立于2023年，2025年10月完成1.3亿美元B轮融资，由红杉中国、CMC资本联合领投。平台目前已汇聚超过2000万创作者，累计生成图片超过5亿张，在国内AI图像生成社区中处于头部位置。

在业务快速发展的同时，平台内容治理能力也面临更高要求。有业内人士表示，随着生成能力提升，审核机制需要同步升级，如何在用户增长与内容安全之间保持平衡，已成为AI平台普遍面临的问题。

央视调查还显示，围绕AI生成内容，相关灰色产业链已逐步形成。一些商家以售卖“提示词教程”为名，提供规避审核的方法，将敏感表达进行变形处理后用于生成违规内容，并通过引流、付费等方式变现，形成“售卖提示词—AI生成内容—非法牟利”的灰色产业链。商家甚至以“日入5位数”为诱饵，诱导更多人参与。

法律人士指出，隐晦提示词本身并不必然违法，但若生成内容触及法律红线，平台与用户均可能承担责任。北京盈科律师事务所姜万东律师表示，平台需履行内容管理义务，及时处置违规信息；用户若故意规避规则生成违法内容，同样需承担法律责任。

2026年4月10日，五部门联合公布《人工智能拟人化互动服务管理暂行办法》，自7月15日起施行，明确安全评估和算法备案要求。平台合规应贯穿产品设计、模型迭代与审核机制等环节。随着审核收紧，部分用户反馈使用体验受影响，如何在合规与体验之间平衡仍是平台需要持续面对的挑战。