知乎是如何判定AI创作内容的？

《人工智能生成合成内容标识办法》今年 3 月已正式发布，但文字内容有别于图片、视频，使用更普及，编辑更自然、更便利；
知乎社区提供内容传播服务，在识别并向大众标记 AI 生成的内容时，无法、也不应该仅依赖生成方的标识。
为了更好地识别到 AI 内容，我们尝试了各种方法：
使用开源方案、自研模型、蒸馏模型，从文本角度识别 AI 生成内容；
结合账号累计的发布行为，提升判断的可信度；
评估相关内容影响到用户体验的路径，在推荐页、问题页、通知等主要场景上线治理策略……
最新的尝试方向是，构建高混淆程度、多样本类型的测试集，校验效果；
使用编辑器中的异常行为作为风险特征，补充模型能力。
持续优化后，在测试集上做到了准确率、召回率都超过 90%。
不过，虽然策略已经提升到了高水平状态，也难以做到完全无漏放、无误伤；如果大家使用中发现有疑似应被处罚的，或自己遇到提醒/处罚问题，欢迎随时和小管家沟通、交流。