Chat Moderator - 本地 AI

插件

原名 Chat Moderator - LOCAL AI · 作者 Bobcat

ChatModer 是一款轻量级的 AI 聊天审核插件,适用于 Paper 1.21。它结合正则表达式过滤与可选的离线 ONNX 模型,在无需付费 API 的情况下屏蔽有害和不当消息。

0 本站下载 0 关注 更新于 1 年前

最新 1.0-SNAPSHOT · 1.21.8 · Paper

一键开服(送7天)

Chat Moderator – 基于 AI 辅助聊天的 Paper 1.21 审核插件

ChatModer 是一款轻量级、免费且基于 AI 辅助的聊天审核插件,适用于 Paper 1.21 Minecraft 服务器。ChatModer 将快速的正则表达式/语言过滤与可选的离线 ONNX 分类器相结合,能够准确审核有毒、仇恨、色情和骚扰信息,而无需使用付费 API。

功能特性

  • 混合审核:正则表达式 + 可选的 RoBERTa ONNX AI
  • 身份感知的仇恨检测(无需 API 密钥)
  • 语言检测与拦截
  • 可调节的阈值、惩罚措施和严格模式
  • 用于审查、训练和状态查看的管理员工具
  • 持久化统计信息与自动保存(SQLite/MySQL)及自动迁移
  • 文件/数据库日志记录与审查工具
  • 性能优化,支持异步分类与缓存
  • 完全离线工作(无需付费 API)
  • 高度可配置且可扩展

安装

  1. 将 ChatModer.jar 放入服务器的 plugins/ 目录中
  2. 重启服务器以生成 plugins/ChatModer/config.yml
  3. (可选)在 plugins/ChatModer/models/ 下添加 ONNX 模型文件夹,并在配置文件中指向该 ONNX 文件

AI 模型设置 (Hugging Face RoBERTa)

ChatModer 支持 Hugging Face RoBERTa ONNX 模型,例如 protectai/unbiased-toxic-roberta-onnx。

创建如下文件夹:

plugins/ChatModer/models/unbiased-toxic-roberta-onnx/

在其中放入以下文件:

  • model_quantized.onnx(推荐)或 model.onnx
  • config.json(包含 id2label/label2id)
  • tokenizer.json(首选),或 vocab.json + merges.txt
  • 可选:tokenizer_config.json、special_tokens_map.json

配置片段:

moderation:
  ai:
    enabled: true
    model_path: plugins/ChatModer/models/unbiased-toxic-roberta-onnx/model_quantized.onnx
    max_sequence_length: 128
    async_threads: 2
    timeout_ms: 500

分词器和配置文件将从与 ONNX 相同的文件夹中自动加载。

标签映射

  • obscene -> profanity(脏话)
  • insult/threat -> harassment(骚扰)
  • sexual_explicit -> sexual(色情)
  • identity_attack -> hate(仇恨)
  • toxicity/severe_toxicity 会略微提升对脏话/骚扰的判定权重
  • 纯身份标签(如 black、muslim)本身不会被标记;它们仅在结合侮辱/毒性内容时作为上下文参考

模式

  • regex:仅使用正则表达式/词库启发式规则
  • ai-only:仅使用 ONNX 模型(如果已启用);仍会使用语言拦截和白名单
  • hybrid(推荐):结合正则表达式与 AI;AI 评分可通过 moderation.ai.weight 进行加权
moderation:
  enabled: true
  mode: hybrid   # regex | ai-only | hybrid
  ai:
    enabled: true
    weight: 0.8

数据库与自动保存

统计数据默认持久化到 SQLite,如果配置了 MySQL 则保存到 MySQL。插件可以将现有的 SQLite 统计数据自动迁移到 MySQL。

database:
  type: sqlite
  sqlite_file: plugins/ChatModer/data.db
  mysql:
    host: 127.0.0.1
    port: 3306
    database: chatmoder
    user: root
    password: "secret"
    useSSL: false
  sqlite_migrate_file: plugins/ChatModer/data.db

stats:
  autosave_seconds: 300

阈值与惩罚

针对每个类别微调审核敏感度和操作措施。

thresholds:
  profanity: 0.7
  harassment: 0.6
  hate: 0.6
  sexual: 0.7
  spam: 0.8

punishments:
  profanity: block         # warn | tempmute | kick | tempban | block | command:<cmd>
  harassment: warn
  hate: tempmute
  sexual: block
  spam: block

日志与审查

  • 文件日志:JSONL 格式写入 plugins/ChatModer/logs/flags.log
  • 数据库日志:SQLite/MySQL flags 表(可选)
  • 审查:/chatmod review <player> 如果启用了数据库则从 DB 读取,否则从文件日志读取。支持旧版的美化打印日志和紧凑 JSONL 格式。

命令

  • /chatmod toggle — 启用/禁用审核。
  • /chatmod status — 实时统计概览。
  • /chatmod review <player> — 审查最近被标记的消息。
  • /chatmod whitelist add|remove <word> — 管理白名单。
  • /chatmod strict reload — 重新加载严格列表。
  • /chatmod train add|capture|fromlog|words|stats|export — 数据集工具。
  • /chatmod stats reset confirm — 清除内存中的统计数据并立即持久化。

训练工作流(可选)

  • Capture:记录最近的消息作为训练的上下文
  • From log:挖掘被标记的日志以构建数据集
  • Words:词频分析
  • Stats:训练数据集统计
  • Export:输出 dataset.jsonl 以便进行微调

所有工具均可通过 /chatmod train ... 使用。

严格模式

对于即时拦截的情况(例如高严重性令牌),启用严格规则并通过命令重新加载而无需重启服务器:

/chatmod strict reload

权限

  • chatmod.admin — 访问管理员命令
  • chatmod.bypass — 绕过审核
  • chatmod.review — 访问审查工具

性能

  • 仅正则表达式模式以实现最小开销
  • AI 异步运行并使用 CPU 上的量化 ONNX 模型
  • 使用令牌和消息缓存以减少重复工作

隐私

所有处理均在本地完成。除非启用 Webhooks,否则不会进行外部 API 调用。

兼容性

  • Paper 1.21(大多数现代分支版本应能正常工作)
  • Java 17+
  • 内置 SQLite;MySQL 需要有效的凭据

故障排除

  • ONNX 模型未加载:检查 moderation.ai.model_path 并确保 config.json 和 tokenizer.json(或 vocab.json + merges.txt)位于同一目录下。
  • 分类超时:增加 moderation.ai.timeout_ms 或减少 max_sequence_length。
  • CPU 占用过高:使用 model_quantized.onnx 并将 max_sequence_length 保持在 128/256。
  • 审查无条目显示:确保已启用日志记录(文件或数据库)且日志不为空。

支持

请在项目仓库中提交 Issue,附上日志、配置和复现步骤。如果您使用了自定义模型,请提供模型详情。

你是这个资源的作者?登录后可认领此资源。

评论 0

0.0
暂无评分
5 星
0
4 星
0
3 星
0
2 星
0
1 星
0
我的评分

登录后参与评分

还没有评论,来抢沙发吧

评论配图

相似资源