ONNX Spigot

插件

· 作者 icecubetr

在 Spigot 中运行本地 ONNX 模型。

0 本站下载 0 关注 更新于 6 个月前

最新 0.1.0 · 26.1.2 · Paper / Purpur

一键开服(送7天)

onnx-spigot

一个 Spigot 插件,用于运行本地 ONNX LLM 模型,通过触发器提供游戏内聊天功能,并暴露 Bukkit 服务 API 以供依赖插件使用。

特性

  • 从 plugins/onnx-spigot/models/ 目录进行本地 ONNX 推理
  • 游戏内聊天触发器(默认:@llm <message>)
  • 单一权限门控:onnxspigot.llm.use
  • 通过 ServicesManager 注册的公开 Bukkit API

模型文件夹

将你的模型文件放置在:

plugins/onnx-spigot/models/<model-name>/

必需的文件:

  • *.onnx(例如 model.onnx)
  • 分词器数据:
    • tokenizer.json,或
    • vocab.json

可选文件:

  • merges.txt(当使用 vocab.json 时用于生成更优的 BPE 合并规则)
  • tokenizer_config.json(特殊 token ID)
  • config.json(模型元数据)

在 plugins/onnx-spigot/config.yml 的 llm.model 下设置 <model-name>。

模型支持

  • 支持:Qwen 2 ONNX 模型
  • 支持:Qwen 3 ONNX 模型
  • 不支持:Gemma 模型

Qwen3-0.6B-ONNX(已确认可用)

  1. 从以下地址下载模型:

  2. 在 plugins/onnx-spigot/models/Qwen3-0.6B-ONNX/ 创建文件夹。

  3. 将模型文件复制到该文件夹中:

    • *.onnx(例如 model.onnx)
    • tokenizer.json 或 vocab.json
    • 可选:merges.txt、tokenizer_config.json、config.json
  4. 在 plugins/onnx-spigot/config.yml 中进行如下设置:

    llm:
      model: "Qwen3-0.6B-ONNX"
    

API 用法(来自其他插件)

import org.bukkit.Bukkit;
import org.bukkit.plugin.RegisteredServiceProvider;
import tr.alperendemir.onnxSpigot.api.OnnxChatApi;

RegisteredServiceProvider<OnnxChatApi> registration =
        Bukkit.getServicesManager().getRegistration(OnnxChatApi.class);
if (registration != null) {
    OnnxChatApi api = registration.getProvider();
    api.generate("Explain redstone clocks in one paragraph.")
            .thenAccept(response -> Bukkit.getLogger().info(response));
}

构建

./gradlew.bat clean build

你是这个资源的作者?登录后可认领此资源。

评论 0

0.0
暂无评分
5 星
0
4 星
0
3 星
0
2 星
0
1 星
0
我的评分

登录后参与评分

还没有评论,来抢沙发吧

评论配图

相似资源