[RFC] 136 - Tools Engine

[arvinxx]

背景和问题

当前 tools 系统的主要问题：

• 分散管理: toolSelectors.enabledSchema() 和 ChatService.prepareTools() 逻辑分散
• 重复代码: 兼容性检查和转换逻辑在多处重复
• 难以扩展: 缺乏统一的工具启用/关闭判断机制，存在 联网功能提示词不计入 token 计数器 #7620 这种问题

核心设计思想

创建一个注入式的 ToolsEngine，统一处理 pluginIds → ChatCompletionTool[] 的转换：

1. 初始化注入: 注入静态的 manifest schemas
2. 策略注入: 注入可扩展的插件启用判断函数
3. 统一转换: 收敛所有工具相关的过滤和转换逻辑

核心接口设计

类型定义

interface ToolsGenerationContext {
  environment?: 'desktop' | 'web';
  isSearchEnabled?: boolean;
  allowImageGeneration?: boolean;
  userPermissions?: string[];
  [key: string]: any;
}

type PluginEnableChecker = (params: {
  pluginId: string;
  manifest: LobeChatPluginManifest;
  model: string;
  provider: string;
  context?: ToolsGenerationContext;
}) => boolean;

interface GenerateToolsParams {
  pluginIds: string[];
  model: string;
  provider: string;
  context?: ToolsGenerationContext;
}

ToolsEngine 核心类

class ToolsEngine {
  constructor(options: {
    manifestSchemas: LobeChatPluginManifest[];
    enableChecker?: PluginEnableChecker;
    functionCallChecker?: (model: string, provider: string) => boolean;
  }) {}

  generateTools(params: GenerateToolsParams): ChatCompletionTool[] | undefined {
    // 1. 使用注入的 functionCallChecker 检查模型支持
    // 2. 使用注入的 enableChecker 过滤插件
    // 3. 转换 manifest 为 ChatCompletionTool[]
  }
}

使用示例

基础使用

const toolsEngine = new ToolsEngine({
  manifestSchemas: [WebBrowsingManifest, DalleManifest],
  functionCallChecker: (model, provider) => isCanUseFC(model, provider),
  enableChecker: ({ pluginId, context }) => {
    if (pluginId === 'lobe-web-browsing') {
      return context?.isSearchEnabled === true;
    }
    return true;
  },
});

const tools = toolsEngine.generateTools({
  pluginIds: ['lobe-web-browsing'],
  model: 'gpt-4',
  provider: 'openai',
  context: { isSearchEnabled: true }
});

替换现有实现

// 替换 ChatService.prepareTools
prepareTools(pluginIds: string[], workingModel: WorkingModel) {
  return this.toolsEngine.generateTools({
    pluginIds,
    model: workingModel.model,
    provider: workingModel.provider,
    context: {
      environment: isDesktop ? 'desktop' : 'web',
      isSearchEnabled: this.getSearchConfig().enabled,
    }
  });
}

实施步骤

1. 创建 ToolsEngine - 在 packages/context-engine/src/tools/ 下实现核心类
2. 集成到 ChatService - 替换现有的 prepareTools 实现
3. 更新 tool selectors - 使用 ToolsEngine 替换 enabledSchema

进展

• 🐛 fix: refactor tools-engine and fix search token count #9448