36 lines
1.4 KiB
YAML
36 lines
1.4 KiB
YAML
id: 105 # 模型 id, 同 id 数据不会覆盖
|
|
name: Qwen3-32B # 模型 meta 名称
|
|
icon_uri: qwen_v2.png # 模型展示图片 uri
|
|
icon_url: '' # 模型展示图片 url
|
|
description:
|
|
zh: 通义千问模型 # 模型默认描述
|
|
en: qwen model description
|
|
protocol: qwen # 模型连接协议, see: backend/infra/contract/chatmodel/protocol.go
|
|
capability: # 模型基础能力
|
|
function_call: true # 模型是否支持 function call
|
|
input_modal: # 模型输入支持模态
|
|
- text
|
|
input_tokens: 128000 # 输入 token 上限
|
|
output_modal: # 模型输出支持模态
|
|
- text
|
|
output_tokens: 16384 # 输出 token 上限
|
|
max_tokens: 128000 # 最大 token 数量
|
|
json_mode: false # 是否支持 json mode
|
|
prefix_caching: false # 是否支持 prefix caching
|
|
reasoning: false # 是否支持 reasoning
|
|
prefill_response: false # 是否支持续写
|
|
conn_config: # 模型连接参数
|
|
base_url: '' # REQUIRED: base_url
|
|
api_key: '' # REQUIRED: api_key
|
|
model: '' # REQUIRED: model
|
|
temperature: 0.7 # 默认 temperature
|
|
frequency_penalty: 0 # 默认 frequency_penalty
|
|
presence_penalty: 0 # 默认 presence_penalty
|
|
max_tokens: 4096 # 默认 max_tokens
|
|
top_p: 1 # 默认 top_p
|
|
top_k: 0 # 默认 top_k
|
|
# 下面是模型专用配置，仅配置 protocol 所对应的类型即可
|
|
qwen: # OPTIONAL
|
|
response_format: # response format
|
|
type: text
|
|
status: 1 |