40 lines
1.6 KiB
YAML
40 lines
1.6 KiB
YAML
id: 106 # 模型 id, 同 id 数据不会覆盖
|
|
name: Claude-3.5-Sonnet # 模型 meta 名称
|
|
icon_uri: claude_v2.png # 模型展示图片 uri
|
|
icon_url: '' # 模型展示图片 url
|
|
description:
|
|
zh: claude 模型简介 # 模型默认描述
|
|
en: claude model description
|
|
protocol: claude # 模型连接协议, see: backend/infra/contract/chatmodel/protocol.go
|
|
capability: # 模型基础能力
|
|
function_call: true # 模型是否支持 function call
|
|
input_modal: # 模型输入支持模态
|
|
- text
|
|
- image
|
|
input_tokens: 128000 # 输入 token 上限
|
|
output_modal: # 模型输出支持模态
|
|
- text
|
|
output_tokens: 16384 # 输出 token 上限
|
|
max_tokens: 128000 # 最大 token 数量
|
|
json_mode: false # 是否支持 json mode
|
|
prefix_caching: false # 是否支持 prefix caching
|
|
reasoning: false # 是否支持 reasoning
|
|
prefill_response: false # 是否支持续写
|
|
conn_config: # 模型连接参数
|
|
base_url: '' # REQUIRED: base_url
|
|
api_key: '' # REQUIRED: api_key
|
|
model: '' # REQUIRED: model
|
|
temperature: 0.7 # 默认 temperature
|
|
frequency_penalty: 0 # 默认 frequency_penalty
|
|
presence_penalty: 0 # 默认 presence_penalty
|
|
max_tokens: 4096 # 默认 max_tokens
|
|
top_p: 1 # 默认 top_p
|
|
top_k: 0 # 默认 top_k
|
|
# 下面是模型专用配置，仅配置 protocol 所对应的类型即可
|
|
claude: # OPTIONAL
|
|
by_bedrock: false # true if using bedrock service
|
|
access_key: '' # access key
|
|
secret_access_key: '' # secret access key
|
|
session_token: '' # session_token
|
|
region: '' # region
|
|
status: 1 |