Mistral

Mistral 对话组件的详细信息

组件格式

Dapr 的 conversation.yaml 组件文件具有以下结构:

apiVersion: dapr.io/v1alpha1
kind: Component
metadata:
  name: mistral
spec:
  type: conversation.mistral
  metadata:
  - name: key
    value: mykey
  - name: model
    value: open-mistral-7b
  - name: responseCacheTTL
    value: 10m

规范元数据字段

字段必需说明示例
keyYMistral 的 API 密钥。mykey
modelN要使用的 Mistral LLM。默认为 open-mistral-7bopen-mistral-7b
responseCacheTTLN内存响应缓存的生存时间。设置后,相同的请求将从缓存中返回,直到过期。10m

相关链接