跳到主要内容

文本生成

MIUI模型允许您与经过微调以遵循说明并响应自然语言提示的模型聊天。提示是您向MIUI模型提供的输入。它可以以各种形式出现，例如提问、给出指令或提供您希望模型执行的任务的几个示例。根据提示，MIUI模型生成文本输出作为响应。

聊天完成API接受聊天消息列表作为输入并生成响应。此响应以新的聊天消息的形式出现，并以“助理”角色作为输出。

无流媒体​

进口 os
从 米斯特拉伊 进口 

api_key = os.环境[“MIUI_API_KEY”]
模型 = “MIUI大最新”

客户 = (api_key =api_key )

聊天响应 =客户 .聊天.完成(
模型 =模型 ,
 信息 = [
        {
            “角色”: “用户”,
            “内容”: “最好的法国奶酪是什么？”,
        },
    ]
)

打印(聊天响应 .选择[0].消息.内容)

通过流媒体​

进口 os
从 米斯特拉伊 进口 

api_key = os.环境[“MIUI_API_KEY”]
模型 = “MIUI大最新”

客户 = (api_key =api_key )

流响应 =客户 .聊天.流动(
模型 =模型 ,
 信息 = [
        {
            “角色”: “用户”,
            “内容”: “最好的法国奶酪是什么？”,
        },
    ]
)

对于 块 在里面流响应 :
    打印( 块 .数据.选择[0].三角洲.内容)

使用async​

进口 异步
进口 os

从 米斯特拉伊 进口 


async def 主要的():
api_key = os.环境[“MIUI_API_KEY”]
模型 = “小”

客户 = (api_key =api_key )

 响应 = 等待客户 .聊天.stream_async(
模型 =模型 ,
 信息 =[
             {
                  “角色”: “用户”,
                  “内容”: “谁是最好的法国画家？用JSON回答。”,
              },
        ],
    )
    async 对于 块 在里面 响应 :
        如果 块 .数据.选择[0].三角洲.内容是 不 没有:
            打印( 块 .数据.选择[0].三角洲.内容, 结束="")


如果 __姓名__ == “主__”:
 异步.运行(主要的())

聊天信息​

聊天信息( 信息 )是提示或消息的集合，每条消息都分配了特定的角色，如“系统”、“用户”、“助理”或“工具”

  • A 系统消息 是一个 可选择的 在对话中为AI助手设置行为和上下文的消息，例如修改其个性或提供特定指令。系统消息可以包括任务指令、个性特征、上下文信息、创造力约束和其他相关指南，以帮助人工智能更好地理解和响应用户的输入。请参阅API参考 有关如何设置自定义系统提示的说明。
  • A 用户消息 是在与人工智能助手的对话中从人类的角度发送的消息。它通常提供人工智能助手应该回应的请求、问题或评论。用户提示人类发起和引导对话，这些对话可用于请求信息、寻求帮助、提供反馈或与人工智能进行其他类型的交互。
  • 一 助理信息 是由AI助手发送回用户的消息。它通常用于按照用户消息的说明回复用户消息，但您也可以在对话开始时找到它，例如问候用户。
  • A 工具信息 仅出现在以下上下文中 函数调用，当模型必须为用户格式化工具调用的输出时，它用于最终响应公式步骤。要了解有关函数调用的更多信息，请参阅 指导.
何时使用 用户 提示vs。 系统 然后留言 用户 留言？
  • 您可以将您的 系统 信息和 用户 将消息转换为单个 用户 或者将它们分成两条不同的消息。
  • 我们建议您尝试这两种方法，以确定哪种方法更适合您的特定用例。

其他有用功能​

  • 这个 前缀 标志允许在助手的响应内容之前添加内容。在消息中使用时，它允许在列表末尾添加助手的消息，该消息将被添加到助手的响应之前。有关其工作原理的更多详细信息，请参阅 前缀.

  • 这个 safe_prompt 标志用于强制对敏感内容进行聊天完成审核（请参见 护栏).

  • A 停止 序列允许在一个或多个选定的令牌或字符串之后强制模型停止生成。

    停止顺序示例
    卷曲 --地点 "https://www.miuiai.com/v1/chat/completions" \
        头球 '内容类型：应用程序/json' \
        头球 '接受：应用程序/json' \
        头球 “授权：持票人 $MIUI_API_KEY" \
        --数据 '{
     “model”：“MIUI large latest”，
     “消息”：[
    {
     “角色”：“用户”，
     “内容”：“法国的首都是什么？”
    }
     ],
     “停止”：[“巴黎”]
     }'