Gradio 代理 & MCP 黑客松

获奖者
Gradio logo
  1. 组件
  2. Chatbot

Gradio 新手?从这里开始:快速入门

查看发布历史

Chatbot

gradio.Chatbot(type="messages", ···)
import gradio as gr with gr.Blocks() as demo: gr.Chatbot(value=[ {"role": "user", "content": "Hello World"}, {"role": "assistant", "content": "Hey Gradio!"}, {"role": "user", "content": "❤️"}, {"role": "assistant", "content": "😍"} ], type="messages") demo.launch()

描述

创建一个聊天机器人,用于显示用户提交的消息和回复。支持部分 Markdown 语法,包括粗体、斜体、代码、表格。还支持在聊天机器人中显示音频/视频/图像文件,以及以链接形式显示其他类型的文件。此组件通常用作输出组件。

行为

Chatbot 接受的数据格式由 type 参数决定。此参数可取两个值:'tuples''messages''tuples' 类型已弃用,并将在 Gradio 的未来版本中移除。

消息格式

如果 type'messages',则发送到聊天机器人或从聊天机器人发送的数据将是包含 rolecontent 键的字典列表。此格式与大多数 LLM API(HuggingChat、OpenAI、Claude)所期望的格式兼容。role 键可以是 'user''assistant',而 content 键可以是字符串(渲染为 Markdown/HTML)或 Gradio 组件(用于显示文件)。

例如

import gradio as gr

history = [
    {"role": "assistant", "content": "I am happy to provide you that report and plot."},
    {"role": "assistant", "content": gr.Plot(value=make_plot_from_file('quaterly_sales.txt'))}
]

with gr.Blocks() as demo:
    gr.Chatbot(history, type="messages")

demo.launch()

为了方便,您可以使用 ChatMessage 数据类,以便您的文本编辑器可以为您提供自动完成提示和类型检查。

import gradio as gr

history = [
    gr.ChatMessage(role="assistant", content="How can I help you?"),
    gr.ChatMessage(role="user", content="Can you make me a plot of quarterly sales?"),
    gr.ChatMessage(role="assistant", content="I am happy to provide you that report and plot.")
]

with gr.Blocks() as demo:
    gr.Chatbot(history, type="messages")

demo.launch()

初始化

参数
🔗
value: list[MessageDict | Message] | TupleFormat | Callable | None
默认 = None

要在聊天机器人中显示的默认消息列表,每条消息的格式为 {"role": "user", "content": "Help me."}。角色可以是 "user"、"assistant" 或 "system" 之一。内容应为文本,或作为 Gradio 组件传递的媒体,例如 {"content": gr.Image("lion.jpg")}。如果提供了函数,每次应用程序加载时都会调用该函数以设置此组件的初始值。

🔗
type: Literal['messages', 'tuples'] | None
默认 = None

传入 `fn` 的聊天历史参数的消息格式。如果为 "messages",则将值作为字典列表传递,其中包含 OpenAI 风格的 "role" 和 "content" 键。"content" 键的值应为以下之一:(1) 有效 Markdown 格式的字符串 (2) 包含 "path" 键和对应要显示的文件值的字典 (3) Gradio 组件实例。目前支持 Image、Plot、Video、Gallery、Audio、HTML 和 Model3D。 "role" 键应为 'user' 或 'assistant' 之一。任何其他角色将不会显示在输出中。如果此参数为 'tuples',则预期为 `list[list[str | None | tuple]]`,即一个列表的列表。内部列表应包含两个元素:用户消息和回复消息,但此格式已弃用。

🔗
label: str | I18nData | None
默认 = None

此组件的标签。出现在组件上方,如果此组件有示例表格,也用作标题。如果为 None 并在 `gr.Interface` 中使用,则标签将是此组件所分配参数的名称。

🔗
every: Timer | float | None
默认 = None

如果 `value` 是一个函数,则持续调用 `value` 以重新计算它(否则无效)。可以提供一个 Timer,其滴答声重置 `value`,或提供一个浮点数作为重置 Timer 的常规间隔。

🔗
inputs: Component | list[Component] | set[Component] | None
默认 = None

用作输入以计算 `value` 的组件,如果 `value` 是一个函数(否则无效)。每当输入更改时,都会重新计算 `value`。

🔗
show_label: bool | None
默认 = None

如果为 True,将显示标签。

🔗
container: bool
默认 = True

如果为 True,将把组件放入一个容器中——在边框周围提供一些额外的填充。

🔗
scale: int | None
默认 = None

相对于相邻组件的相对大小。例如,如果组件 A 和 B 在一行中,且 A 的 scale=2,B 的 scale=1,则 A 的宽度将是 B 的两倍。应为整数。scale 适用于行中,以及 Blocks 中 fill_height=True 的顶级组件。

🔗
min_width: int
默认 = 160

最小像素宽度,如果屏幕空间不足以满足此值,将进行换行。如果某个 scale 值导致此组件宽度小于 min_width,则将首先遵守 min_width 参数。

🔗
visible: bool
默认 = True

如果为 False,组件将被隐藏。

🔗
elem_id: str | None
默认 = None

一个可选字符串,用作此组件在 HTML DOM 中的 ID。可用于指定 CSS 样式。

🔗
elem_classes: list[str] | str | None
默认 = None

一个可选的字符串列表,用作此组件在 HTML DOM 中的类。可用于指定 CSS 样式。

🔗
autoscroll: bool
默认 = True

如果为 True,当值更改时将自动滚动到文本框底部,除非用户向上滚动。如果为 False,当值更改时将不滚动到文本框底部。

🔗
render: bool
默认 = True

如果为 False,组件将不会在 Blocks 上下文中渲染。如果目的是现在分配事件监听器但稍后渲染组件,则应使用此选项。

🔗
key: int | str | tuple[int | str, ...] | None
默认 = None

在 `gr.render` 中,跨重新渲染具有相同键的组件被视为同一组件,而不是新组件。在 'preserved_by_key' 中设置的属性不会在重新渲染时重置。

🔗
preserved_by_key: list[str] | str | None
默认 = "value"

此组件构造函数中的参数列表。在 `gr.render()` 函数中,如果组件以相同的键重新渲染,这些(且仅这些)参数将在 UI 中保留(如果它们已被用户或事件监听器更改),而不是根据构造函数中提供的值重新渲染。

🔗
height: int | str | None
默认 = 400

组件的高度,如果传递数字则以像素为单位,如果传递字符串则以 CSS 单位为单位。如果消息超出高度,组件将滚动。

🔗
resizable: bool
默认 = False

如果为 True,Gradio 应用程序的用户可以通过拖动右下角来调整聊天机器人大小。

🔗
resizeable: bool
默认 = False
🔗
max_height: int | str | None
默认 = None

组件的最大高度,如果传递数字则以像素为单位,如果传递字符串则以 CSS 单位为单位。如果消息超出高度,组件将滚动。如果消息短于高度,组件将收缩以适应内容。如果 `height` 已设置且小于 `max_height`,则不会有任何效果。

🔗
min_height: int | str | None
默认 = None

组件的最小高度,如果传递数字则以像素为单位,如果传递字符串则以 CSS 单位为单位。如果消息超出高度,组件将展开以适应内容。如果 `height` 已设置且大于 `min_height`,则不会有任何效果。

🔗
editable: Literal['user', 'all'] | None
默认 = None

允许用户编辑聊天机器人中的消息。如果设置为 "user",则允许编辑用户消息。如果设置为 "all",则也允许编辑助手消息。

🔗
latex_delimiters: list[dict[str, str | bool]] | None
默认 = None

一个字典列表,形式为 {"left": 开定界符 (str), "right": 闭定界符 (str), "display": 是否在新行显示 (bool)},将用于渲染 LaTeX 表达式。如果未提供,`latex_delimiters` 将设置为 `[{ "left": "$$", "right": "$$", "display": True }]`,因此只有用 $$ 定界符括起来的表达式将渲染为 LaTeX,并另起一行。传入空列表以禁用 LaTeX 渲染。有关更多信息,请参阅 KaTeX 文档

🔗
rtl: bool
默认 = False

如果为 True,则将渲染文本的方向设置为从右到左。默认值为 False,即从左到右渲染文本。

🔗
show_share_button: bool | None
默认 = None

如果为 True,将在组件角落显示一个共享图标,允许用户将输出分享到 Hugging Face Spaces Discussions。如果为 False,则不显示图标。如果设置为 None(默认行为),则此 Gradio 应用在 Spaces 上启动时显示图标,否则不显示。

🔗
show_copy_button: bool
默认 = False

如果为 True,将为每个聊天机器人消息显示一个复制按钮。

🔗
watermark: str | None
默认 = None

如果提供,此文本将在复制自聊天机器人的消息末尾,空行后附加。这对于指示消息是由 AI 模型生成的情况很有用。

🔗
avatar_images: tuple[str | Path | None, str | Path | None] | None
默认 = None

用户和机器人的两个头像图片路径或 URL(按此顺序)。将用户或机器人图片设置为 None 可跳过。必须位于 Gradio 应用程序的工作目录内或外部 URL。

🔗
sanitize_html: bool
默认 = True

如果为 False,将禁用聊天机器人消息的 HTML 清理。不建议这样做,因为它可能导致安全漏洞。

🔗
render_markdown: bool
默认 = True

如果为 False,将禁用聊天机器人消息的 Markdown 渲染。

🔗
feedback_options: list[str] | tuple[str, ...] | None
默认 = ('Like', 'Dislike')

一个字符串列表,表示将显示给用户的反馈选项。精确区分大小写的字符串 "Like" 和 "Dislike" 将渲染为点赞/点踩图标,但任何其他选择将显示在一个单独的旗帜图标下。

🔗
feedback_value: list[str | None] | None
默认 = None

一个字符串列表,表示整个聊天的反馈状态。仅当 type="messages" 时有效。列表中的每个条目按顺序对应于该助手消息,并且值是给出的反馈(例如 "Like"、"Dislike" 或任何自定义反馈选项),如果该消息没有反馈,则为 None。

🔗
bubble_full_width: <class 'inspect._empty'>
默认 = None

已弃用。

🔗
line_breaks: bool
默认 = True

如果为 True(默认),将启用聊天机器人消息中的 Github 风格 Markdown 换行。如果为 False,则忽略单个新行。仅当 `render_markdown` 为 True 时适用。

🔗
layout: Literal['panel', 'bubble'] | None
默认 = None

如果为 "panel",将以 LLM 风格布局显示聊天机器人。如果为 "bubble",将显示带有消息气泡的聊天机器人,用户和机器人消息交替显示在两侧。默认为 "bubble"。

🔗
placeholder: str | None
默认 = None

当聊天机器人为空时显示的占位符消息。在聊天机器人中垂直和水平居中。支持 Markdown 和 HTML。如果为 None,则不显示占位符。

🔗
examples: list[ExampleMessage] | None
默认 = None

在显示任何用户/助手消息之前,要在聊天机器人中显示示例消息列表。每个示例都应是一个字典,其中包含一个可选的 "text" 键,表示单击时应填充到聊天机器人中的消息;一个可选的 "files" 键,其值应为要在聊天机器人中填充的文件列表;一个可选的 "icon" 键,其值应为要在示例框中显示的图像的文件路径或 URL;以及一个可选的 "display_text" 键,其值应为要在示例框中显示的文本。如果未提供 "display_text",则将显示 "text" 的值。

🔗
show_copy_all_button: <class 'inspect._empty'>
默认 = False

如果为 True,将显示一个复制所有按钮,将所有聊天机器人消息复制到剪贴板。

🔗
allow_file_downloads: <class 'inspect._empty'>
默认 = True

如果为 True,将显示一个下载按钮,用于包含媒体的聊天机器人消息。默认为 True。

🔗
group_consecutive_messages: bool
默认 = True

如果为 True,将把来自相同角色的连续消息显示在同一个气泡中。如果为 False,将把每条消息显示在单独的气泡中。默认为 True。

🔗
allow_tags: list[str] | bool
默认 = False

如果提供标签列表,即使 `sanitize_html` 为 `True`,这些标签也将在输出聊天机器人消息中保留。例如,如果此列表为 ["thinking"],则 `<thinking>` 和 `</thinking>` 标签将不会被移除。如果为 True,所有自定义标签(非标准 HTML 标签)都将保留。如果为 False,则不保留任何标签(默认行为)。

快捷方式

接口字符串快捷方式 初始化

gradio.Chatbot

"chatbot"

使用默认值

示例

显示思考/工具使用

typemessages 时,您可以提供有关用于生成响应的任何工具的额外元数据。这对于显示 LLM 代理的思考过程很有用。例如,

def generate_response(history):
    history.append(
        ChatMessage(role="assistant",
                    content="The weather API says it is 20 degrees Celcius in New York.",
                    metadata={"title": "🛠️ Used tool Weather API"})
        )
    return history

将显示如下

Gradio chatbot tool display

您也可以使用普通的 Python 字典指定元数据,

def generate_response(history):
    history.append(
        dict(role="assistant",
             content="The weather API says it is 20 degrees Celcius in New York.",
             metadata={"title": "🛠️ Used tool Weather API"})
        )
    return history

gr.Chatbot 中使用 Gradio 组件

Chatbot 组件支持在聊天机器人内部使用许多核心 Gradio 组件(例如 gr.Imagegr.Plotgr.Audiogr.HTML)。只需在您的元组列表中包含其中一个组件即可。这是一个示例

import gradio as gr

def load():
    return [
        ("Here's an audio", gr.Audio("https://github.com/gradio-app/gradio/raw/test/test_files/audio_sample.wav")),
        ("Here's an video", gr.Video("https://github.com/gradio-app/gradio/raw/demo/video_component/files/world.mp4"))
    ]

with gr.Blocks() as demo:
    chatbot = gr.Chatbot()
    button = gr.Button("Load audio and video")
    button.click(load, None, chatbot)

demo.launch()

演示

import gradio as gr
import random
import time

with gr.Blocks() as demo:
    chatbot = gr.Chatbot(type="messages")
    msg = gr.Textbox()
    clear = gr.ClearButton([msg, chatbot])

    def respond(message, chat_history):
        bot_message = random.choice(["How are you?", "Today is a great day", "I'm very hungry"])
        chat_history.append({"role": "user", "content": message})
        chat_history.append({"role": "assistant", "content": bot_message})
        time.sleep(2)
        return "", chat_history

    msg.submit(respond, [msg, chatbot], [msg, chatbot])

if __name__ == "__main__":
    demo.launch()

		

事件监听器

描述

事件监听器允许您响应用户与您在 Gradio Blocks 应用中定义的 UI 组件的交互。当用户与某个元素交互时,例如更改滑块值或上传图像,将调用一个函数。

支持的事件监听器

Chatbot 组件支持以下事件监听器。每个事件监听器都采用相同的参数,这些参数列在下面的事件参数表中。

监听器 描述

Chatbot.change(fn, ···)

当 Chatbot 的值因用户输入(例如用户在文本框中输入)或函数更新(例如图像从事件触发器的输出接收值)而更改时触发。有关仅由用户输入触发的监听器,请参阅 .input()

Chatbot.select(fn, ···)

当用户选择或取消选择 Chatbot 时触发的事件监听器。使用事件数据 gradio.SelectData 携带引用 Chatbot 标签的 value 和引用 Chatbot 状态的 selected。有关如何使用此事件数据,请参阅 EventData 文档。

Chatbot.like(fn, ···)

当用户在 Chatbot 中点赞/点踩时触发此监听器。此事件具有 gradio.LikeData 类型的 EventData,它携带可通过 LikeData.index 和 LikeData.value 访问的信息。有关如何使用此事件数据,请参阅 EventData 文档。

Chatbot.retry(fn, ···)

当用户点击聊天机器人消息中的重试按钮时触发此监听器。

Chatbot.undo(fn, ···)

当用户点击聊天机器人消息中的撤消按钮时触发此监听器。

Chatbot.example_select(fn, ···)

当用户点击 Chatbot 内的示例时触发此监听器。此事件具有 gradio.SelectData 类型的 SelectData,它携带可通过 SelectData.index 和 SelectData.value 访问的信息。有关如何使用此事件数据,请参阅 SelectData 文档。

Chatbot.option_select(fn, ···)

当用户点击 Chatbot 内的选项时触发此监听器。此事件具有 gradio.SelectData 类型的 SelectData,它携带可通过 SelectData.index 和 SelectData.value 访问的信息。有关如何使用此事件数据,请参阅 SelectData 文档。

Chatbot.clear(fn, ···)

当用户使用组件的清除按钮清除 Chatbot 时触发此监听器。

Chatbot.copy(fn, ···)

当用户从 Chatbot 复制内容时触发此监听器。使用事件数据 gradio.CopyData 携带有关复制内容的信息。有关如何使用此事件数据,请参阅 EventData 文档。

Chatbot.edit(fn, ···)

当用户使用内置编辑器编辑 Chatbot(例如图像)时触发此监听器。

事件参数

参数
🔗
fn: Callable | None | Literal['decorator']
默认 = "decorator"

此事件触发时要调用的函数。通常是机器学习模型的预测函数。函数的每个参数对应一个输入组件,函数应返回一个单一值或一个值元组,元组中的每个元素对应一个输出组件。

🔗
inputs: Component | BlockContext | list[Component | BlockContext] | Set[Component | BlockContext] | None
默认 = None

用作输入的 gradio.components 列表。如果函数不接受任何输入,则此项应为空列表。

🔗
outputs: Component | BlockContext | list[Component | BlockContext] | Set[Component | BlockContext] | None
默认 = None

用作输出的 gradio.components 列表。如果函数不返回任何输出,则此项应为空列表。

🔗
api_name: str | None | Literal[False]
默认 = None

定义端点在 API 文档中的显示方式。可以是字符串、None 或 False。如果设置为字符串,则端点将以给定名称在 API 文档中公开。如果为 None(默认),则函数的名称将用作 API 端点。如果为 False,则端点不会在 API 文档中公开,并且下游应用程序(包括那些 `gr.load` 此应用程序的应用程序)将无法使用此事件。

🔗
scroll_to_output: bool
默认 = False

如果为 True,完成时将滚动到输出组件

🔗
show_progress: Literal['full', 'minimal', 'hidden']
默认 = "full"

事件运行时如何显示进度动画:“full”显示一个覆盖输出组件区域和右上角运行时显示的旋转器,“minimal”仅显示运行时显示,“hidden”完全不显示进度动画。

🔗
show_progress_on: Component | list[Component] | None
默认 = None

显示进度动画的组件或组件列表。如果为 None,将在所有输出组件上显示进度动画。

🔗
queue: bool
默认 = True

如果为 True,如果队列已启用,将把请求放入队列。如果为 False,即使队列已启用,也不会将此事件放入队列。如果为 None,将使用 gradio 应用程序的队列设置。

🔗
batch: bool
默认 = False

如果为 True,则函数应处理一批输入,这意味着它应该接受每个参数的输入值列表。这些列表的长度应相等(并且最多为 `max_batch_size`)。然后,函数*必须*返回一个列表元组(即使只有一个输出组件),元组中的每个列表对应一个输出组件。

🔗
max_batch_size: int
默认 = 4

如果从队列调用此项,则最大批量输入数量(仅当 batch=True 时相关)

🔗
preprocess: bool
默认 = True

如果为 False,在运行 'fn' 之前不会对组件数据进行预处理(例如,如果使用 `Image` 组件调用此方法,则将其保留为 base64 字符串)。

🔗
postprocess: bool
默认 = True

如果为 False,在将 'fn' 输出返回到浏览器之前不会对组件数据进行后处理。

🔗
cancels: dict[str, Any] | list[dict[str, Any]] | None
默认 = None

当此监听器触发时要取消的其他事件列表。例如,设置 cancels=[click_event] 将取消 click_event,其中 click_event 是另一个组件的 .click 方法的返回值。尚未运行的函数(或正在迭代的生成器)将被取消,但当前正在运行的函数将允许完成。

🔗
trigger_mode: Literal['once', 'multiple', 'always_last'] | None
默认 = None

如果为 "once"(除 `.change()` 之外所有事件的默认值),则在事件待处理期间不允许任何提交。如果设置为 "multiple",则在待处理期间允许无限次提交,而 "always_last"(`.change()` 和 `.key_up()` 事件的默认值)将允许在待处理事件完成后进行第二次提交。

🔗
js: str | Literal[True] | None
默认 = None

在运行 'fn' 之前运行的可选前端 JS 方法。JS 方法的输入参数是 'inputs' 和 'outputs' 的值,返回值应为输出组件的值列表。

🔗
concurrency_limit: int | None | Literal['default']
默认 = "default"

如果设置,这是可以同时运行的此事件的最大数量。可以设置为 None 表示没有并发限制(任何数量的此事件都可以同时运行)。设置为 "default" 以使用默认并发限制(由 `Blocks.queue()` 中的 `default_concurrency_limit` 参数定义,其本身默认为 1)。

🔗
concurrency_id: str | None
默认 = None

如果设置,这是并发组的 ID。具有相同 concurrency_id 的事件将受到最低设置的 concurrency_limit 限制。

🔗
show_api: bool
默认 = True

是否在 Gradio 应用程序的“查看 API”页面或 Gradio 客户端的“.view_api()”方法中显示此事件。与将 api_name 设置为 False 不同,将 show_api 设置为 False 仍将允许下游应用程序以及客户端使用此事件。如果 fn 为 None,show_api 将自动设置为 False。

🔗
time_limit: int | None
默认 = None
🔗
stream_every: float
默认 = 0.5
🔗
like_user_message: bool
默认 = False
🔗
key: int | str | tuple[int | str, ...] | None
默认 = None

此事件监听器的唯一键,用于 @gr.render()。如果设置,当键相同时,此值将标识跨重新渲染的事件是相同的。

辅助类

ChatMessage

gradio.ChatMessage(···)

描述

一个数据类,表示 Chatbot 组件中的消息(type="messages")。唯一必填字段是 contentgr.Chatbot 的值是这些数据类的列表。

参数
🔗
content: str | FileData | Component | FileDataDict | tuple | list

消息内容。可以是字符串或 Gradio 组件。

🔗
role: Literal['user', 'assistant', 'system']
默认 = "assistant"

消息的角色,它决定了消息在聊天机器人中的对齐方式。可以是 "user"、"assistant" 或 "system"。默认为 "assistant"。

🔗
metadata: MetadataDict
默认 = _HAS_DEFAULT_FACTORY_CLASS()

消息的元数据,用于显示中间思考/工具使用。应是一个字典,包含以下键:"title"(显示思考所必需),以及可选的:"id" 和 "parent_id"(用于嵌套思考),"duration"(显示思考的持续时间),"status"(显示思考的状态)。

🔗
options: list[OptionDict]
默认 = _HAS_DEFAULT_FACTORY_CLASS()

消息的选项。Option 对象的列表,这些对象是包含以下键的字典:"label"(要在选项中显示的文本),以及可选的 "value"(如果与标签不同,则在选择选项时返回的值)。

MetadataDict

一个类型化字典,用于表示 Chatbot 组件中消息的元数据。当聊天消息应显示为思考时,此字典的一个实例用于 ChatMessage 中的 metadata 字段。

🔗
title: str

“思考”消息的标题。唯一必填字段。

🔗
id: int | str

消息的 ID。仅用于嵌套思考。通过将 parent_id 设置为父思考的 ID,可以嵌套思考。

🔗
parent_id: int | str

父消息的 ID。仅用于嵌套思考。

🔗
log: str

在思考标题旁边以柔和字体显示的消息字符串。

🔗
duration: float

消息的持续时间(秒)。以柔和字体显示在思考标题旁边,位于括号内。

🔗
status: Literal['pending', 'done']

如果设置为 `'pending'`,思考标题旁边会出现一个旋转器,并且手风琴组件初始化为打开。如果 `status` 为 `'done'`,思考手风琴组件初始化为关闭。如果未提供 `status`,思考手风琴组件初始化为打开,并且不显示旋转器。

OptionDict

一个类型化字典,用于表示 ChatMessage 中的选项。这些字典的列表用于 ChatMessage 中的 options 字段。

🔗
value: str

选择选项时返回的值。

🔗
label: str

要在选项中显示的文本,如果与值不同。

指南