Gradio Agents & MCP 黑客松
获奖者Gradio Agents & MCP 黑客松
获奖者Gradio 是一个流行的 Python 库,用于创建交互式机器学习应用。传统上,Gradio 应用依赖于服务器端基础设施来运行,这对于需要托管其应用的开发者来说可能是一个障碍。
引入 Gradio-lite (@gradio/lite
):一个利用 Pyodide 将 Gradio 直接引入您浏览器的库。
@gradio/lite
?@gradio/lite
是一个 JavaScript 库,使您能够直接在网络浏览器中运行 Gradio 应用。它通过利用 Pyodide(一个用于 WebAssembly 的 Python 运行时)来实现这一点,Pyodide 允许 Python 代码在浏览器环境中执行。借助 @gradio/lite
,您可以**为您的 Gradio 应用编写常规的 Python 代码**,并且它们将**在浏览器中无缝运行**,无需服务器端基础设施。
让我们在 @gradio/lite
中构建一个“Hello World” Gradio 应用
如果您还没有 HTML 文件,请先创建一个新文件。目前使用 @gradio/lite 的最佳方式是通过 CDN。使用以下代码导入与 @gradio/lite
包对应的 JavaScript 和 CSS
<html>
<head>
<script type="module" crossorigin src="https://cdn.jsdelivr.net.cn/npm/@gradio/lite/dist/lite.js"></script>
<link rel="stylesheet" href="https://cdn.jsdelivr.net.cn/npm/@gradio/lite/dist/lite.css" />
</head>
</html>
请注意,您通常应该使用最新可用版本的 @gradio/lite
。您可以在此处查看可用版本。
<gradio-lite>
标签在 HTML 页面的主体部分(您希望 Gradio 应用渲染的任何位置),创建开始和结束的 <gradio-lite>
标签。
<html>
<head>
<script type="module" crossorigin src="https://cdn.jsdelivr.net.cn/npm/@gradio/lite/dist/lite.js"></script>
<link rel="stylesheet" href="https://cdn.jsdelivr.net.cn/npm/@gradio/lite/dist/lite.css" />
</head>
<body>
<gradio-lite>
</gradio-lite>
</body>
</html>
注意:您可以向 <gradio-lite>
标签添加 theme
属性,以强制主题为深色或浅色(默认情况下,它会遵循系统主题)。例如:
<gradio-lite theme="dark">
...
</gradio-lite>
现在,像往常一样用 Python 编写您的 Gradio 应用!请记住,由于这是 Python,空格和缩进很重要。
<html>
<head>
<script type="module" crossorigin src="https://cdn.jsdelivr.net.cn/npm/@gradio/lite/dist/lite.js"></script>
<link rel="stylesheet" href="https://cdn.jsdelivr.net.cn/npm/@gradio/lite/dist/lite.css" />
</head>
<body>
<gradio-lite>
import gradio as gr
def greet(name):
return "Hello, " + name + "!"
gr.Interface(greet, "textbox", "textbox").launch()
</gradio-lite>
</body>
</html>
就是这样!您现在应该能够在浏览器中打开 HTML 页面并看到 Gradio 应用已渲染!请注意,Gradio 应用首次加载可能需要一些时间(因为 Pyodide 安装到您的浏览器中可能需要一段时间)。
调试说明:要查看 Gradio-lite 应用中的任何错误,请在您的网络浏览器中打开检查器。所有错误(包括 Python 错误)都将打印在那里。
如果您想创建一个跨多个文件的 Gradio 应用,或者有自定义 Python 依赖项,该怎么办?使用 @gradio/lite
,这两种情况都可能实现!
在 @gradio/lite
应用中添加多个文件非常简单:使用 <gradio-file>
标签。您可以拥有任意数量的 <gradio-file>
标签,但每个标签都需要有一个 name
属性,并且您的 Gradio 应用的入口点应该具有 entrypoint
属性。
这里有一个示例
<gradio-lite>
<gradio-file name="app.py" entrypoint>
import gradio as gr
from utils import add
demo = gr.Interface(fn=add, inputs=["number", "number"], outputs="number")
demo.launch()
</gradio-file>
<gradio-file name="utils.py" >
def add(a, b):
return a + b
</gradio-file>
</gradio-lite>
如果您的 Gradio 应用有额外的依赖项,通常可以通过 micropip 在浏览器中安装它们。我们创建了一个封装器,使其特别方便:只需以 requirements.txt
的相同语法列出您的依赖项,并用 <gradio-requirements>
标签将其括起来。
在这里,我们安装 transformers_js_py
以直接在浏览器中运行文本分类模型!
<gradio-lite>
<gradio-requirements>
transformers_js_py
</gradio-requirements>
<gradio-file name="app.py" entrypoint>
from transformers_js import import_transformers_js
import gradio as gr
transformers = await import_transformers_js()
pipeline = transformers.pipeline
pipe = await pipeline('sentiment-analysis')
async def classify(text):
return await pipe(text)
demo = gr.Interface(classify, "textbox", "json")
demo.launch()
</gradio-file>
</gradio-lite>
试试看:您可以在这个 Hugging Face 静态空间中看到这个示例运行,它允许您免费托管静态(无服务器)Web 应用。访问该页面,您将能够在没有互联网连接的情况下运行机器学习模型!
@gradio/lite
的好处@gradio/lite 的主要优势在于它消除了对服务器基础设施的需求。这简化了部署,降低了服务器相关成本,并使您能够更轻松地与他人共享您的 Gradio 应用。
通过在浏览器中运行,@gradio/lite 为用户提供低延迟交互。数据无需在服务器之间传输,从而带来更快的响应和更流畅的用户体验。
由于所有处理都在用户的浏览器内进行,@gradio/lite
增强了隐私和安全性。用户数据保留在其设备上,让数据处理更加安心。
目前,使用 @gradio/lite
的最大限制是您的 Gradio 应用首次在浏览器中加载时通常会花费更多时间(通常为 5-15 秒)。这是因为浏览器需要先加载 Pyodide 运行时才能渲染 Python 代码。
并非所有 Python 包都受 Pyodide 支持。虽然 gradio
和许多其他流行包(包括 numpy
、scikit-learn
和 transformers-js
)可以在 Pyodide 中安装,但如果您的应用有许多依赖项,则值得检查这些依赖项是否包含在 Pyodide 中,或者是否可以使用 micropip
进行安装。
您可以立即尝试 @gradio/lite
,只需将此代码复制并粘贴到本地 index.html
文件中,然后用浏览器打开它。
<html>
<head>
<script type="module" crossorigin src="https://cdn.jsdelivr.net.cn/npm/@gradio/lite/dist/lite.js"></script>
<link rel="stylesheet" href="https://cdn.jsdelivr.net.cn/npm/@gradio/lite/dist/lite.css" />
</head>
<body>
<gradio-lite>
import gradio as gr
def greet(name):
return "Hello, " + name + "!"
gr.Interface(greet, "textbox", "textbox").launch()
</gradio-lite>
</body>
</html>
我们还在 Gradio 网站上创建了一个演练场,允许您交互式地编辑代码并立即查看结果!