Claude Academy
加载中

响应流式传输

第 7 课9 分钟

在使用Claude构建聊天应用程序时，存在一个重大的用户体验挑战：响应可能需要10-30秒才能生成，这会让用户一直盯着加载动画。解决方案是响应流式传输，它让用户能够看到文本随着Claude生成而逐块出现，从而创造出更具响应性的体验。

标准响应的问题

在典型的聊天设置中，您的服务器向Claude发送用户消息，并等待完整的响应后才向客户端发送任何内容。这会造成一个尴尬的延迟，用户没有任何反馈表明正在发生什么。

流式传输的工作原理

启用流式传输后，Claude会立即发回一个初始响应，表明它已收到您的请求并开始生成文本。然后您会收到一系列事件，每个事件都包含整体响应的一小部分。

您的服务器可以在这些文本块到达时将它们转发给您的客户端应用程序，让用户能够逐字看到响应的构建过程。所有这些事件都是对Claude的单个请求的一部分。

理解流事件

当您启用流式传输时，Claude会发回几种类型的事件：

  • MessageStart - 正在发送新消息
  • ContentBlockStart - 包含文本、工具使用或其他内容的新块的开始
  • ContentBlockDelta - 实际生成文本的块
  • ContentBlockStop - 当前内容块已完成
  • MessageDelta - 当前消息已完成
  • MessageStop - 当前消息信息的结束

ContentBlockDelta 事件包含您希望向用户展示的实际生成文本。

基本流式传输实现

要启用流式传输，请在您的messages.create调用中添加 stream=True：

python
messages = []
add_user_message(messages, "Write a 1 sentence description of a fake database")

stream = client.messages.create(
    model=model,
    max_tokens=1000,
    messages=messages,
    stream=True
)

for event in stream:
    print(event)

简化的文本流式传输

您可以使用SDK的简化流式传输接口来提取纯文本内容，而不必手动解析事件：

python
with client.messages.stream(
    model=model,
    max_tokens=1000,
    messages=messages
) as stream:
    for text in stream.text_stream:
        print(text, end="")

这种方法会自动过滤掉除实际文本内容之外的所有内容，这通常正是您向用户展示响应时所需要的。

获取完整消息

虽然流式传输单个文本块对用户体验非常有利，但您通常需要完整的消息来进行存储或进一步处理。流式传输完成后，您可以获取组装好的最终消息：

python
with client.messages.stream(
    model=model,
    max_tokens=1000,
    messages=messages
) as stream:
    for text in stream.text_stream:
        # 将每个数据块发送给您的客户端
        pass
    
    # 获取完整消息以存入数据库
    final_message = stream.get_final_message()

这为您提供了两者的最佳结合：为用户提供实时流式传输，同时为您的应用程序逻辑提供完整的消息对象。