响应流式传输

在使用Claude构建聊天应用程序时，存在一个重大的用户体验挑战：响应可能需要10-30秒才能生成，这会让用户一直盯着加载动画。解决方案是响应流式传输，它让用户能够看到文本随着Claude生成而逐块出现，从而创造出更具响应性的体验。



标准响应的问题

在典型的聊天设置中，您的服务器向Claude发送用户消息，并等待完整的响应后才向客户端发送任何内容。这会造成一个尴尬的延迟，用户没有任何反馈表明正在发生什么。



流式传输的工作原理

启用流式传输后，Claude会立即发回一个初始响应，表明它已收到您的请求并开始生成文本。然后您会收到一系列事件，每个事件都包含整体响应的一小部分。



您的服务器可以在这些文本块到达时将它们转发给您的客户端应用程序，让用户能够逐字看到响应的构建过程。所有这些事件都是对Claude的单个请求的一部分。



理解流事件

启用流式传输后，Claude会发回几种类型的事件：

• MessageStart - 正在发送新消息
• ContentBlockStart - 包含文本、工具使用或其他内容的新块的开始
• ContentBlockDelta - 实际生成文本的块
• ContentBlockStop - 当前内容块已完成
• MessageDelta - 当前消息已完成
• MessageStop - 当前消息信息的结束



ContentBlockDelta 事件包含您希望向用户显示的实际生成文本。

基本流式传输实现

要启用流式传输，请在您的messages.create调用中添加 stream=True：

messages = []
add_user_message(messages, "Write a 1 sentence description of a fake database")

stream = client.messages.create(
    model=model,
    max_tokens=1000,
    messages=messages,
    stream=True
)

for event in stream:
    print(event)



简化的文本流式传输

您可以使用SDK的简化流式传输接口来提取纯文本内容，而不必手动解析事件：

with client.messages.stream(
    model=model,
    max_tokens=1000,
    messages=messages
) as stream:
    for text in stream.text_stream:
        print(text, end="")

这种方法会自动过滤掉除实际文本内容之外的所有内容，这通常正是您向用户显示响应时所需要的。

获取最终消息

虽然流式传输对用户体验非常有利，但您通常需要完整的消息来进行存储或进一步处理。流式传输完成后，您可以获取组装好的最终消息：

with client.messages.stream(
    model=model,
    max_tokens=1000,
    messages=messages
) as stream:
    for text in stream.text_stream:
        pass  # Send to client in real application
    
    final_message = stream.get_final_message()

这为您提供了用户体验所需的流式传输能力，以及用于数据库存储或对话历史记录的完整消息对象。

实际考虑因素

流中的每个文本块可以包含多个单词甚至完整的句子——您不能保证每个事件恰好收到一个单词。块的大小取决于Claude生成每部分文本的速度。

在生产应用程序中，您通常会通过WebSockets或服务器发送事件（Server-Sent Events）立即将这些文本块转发给您的客户端应用程序，让用户能够实时看到响应的出现，同时在您的服务器上维护完整的对话历史记录。