Day 34 · AI 聊天 API(上)

Week 5 · Day 34 / 56 · 返回大纲

一、整合项目

FastAPI + 流式输出 + 多轮对话 + 结构化输出。

@app.post("/chat")
async def chat(message: str, model: str = "claude-sonnet-4-20250514"):
    async def generate():
        with client.messages.stream(
            model=model,
            max_tokens=1024,
            messages=[{"role": "user", "content": message}]
        ) as stream:
            for text in stream.text_stream:
                yield f"data: {text}\n\n"
    
    return StreamingResponse(generate(), media_type="text/event-stream")

动手练习

练习 1:聊天 API
实现 POST /chat
@app.post("/chat")
async def chat(msg: str):
    return StreamingResponse(...)
查看答案
参考答案
# 流式返回
练习 2:多模型
支持切换模型
model: str = "claude-sonnet-4-20250514"
查看答案
参考答案
# 参数选择

打卡验收

能整合 FastAPI + LLM
理解流式输出的实现
会支持多模型切换
完成 2 个动手练习
后端 + AI 第一次会师
能向别人演示聊天 API
理解 SSE 的原理
Week 5 完成!
打卡方式: 全部勾选后,告诉我 "Day 34 打卡",并贴出你的代码。