你是否曾想过，你的聊天机器人能否像人脑一样思考，而不仅仅是根据预训练文本进行回复？也就是说，它能否像人脑一样推理信息。你可以询问聊天机器人关于某个 YouTube 视频的问题，它会找到该视频，并返回结构化的摘要，甚至是对视频关键时刻的分析。这正是我们将使用 Kimi K2 Thinking 和 Hugging Face API 来实现的。
借助 Kimi K2 的推理能力和 Hugging Face API，你可以创建一个能够理解你查询的智能体。在本文中，我们将介绍如何设置环境，通过 Streamlit 连接 Kimi K2 和 YouTube 视频的文字稿，并确保我们的聊天机器人能够利用开源推理模型。
了解Kimi K2 Thinking
Kimi K2 Thinking 是 Moonshot AI 最新推出的开源推理模型，旨在成为一个真正的推理智能体，而不仅仅是一个文本预测器。它能够将复杂问题分解为逻辑步骤，在推理过程中使用计算器等工具，并将结果整合为最终答案。基于拥有 1 万亿参数的混合专家架构和 25.6 万个词元的上下文窗口，Kimi K2 Thinking 可以无缝处理数百个推理步骤和大量的对话，使其成为当今最强大的思维模型之一。
以下是 Kimi K2 Thinking 的主要特性：以下是 Kimi K2 Thinking 的主要特性：以下是 Kimi K2 Thinking 的主要特性：
- 卓越的长期一致性：它能够在 200-300 轮对话中保持上下文连贯性，确保讨论始终围绕主题。
- 庞大的上下文窗口：凭借 25.6 万个词元，它可以处理海量输入，例如完整的视频转录和冗长的对话。
- 顶级性能：在推理、编码和智能体基准测试中，它可与领先模型（包括 GPT-5 和 Claude）相媲美或超越它们。
来源：MoonshotAI
简而言之，Kimi K2 Thinking 是一个开放式推理模型，与聊天机器人截然不同。它是一款专为程序化推理和工具使用而构建的人工智能。因此，它是打造更智能聊天机器人的理想选择。
搭建开发环境
首先，您需要搭建自己的 Python 虚拟环境并安装所有必需的软件包。例如，可以使用以下命令创建并激活虚拟环境： python -m venv .venv; source .venv/bin/activate。现在您可以安装核心库了。
- Python 和虚拟环境：请使用 Python 3.10 或更高版本以及虚拟环境（例如 venv）。
python -m venv chatbot_env source chatbot_env/bin/activate # for Linux/macOS chatbot_env\Scripts\activate # for Windows
2. 安装库：要安装必要的库，请运行以下命令：
pip install streamlit youtube-transcript-api langchain-text-splitters langchain-community faiss-cpu langchain-huggingface sentence-transformers python-dotenv
这将安装 Streamlit、YouTube 转录 API、LangChain 的文本分割工具、用于矢量搜索的 FAISS 以及 Hugging Face 与 LangChain 的集成，以及其他依赖项。（它会根据需要安装一些软件包，例如文本生成、转换器等）。这些软件包将允许您检索和处理转录文本。
3. 环境变量：创建一个 .env 文件，其中至少包含 HUGGINGFACEHUB_API_TOKEN=<your-token>。为此，请按照以下步骤操作：
- 首先访问 Hugging Face 并注册，如果您还没有帐户，请创建一个帐户。
- 现在，访问右上角的个人资料，然后单击“Access Token”。
- 之后，创建一个新的
HF_TOKEN并复制它，然后返回 VS Code 并创建一个 .env 文件，并将HF_TOKEN添加到其中。以下参考资料描述了如何配置环境变量，并提供了一个示例。
HUGGINGFACEHUB_API_TOKEN=your_token_here
将Kimi K2 Thinking与YouTube聊天机器人集成
这款聊天机器人旨在让用户能够就任何 YouTube 视频提出问题，并获得智能且符合上下文的答案。用户无需观看 45 分钟的纪录片或 2 小时的讲座，即可直接向系统提问，例如：“演讲者对通货膨胀的看法是什么？”或“请解释一下 12 分钟处描述的算法步骤。”
现在，让我们来详细了解一下系统的各个部分：
- 系统获取 YouTube 视频的文字稿，
- 将其分割成有意义的片段。
- 这些片段被转换为向量嵌入以便检索。
- 当用户查询系统时，系统会检索最相关的部分。
- 这些片段被传递给 Kimi K2 Thinking，进行逐步推理，并生成符合上下文的答案。
整个体验的每一层都至关重要，它们将非结构化的文字稿提炼成智能对话。以下我们将清晰而实用地介绍整个流程。
1. 数据导入：获取YouTube视频文字稿
整个流程从获取 YouTube 视频的文字稿开始。我们的聊天机器人使用轻量级的 youtube-transcript-api，无需下载视频文件或进行繁重的处理。
from youtube_transcript_api import YouTubeTranscriptApi, TranscriptsDisabled, NoTranscriptFound, VideoUnavailable
def fetch_youtube_transcript(video_id):
try:
you_tube_api = YouTubeTranscriptApi()
youtube_transcript = you_tube_api.fetch(video_id, languages=['en'])
transcript_data = youtube_transcript.to_raw_data()
transcript = " ".join(chunk['text'] for chunk in transcript_data)
return transcript
except TranscriptsDisabled:
return "Transcripts are disabled for this video."
except NoTranscriptFound:
return "No English transcript found for this video."
except VideoUnavailable:
return "Video is unavailable."
except Exception as e:
return f"An error occurred: {str(e)}"
此模块能够高效、可靠地以纯文本格式检索您在 YouTube 上看到的实际字幕。
2. 文本分割：对字幕进行分块
YouTube 字幕可能非常庞大，有时包含数百个字符，甚至数千个字符。由于语言模型和嵌入模型在处理较小的文本块时效果最佳，因此我们需要将字幕分割成大小可控的文本块。
该系统使用 LangChain 的 RecursiveCharacterTextSplitter，通过智能算法创建文本块，该算法在分割文本的同时，保持自然的停顿（句子、段落等）完整。
from langchain_text_splitters import RecursiveCharacterTextSplitter from a_data_ingestion import fetch_youtube_transcript def split_text(text, chunk_size=1000, chunk_overlap=200): text_splitter = RecursiveCharacterTextSplitter( chunk_size=chunk_size, chunk_overlap=chunk_overlap ) chunks = text_splitter.create_documents([text]) return chunks
为什么这很重要？
- 防止超出模型标记限制。
- 通过重叠/引用块保持上下文关联。
- 创建语义清晰的片段，以实现准确的检索。
- 分块确保不会丢失任何重要细节。
3. 嵌入和向量搜索
获得清晰的块后，我们将创建向量嵌入数学表示，以捕捉语义含义。创建向量嵌入后，我们可以进行相似性搜索，使聊天机器人能够在用户提问时从对话记录中检索相关块。
from langchain_huggingface import HuggingFaceEmbeddings
from langchain_community.vectorstores import FAISS
from dotenv import load_dotenv
load_dotenv()
def vector_embeddings(chunks):
embeddings = HuggingFaceEmbeddings(
model_name="sentence-transformers/all-mpnet-base-v2",
model_kwargs={"device": "cpu"},
encode_kwargs={"normalize_embeddings": True}
)
vector_store = FAISS.from_documents(
documents=chunks,
embedding=embeddings
)
return vector_store
主要特性：
- 采用快速轻量级的 MiniLM 嵌入模型。
- 利用 FAISS 实现极速相似度搜索。
- 跟踪每个查询的前 3 个最相关的文本片段。
由于 Kimi K2 只会收到最相关的片段，而不是整个文本，因此大大提高了准确性。
4. 集成Kimi K2思维模型
一旦识别出相关的文本片段，系统就会通过 Hugging Face 端点将其提交给 Kimi K2。此时，聊天机器人将真正展现其智能，能够执行多步骤推理、摘要，并根据先前的上下文回答问题。
参数详解：
repo_id：将请求路由到官方 Kimi K2 模型。max_new_tokens：控制响应的长度。do_sample=False：这将提供确定性且基于事实的响应。repetition_penalty：这将防止 Kimi K2 给出两次相同的答案。
5. 构建Streamlit界面并处理用户查询
要运行此部分，用户必须在侧边栏中输入 YouTube 视频 ID，可以预览视频，然后实时提问。输入有效的视频 ID 后，自动化后端会自动获取视频的文字稿。当用户提问时，机器人会在文字稿中搜索最相关的部分，丰富提示信息，并将其发送给 Kimi K2 Thinking 进行推理。用户可以立即获得回复，Streamlit 框架会以类似聊天的方式保留对话历史记录，流畅、信息丰富且无缝衔接。
运行和测试聊天机器人
要在本地进行测试，请打开 Streamlit 界面。在项目文件夹的终端中（确保虚拟环境已激活），运行以下命令：
streamlit run streamlit_app.py
这将启动本地服务器并在浏览器中打开应用程序窗口。（如果您愿意，也可以运行 python -m streamlit run streamlit_app.py）。界面侧边栏中会有一个输入框，您可以在其中输入 YouTube 视频 ID，ID 是视频 URL 中 `v=` 后面的部分。例如，您可以使用 `U8J32Z3qV8s` 作为示例讲座的 ID。输入 ID 后，应用程序将获取文本转录，然后在后台创建 RAG Pipeline（分割文本、嵌入等）。
后端运行机制：
- 检索相关的文本转录片段
- 使用
augment_fn()函数增强提示 - Kimi K2 Thinking 根据提供的上下文进行推理
- 创建要在聊天中显示的答案
- 保留会话历史记录以增强记忆效果
您可以在此 GitHub 仓库中查看完整代码。
小结
如今，构建高级聊天机器人意味着将强大的推理模型与易于使用的 API 相结合。在本教程中，我们使用 Kimi K2 Thinking 模型以及 Hugging Face API 创建了一个能够总结 YouTube 视频的聊天机器人。Kimi K2 的逐步推理和工具使用能力使机器人能够更深入地理解视频文本。像 Kimi K2 Thinking 这样的开放模型表明，人工智能的未来是开放的、强大的，并且触手可及。
评论留言