【必藏】从零开始构建大模型应用：小智伴模型模块实战指南

大鱼Ss

1118人浏览 · 2025-10-27 21:35:20

大鱼Ss · 2025-10-27 21:35:20 发布

本文详细介绍了"小智伴"系统中模型模块的设计与实现，重点解析了大模型底层原理、模型选择策略、参数配置与部署要求。文章以DeepSeek-V3为例，展示了基于LangGraph框架的Agent架构设计，并提供了核心代码实现。强调了在AIGC时代，培养问题定义能力和技术选型判断力比掌握单一技术更为重要。

导语

 本文我们将聚焦于**模型模块**的具体应用方案。当前，各类模型层出不穷，无论是文本、图像、音频还是视频类大模型，都推动了**AIGC领域**的爆发式发展。AI技术在各个领域受到前所未有的关注，ChatGPT 5、Genimi 3.0、deepseek、千问等大模型的相继推出，进一步推动了**人工智能领域**的前瞻性发展。在模型选择上，“小智伴”个人助手采用了 deepseek v3 模型。接下来，我们将详细介绍该模型的搭建过程。

思考？

浅谈大模型底层原理，业务使用应该如何选择模型
当前市面上各个模型的优势对比
模型参数，部署服务的要求

大模型如何工作

大模型的工作我认为可以从这三个层面来理解：生成机制、知识的存储与获取、以及信息的输入/输出过程。

首先，我们知道模型的输出本质上是基于条件概率的预测：它能结合在给定上下文的前提下，模型为每一个可能的下一个字计算一个概率分布，产生多个词，然后内部取数器根据一些策略（如贪心、采样、Top-k、Top-p）从中选择一个输出。这意味着生成结果受上下文、模型参数和采样策略共同影响。

其次，模型需要大量的数据和训练来“学习”语言和知识。训练过程通过优化模型参数（即权重）来拟合训练语料中的统计规律。就像我们的大脑，他存储的信息是分布式的，我的视觉，听觉，嗅觉，触觉，共同完成一个信息的载体，大脑才得出一个消息并处理。

  模型也是以**分布式的方式**编码在数以亿、百亿甚至更多的浮点参数中。与生物神经元的“脉冲发放”不同，**人工神经网络**使用连续数值（激活值）和矩阵运算来模拟输入信号的传播与变换，训练通常依赖**反向传播**与**梯度下降**等算法调整权重。

第三，关于知识的输入与输出：输入首先被分词并映射为向量（embedding），再加上位置编码等信息送入模型。不难理解，因为模型需要把这些词转码为机器识别的。

  就像我们的眼睛一样，当我们看到一个场景时，眼睛中的**视网膜**会把**光信号**分解成无数个**像素点**，这些信号通过视神经传递到大脑的**视觉皮层**。大脑再对这些信号进行**整合**、**识别**与**重建**，最终在我们的意识中形成一幅完整的画面。

   模型通过多层注意力（self-attention）机制也就是我们经常听到的神经网络，多次的输入、输出。在这些向量之间建立**上下文**相关的关联，从而将“上下文→输出概率分布”的映射学会。

  总之，大模型不是把每一个事实单独“记住”在某个小储存单元里，而是通过大规模参数把**语言**和**知识的统计**模式编码在网络中；在推理时，通过**注意力**和**向量运算**把上下文与参数结合，输出概率最高下一个标记，从而生成连贯的文本。

生活

贴士

生活中，我们会遇到很多问题，我总是继续的想方设法着急解决它，不防你换个思路，先想清楚问题，然后在思考怎么解决它。

大模型场景

场景是否符合使用模型解决，你需要想清楚以下3点。

1.你要解决什么问题？

  是**生成内容**、**分析理解**、**结构化预测**、**对话交互**还是**工具决策**？

2.你的约束条件是什么？

  成本？隐私？响应速度？准确性？是否能联网或用外部知识？

3.你希望AI在其中扮演的角色是什么？

  是“助手（Agent）”“决策参考”“创意生成者”“任务执行者”？


适用	不适用
理解 + 生成型任务	强实时性场景
分析与推理型任务	高隐私/安全要求场景
智能体(Agent)类任务	知识精确度极高的场景

模型大舞台

当前主流的大模型，本期我们针对文本类，基于聊天生成式模型。

国外：Grok3、GPT-5、Gemini2.0、LLaMA 3

国内：deepseek、千问、千帆、kimi k2、GLM4

    这么多模型，在项目中，我总体测试的几个，国外的，如果要求必须专业，辞藻华丽用GPT，贴合生活，文本处理流畅自然用Gemini。

   国内，**DeepSeek-V3**：在文本逻辑性与整体严谨度上表现突出，适用于对**逻辑结构**要求较高的处理任务。

    需要说明的是，以上建议基于实际项目体验得出，尚未经过严格的样本实验验证，仅为参考。欢迎大家提出不同见解，也非常期待与你交流更多使用体验。

模型参数

模型参数数量

我们经常看到某个模型参数：7B、14B、32B、72B，这B是即代表 10 亿参数。

这个参数不是说，他有10亿个字，是有10亿个类似我们大脑的神经元。模型会提前学习大量的知识，来形成足够多的经验，这里提一点，不是参数越多越聪明，跟训练数据的质量与训练方法与架构效率等方法有关系。
```
这个沉淀下来的小模型，在得到外界信息输入，会经过多层的网络算法，结合经验信息，预测下一个词。这个里面还有大量的模型、算法的联合使用，最终形成一个庞大的**思维链**。
```

2.量化 INT8、INT4

量化是一种模型压缩技术，它通过用更少的位数来存储模型的权重和激活值，从而大幅减小模型体积、降低显存需求。类似于视频的1024P、720P，画质不同，占用的空间大小不同，需要媒介的要求也不同。

INT8：将 32 位或 16 位浮点数转换为 8 位整数，每个参数变为 1 个字节；

INT4：最常用的量化方案，每个参数压缩为 0.5 个字节，虽然体积进一步缩小，但精度损失会更多；

   核心目的：是在尽可能保持模型能力的前提下，显著降低其“**身材**”和“**饭量**”，让它能在更普通的设备上“跑起来”。

3.模型大小、部署要求

  了解了基础概念后，我们可以动手计算不同参数模型的大小。

   例如：一个 1B（10 亿参数）的 FP32 模型，单个参数占 4 字节，那么模型大小为：

模型大小 = 参数数量 × 每个参数字节数 = 10 亿 × 4 字节 = 40 亿字节 ≈4GB

显存：

显存需求 = 模型大小 × 1.2

  对于一个 14B 参数的 FP32 模型，模型大小为 14 × 4 = 56GB，乘以 1.2 后，运行所需显存约为 67.2GB。

这里也只是算的模型的，系统层面运行时也需要内存使用至少需要扩20%。这么大的需求量，所以量化的出现就简单多了，这个我们后续详细介绍。

项目实施步骤

本期采用模型
使用的架构
核心代码的使用

模型选择

Deepseek-chat 底层是deepseek v3
百万tokens输出
3元，命中缓存 0.2元

代码架构设计

本系统采用Agent架构的LangGraph框架来引入大模型。

LangGraph的优势：架构设计所带来的灵活性和控制力，构建一个复杂的、有状态的、需要多个模型和工具根据动态条件进行协作的智能代理（Agent）时，LangGraph 的图结构、精确的状态管理和循环控制能力，使得整个系统的设计、实现和控制都变得更加清晰和强大

核心代码

import json
from typing import Dict, Any, Optional
import httpx
from loguru import logger
import hashlib
from app.core.config import settings
classDeepSeekAPIService:
"""DeepSeek API服务类"""
def__init__(self):
self.api_key = settings.DEEPSEEK_API_KEY
self.base_url = settings.DEEPSEEK_BASE_URL
self.default_model = settings.DEEPSEEK_MODEL
self.default_temperature = settings.DEEPSEEK_TEMPERATURE
self.default_max_tokens = settings.DEEPSEEK_MAX_TOKENS
# DeepSeek官方API使用API-Key头
self.headers = {
"Authorization": f"Bearer {self.api_key}",
"Content-Type": "application/json"
}
asyncdefgenerate_response(
self,
prompt: str,
model: Optional[str] = None,  # 使用配置中的默认模型
max_tokens: Optional[int] = None,  # 使用配置中的默认值
temperature: Optional[float] = None,  # 使用配置中的默认值
system_message: Optional[str] = None,
use_cache: bool = False  # 默认不使用缓存
) -> Dict[str, Any]:
# 使用配置中的默认值
if model isNone:
model = self.default_model
if max_tokens isNone:
max_tokens = self.default_max_tokens
if temperature isNone:
temperature = self.default_temperature
try:
messages = []
# 添加系统消息
if system_message:
messages.append({
"role": "system",
"content": system_message
})
# 添加用户问题
messages.append({
"role": "user",
"content": prompt
})
# 构建请求数据
request_data = {
"model": model,
"messages": messages,
"max_tokens": max_tokens,
"temperature": temperature,
"stream": False
}
# 发送API请求
asyncwith httpx.AsyncClient(timeout=30.0) as client:
logger.info(f"调用DeepSeek API: {self.base_url}/chat/completions")
logger.info(f"请求头: {self.headers}")
logger.info(f"请求数据: {request_data}")
response = await client.post(
f"{self.base_url}/chat/completions",
headers=self.headers,
json=request_data
)
logger.info(f"API响应状态码: {response.status_code}")
logger.info(f"API响应头: {dict(response.headers)}")
if response.status_code == 200:
result = response.json()
logger.info(f"API响应成功: {result.get('model', 'unknown')}")
response_data = {
"success": True,
"content": result["choices"][0]["message"]["content"],
"usage": result.get("usage", {}),
"model": model
}
return response_data
else:
error_text = response.text
logger.error(f"DeepSeek API调用失败: {response.status_code} - {error_text}")
return {
"success": False,
"error": f"API调用失败: {response.status_code}",
"detail": error_text
}
except Exception as e:
print(e)
logger.error(f"DeepSeek API调用异常: {str(e)}")
return {
"success": False,
"error": "API调用异常",
"detail": str(e)
}

总结

在AIGC快速发展的今天，保持技术敏感度很重要，但更重要的是培养“问题定义能力”和“技术选型判断力”，这比掌握任何单一技术都更有价值。

2025年伊始，AI技术浪潮汹涌，正在深刻重塑程序员的职业轨迹：

阿里云宣布核心业务全线接入Agent架构；

字节跳动后端岗位中，30%明确要求具备大模型开发能力；

腾讯、京东、百度等技术岗位开放招聘，约80%与AI紧密相关；

……

大模型正推动技术开发模式全面升级，传统的CRUD开发方式，逐渐被AI原生应用所替代！

眼下，已有超60%的企业加速推进AI应用落地，然而市场上能真正交付项目的大模型应用开发工程师，却极为短缺！实现AI应用落地，远不止写几个提示词、调用几个接口那么简单。企业真正需要的，是能将业务需求转化为实际AI应用的工程师！这些核心能力不可或缺：

✅RAG（检索增强生成）：为模型注入外部知识库，从根本上提升答案的准确性与可靠性，打造可靠、可信的“AI大脑”。
✅Agent（智能体）：赋能AI自主规划与执行，通过工具调用与环境交互，完成多步推理，胜任智能客服等复杂任务。
✅微调：如同对通用模型进行“专业岗前培训”，让它成为你特定业务领域的专家。

随着AI技术飞速发展，大模型的应用已从理论走向大规模落地，渗透到社会经济的方方面面。

技术能力上：其强大的数据处理与模式识别能力，正在重塑自然语言处理、计算机视觉等领域。
行业应用上：开源人工智能大模型已走出实验室，广泛落地于医疗、金融、制造等众多行业。尤其在金融、企业服务、制造和法律领域，应用占比已超过30%，正在创造实实在在的价值。

请添加图片描述
未来大模型行业竞争格局以及市场规模分析预测:

掌握AI能力的程序员，其薪资水位已与传统开发拉开显著差距。当大厂开始优化传统岗位时，却为AI大模型人才开出百万年薪——而这，在当下仍是一将难求。

技术的稀缺性，才是你「值钱」的关键！

AI浪潮，正在重构程序员的核心竞争力！不要等“有AI项目开发经验”，成为面试门槛的时候再入场，错过最佳时机！

那么，我们如何学习AI大模型呢？

在一线互联网企业工作十余年里，我指导过不少同行后辈，经常会收到一些问题，我是小白，学习大模型该从哪里入手呢？我自学没有方向怎么办？这个地方我不会啊。如果你也有类似的经历，一定要继续看下去！这些问题，也不是三言两语啊就能讲明白的。

所以呢，我专为各位开发者设计了一套全网最全最细的大模型零基础教程，从基础到应用开发实战训练，旨在将你打造成一名兼具深度技术与商业视野的AI大佬，而非仅仅是“调参侠”。

同时，这份精心整理的AI大模型学习资料，我整理好了，免费分享！只希望它能用在正道上，帮助真正想提升自己的朋友。让我们一起用技术做点酷事！

ps:微信扫描即可获取
加上后我将逐一发送资料
与志同道合者共勉
真诚无偿分享！！！

※大模型全套学习资料展示

通过与MoPaaS魔泊云的强强联合，我们的课程实现了质的飞跃。我们持续优化课程架构，并新增了多项贴合产业需求的前沿技术实践，确保你能获得更系统、更实战、更落地的大模型工程化能力，从容应对真实业务挑战。
在这里插入图片描述资料内容涵盖了从入门到进阶的各类视频教程和实战项目，无论你是小白还是有些技术基础的技术人员，这份资料都绝对能帮助你提升薪资待遇，转行大模型岗位。