- 1、本文档被系统程序自动判定探测到侵权嫌疑,本站暂时做下架处理。
- 2、如果您确认为侵权,可联系本站左侧在线QQ客服请求删除。我们会保证在24小时内做出处理,应急电话:400-050-0827。
- 3、此文档由网友上传,因疑似侵权的原因,本站不提供该文档下载,只提供部分内容试读。如果您是出版社/作者,看到后可认领文档,您也可以联系本站进行批量认领。
DeepSeek内部研讨系列
DeepSeek私有化部署和一体机
AI肖睿团队
(韩露、王春辉、顾跃、李娜、谢安明、陈钟)
北京
•北大青鸟人工智能研究院
•北大计算机学院元宇宙技术研究所
1
摘要
1.本次讲座为DeepSeek原理和应用系列研讨的讲座之一,让大家可以决策是否需要自己部署DeepSeek系列模型,并了
解自己本地化部署DeepSeek的基本方法,同时了解更专业的企业级部署方法,有助于选择DeepSeek一体机型号,并
能理解DeepSeek云服务的工作机制和原理,用好DeepSeek云服务的API调用方法。
2.本讲座的内容分为四个主要部分:
①首先,除了DeepSeek满血版之外,还有各种各样的蒸馏版和量化版,以及DeepSeek的不同专业模型。我们将介绍人工智能大模
型的基本概念,以及DeepSeek各个模型的特点与适用场景,对比不同规模模型的性能表现,帮助大家选择最适合自己需求的版本。
②其次,对于普通用户在自己的电脑上部署和体验DeepSeek(蒸馏版)的情况,我们会评估和建议硬件要求,演示如何通过Ollama
命令行高效部署DeepSeek模型,解决下载过程中可能遇到的常见问题。为了提升在自己的电脑上安装DeepSeek模型后,大家与
DeepSeek模型的交互体验,我们还将介绍OpenWebUI和Chatbox等前端展示工具的配置与使用方法。
③然后,对于专业级的企业部署DeepSeek,或把DeepSeek(蒸馏版和满血版)部署在专业的昂贵的推理机上,本讲座将探讨基于
Transformers快速验证和vLLM的高性能部署方案,并提供真实企业基于vLLM的部署DeepSeek-70b的相关数据和经验。
④最后,作为补充内容,针对计算资源受限的场景,我们专门设计了低成本部署环节,详细讲解UnslothR1动态量化部署的三种实
现路径:基于llama.cpp、KTransformers以及Ollama框架动态量化部署。
3.在技术学习的道路上,优质学习资源至关重要。推荐大家参考《人工智能通识教程(微课版)》这本系统全面的入门教
材,结合B站“思睿观通”栏目的配套视频进行学习。此外,欢迎加入社区,以及“AI肖睿团队”的视频号和
微信号,与志同道合的AI爱好者交流经验、分享心得。
2
目录
01人工智能与DeepSeek02个人部署DeepSeek
03企业部署DeepSeek04DeepSeek一体机
33
PART01人工智能与DeepSeek
4
大模型相关术语
⚫多模态
➢文本、图片、音频、视频
⚫AI工具(国内)
➢DeepSeek、豆包、Kimi、腾讯元宝、智谱清言、通义
千问、秘塔有哪些信誉好的足球投注网站、微信有哪些信誉好的足球投注网站...
⚫通用模型
➢大语言模型(LLM,LargeLanguageModel)
➢生成模型
➢推理模型
➢视觉模型(图片、视频)
➢音频模型
➢多模态模型
➢……
⚫行业模型(垂直模型、垂类模型)
您可能关注的文档
- Robotaxi行业专题报告:Robotaxi有望推动高阶智能驾驶渗透率快速提升-202408-财通证券-.pdf
- 起重机械安全使用培训(原创).pptx
- 2025秋苏科版(新教材)小学信息科技四年级上册期末测试卷附答案.docx
- 2025秋苏科版(新教材)小学信息科技五年级上册期末测试卷附答案(共3套).docx
- 2025秋苏科版(新教材)小学信息科技三年级上册期末测试卷附答案(三套).docx
- 2025秋苏科版(新教材)小学信息科技六年级上册期末测试卷附答案.docx
- 2025年秋苏科版(新教材)小学信息科技六年级上册期末模拟试卷(含答案)(3套).docx
- 2025-2026学年苏科版(新教材)小学信息科技三年级上册期末综合测试卷及答案.docx
- 2025-2026学年苏科版(新教材)小学信息科技五年级上册期末综合测试卷及答案.docx
- 浙江省温州市浙南名校联盟2025-2026学年高二上学期期中联考历史试题含解析.docx
- 浙江省温州市浙南名校联盟2025-2026学年高一上学期期中联考数学试题含解析.docx
- 26高考数学提分秘诀重难点34圆锥曲线中的定点、定值、定直线问题(举一反三专项训练)(全国通用)(含解析).docx
- 26高考数学提分秘诀重难点35概率与统计的综合问题(举一反三专项训练)(全国通用)(含解析).docx
- 26高考数学提分秘诀重难点31圆锥曲线中的切线与切点弦问题(举一反三专项训练)(全国通用)(含解析).docx
- 26高考数学提分秘诀重难点30圆锥曲线中的弦长问题与长度和、差、商、积问题(举一反三专项训练)(全国通用)(含解析).docx
- 26高考数学提分秘诀重难点29巧解圆锥曲线的离心率问题(举一反三专项训练)(全国通用)(含解析).docx
- 26高考数学提分秘诀重难点28直线与圆的综合(举一反三专项训练)(全国通用)(含解析).docx
- 寡核苷酸药物重复给药毒性研究技术指南.docx
- 重组溶瘤腺病毒生产质量管理标准.docx
- 26高考数学提分秘诀重难点27直线与圆中常考的最值与范围问题(举一反三专项训练)(全国通用)(含解析).docx
最近下载
- 调车员理论知识培训内容课件.pptx
- 医院手术离体组织处理制度.docx VIP
- 2022年剧本娱乐行业发展报告-中国文化娱乐行业协会-202305.docx VIP
- 处世奇书《荣枯鉴》(原文+译文+解读).pdf VIP
- 专题01代词2024高考英语语法专项突破(原卷版).pdf VIP
- DB54T 0380-2024 牦牛早期断奶技术规范.docx VIP
- 2024年吉林长春市总工会公招聘工会社会工作者考试真题.docx VIP
- DB54T 0335-2024 青稞米加工技术规程.docx VIP
- 一种从白云鄂博主东矿稀土浮选尾矿中富集铌矿物的方法.pdf VIP
- DB54T 0516-2025 牦牛繁殖技术规程.docx VIP
有哪些信誉好的足球投注网站
文档评论(0)