【快班】大语言模型部署
人工智能
6周
0人
此课程所属【人工智能职业方向】专业，专业内有不少于15门推荐课程，目前平台推出【专业课程0元学】活动，只需0元即可在所有的专业课程中任选5门学习，超值优惠，助您快速成长！点击这里了解
讲师
- lijiajian
课程简介
随着人工智能技术的迅速发展，大语言模型（例如GPT、GLM等）已经成为自然语言处理（NLP）领域的重要组成部分。这些模型能够理解和生成人类语言，从而在聊天机器人、自动写作、情感分析等多种应用中发挥作用。
尽管通常通过云服务来访问这些模型，但本地部署提供了一种确保数据隐私和优化性能的有效途径。本课程旨在教授学生如何将大型自然语言处理模型（如GPT-3）部署到本地环境，并构建应用程序来利用这些模型的强大能力。
学生将学习如何处理模型的部署、性能优化和安全性等关键方面。
课程章节
- 第1课 安装和设置开发环境，简述huggingface
- 第2课 llama-2-7b-hf （英文）单显卡部署
- 第3课 ChatGlm3-6B 单显卡部署
- 第4课 Qwen-14B-Chat 多显卡部署
- 第5课 Qwen-VL—-Chat 大规模视觉语言模型部署
- 第6课 使用模型的API构建应用
课程环境
内存：8G及以上
硬盘：空闲空间20GB及以上
操作系统：Win7、Win8或Win10
网络：可以上网
显卡：双卡15g以上 RTX3090以上 （单卡只能学习到单卡部署）
授课对象
对大语言模型技术感兴趣的小白
收获预期
学会自行构建环境，部署各类大语言模型。
学费
学费: ￥400 ( 固定学费: ￥300， 逆向学费: ￥100 )
新颖的课程收费形式：“逆向收费”约等于免费学习，仅收取300元固定收费+100元逆向学费，学习圆满则逆向学费全额返还给学员！
相关课程