AI实践
1本地部署大模型-下篇
安装完ollama后，因为是命令行交互的，所以接下来安装一下webui组件。 这里，我用docker来安装open-webui。 1.docker-compose.yml version:...
2本地部署大模型-上篇
今天介绍Linux（Ubuntu24.04）下部署大模型的入门教程。最简单就是Ollama+Open-WebUI。无GPU模式。 1.下载Ollama 打开 https://ollama.c...
3构造自己的大模型微调语料
“微调做得好，大模型效果翻几倍。” —— 一个上头的数据人 随着大语言模型（LLM）的普及，我们越来越发现：即便是千亿参数的SOTA模型，如果没有贴合业务场景的数据，也只是“高分低能”。 那么问题...
4手把手做一场 LoRA 微调
⚙️ 适合对象： ✅ 有基础Python环境 ✅ 有少量定制数据（如：企业问答、写作风格、客服语料） ✅ 想训练一个属于自己的“定制AI助手” 第一步：准备你的训练环境 ✅...
5体验模型的微调（fine-tuning）
都在微调，但是就是没有一个具体的从空白开始的例子。以前在colab上基本都是一切准备就绪，自己填填空，就能顺利进行。 到了本地机器，居然因为package的版本问题，搞得手忙脚乱的。特此留念。 1...