相关阅读
相关 LLM-LLaMA中文衍生模型：LLaMA-ZhiXi【没有对词表进行扩增、全参数预训练、部分参数预训练、指令微调】
> 下图展示了我们的训练的整个流程和数据集构造。整个训练过程分为两个阶段： > > （1）全量预训练阶段。该阶段的目的是增强模型的中文能力和知识储备。 > > （2）使用L
太过爱你忘了你带给我的痛相关 AIGC｜FineTune工程之LoRa高效参数微调
徐辉 | 后端开发工程师 一、引言 随着深度学习和自然语言处理技术的快速发展，大型预训练语言模型（如GPT、Vicuna、Alpaca、Llama、ChatGLM等）在
朱雀相关 LLM-LLaMA中文衍生模型：Chinese-LLaMA-Alpaca【扩充词表、Lora部分参数预训练、微调】
GitHub：[GitHub - ymcui/Chinese-LLaMA-Alpaca: 中文LLaMA&Alpaca大语言模型+本地CPU/GPU训练部署 (Chinese
忘是亡心i相关 Full-Parameter全参数微调与LoRA低秩微调
近年来，大型语言模型的指令微调是自然语言处理领域的一个重要研究领域。 由于资源和成本的限制，一些研究人员采用了参数有效的调整技术，如LoRA，并取得了不错的结果。与全参数微
超、凢脫俗相关 LLM-微调-方案（0）：prompt tuning
先说结论：已经有研究显示Prompt可以有效地应用到CV领域 \[[VPT][], CLIP, CoOP\]，但是应用仍然非常有限，有很大发挥空间。其一，Prompt的本质是调
秒速五厘米相关 LLM-微调-全参数微调：Full-Param Fine-tuning（100% parameters）
fine-tuning的过程就是用训练好的参数（从已训练好的模型中获得）初始化自己的网络，然后用自己的数据接着训练，参数的调整方法与from scratch训练过程一样（梯度下
灰太狼相关 LLM-微调-方案（一）：Lora【案例：chatGLM-Lora】【在chatGLM原有结构中间插入新的网络层】【微调时冻结原有结构参数，只微调新加入的网络层参数】
Lora主要在模型中注入可训练模块，大模型在预训练完收敛之后模型包含许多进行矩阵乘法的稠密层，这些层通常是满秩的，在微调过程中其实改变量是比较小的，在矩阵乘法中表现为低秩的改变
不念不忘少年蓝@相关 基于Keras、DenseNet模型微调、参数冻结、数据增强、模型训练、模型验证全流程记录（模型微调开发全流程记录）
基于DeneNet,使用keras搭建模型，用imagenet的权重进行预训练。densenet169的layers数量未595，冻结模型前593，增加一个2分类的dense层
相关 Tomcat-connector的微调(1): acceptCount参数
对于`acceptCount`这个参数，含义跟字面意思并不是特别一致（个人感觉），容易跟`maxConnections`,`maxThreads`等参数混淆；实际上这个参数在t
相关 查看JVM默认参数及微调JVM启动参数
目录 查看某个JVM进程堆内存信息 微调JVM启动参数 查看JVM的一些默认参数 参考廖雪峰老师的这篇 JVM调优的正确姿势： [https://w
还没有评论，来说两句吧...