FunGPT 是基于 InternLM2.5 系列大模型开发的开源项目，专为情感调节设计。具备两大核心功能：甜言蜜语模式和犀利怼语模式。甜言蜜语模式能用温暖的话语和独特的夸奖提升用户心情，犀利怼语模式以幽默风趣的方式帮助用户释放压力。FunGPT 采用 1.8B 系列轻量化模型，结合 AWQ 量化技术，既节省 GPU 内存又提升推理速度。
FunGPT的主要功能
- 甜言蜜语模式：当用户情绪低落时，模式能瞬间提升用户的心情，赞师傅会用最合适且独特的方式夸奖用户，让用户的自信心爆棚。
- 犀利怼语模式：当用户感到压力山大时，模式能让用户在怼人的同时找到释放的出口。怼师傅的言语不仅犀利，而且幽默风趣，能让用户在怼人的过程中体会到脑洞大开的怼人方式。
- 轻量化模型：发布了1.8B系列轻量化模型，体积较小，性能出色。采用AWQ量化技术，在节省GPU内存的同时提升推理速度。
FunGPT的技术原理
- 模型架构：FunGPT 采用 InternLM2.5 系列模型作为基础架构。模型基于 Transformer 架构，具备强大的语言生成和理解能力。Transformer 架构的核心优势在于其多头注意力机制，能从不同角度审视文本，捕捉长距离依赖关系和上下文信息。
- 微调技术：为了满足个性化用户需求，FunGPT 使用 Xtuner 进行指令和全量微调。通过这种方式，模型能更好地适应特定的任务场景，如甜言蜜语模式和犀利怼语模式。
- 量化技术：FunGPT 采用了 AWQ（Adaptive Weight Quantization）量化技术。通过减少模型参数的存储空间，降低了模型的使用门槛，提升了推理速度，使模型在资源受限的设备上也能高效运行。
FunGPT的项目地址
- Github仓库：https://github.com/Alannikos/FunGPT
