Logo

菜单

BearCandy's Wiki 无人问津也好，技不如人也罢，你都要安静下来，去做自己该做的事情，而不是让烦恼和焦虑，毁掉你本就不多的热情和定力

所有标签

#模型推理 2 #显存 2 #量化 2 #投资策略 0 #复利 0 #纳斯达克 0 #定投 0 #HTTP API 1 #协程 1 #并发编程 1 #Web 开发 4 #实时通信 1 #流量分流 0 #OpenWRT 0 #iKuai 0 #OpenClaw 1 #数学函数 0 #字符串 0 #文件操作 0 #编译原理 1 #编程基础 4 #运维自动化 2 #容器更新 1 #Watchtower 2 #职业未来 1 #氛围编程 1 #AI 趋势 1 #计算机视觉 0 #深度学习 2 #换脸 0 #多线程 2 #DeepFaceLab 1 #图形界面 1 #AutoDL 2 #VNC 1 #脑科学 2 #学习效率 2 #性趣 1 #多巴胺 2 #注意力 2 #高等数学 0 #算法 3 #docker 10 #vue 8 #centos 0 #java 36 #hadoop 10 #c语言 3 #计算机网络三级 4 #Halo 0 #人生发展 3 #thinkPHP 11 #ubantu 3 #windows 10 #npm 2 #mysql 53 #虚拟机 3 #javascript 69 #数据库 41 #web前端 21 #Linux 44 #ArcGIS 0 #lango 0 #latex 0 #visio 0 #stata 0 #spass 0 #数学建模 0 #matlab 0 #大数据技术 74 #网络技术 16 #项目开发 16 #python 48 #docker 14 #PHP 97
AI 模型 #模型推理#显存#量化#深度学习

AI 模型显存估算与选型

深入解析 AI 模型显存估算方法，涵盖 .safetensors 与 .gguf 格式区别、量化精度原理、潜在空间压缩机制及激活值显存占用，提供 OOM 排错与参数调优路线图。

小熊奶糖(BearCandy) 发布于 2026-04-29
编程基础 #量化#深度学习#显存#模型推理

模型显存占用估算指南

从零开始的显存占用教程，用生活类比讲清模型权重、激活值与 batch_size 的关系，并给出不同显卡的推荐配置与查表口诀。

小熊奶糖(BearCandy) 发布于 2026-04-29