PostgreSQL 7天数据库性能监控报告大纲

监控对象：PostgreSQL
监控周期：7天
重点关注指标：CPU使用率、内存使用率、磁盘IO、查询响应时间、锁等待
说明：本大纲为标准化模板，覆盖指标定义、采集方式、阈值建议、预警与处置流程。所有建议基于通用最佳实践，实际阈值需结合业务SLO和历史基线在测试环境验证后再实施。

一、执行摘要和总体评估

• 监控范围

  • 实例数量与角色：主库/只读副本、版本、所在主机资源概况（CPU/内存/存储类型）
  • 业务窗口：高峰/低峰时段说明（例如工作日10:00-12:00，20:00-22:00）
  • 监控工具与数据来源：操作系统监控（如node exporter）、PostgreSQL视图与扩展（pg_stat_statements、pg_stat_activity、pg_locks、pg_stat_bgwriter、pg_stat_database、pg_statio_*、pg_stat_io[PostgreSQL 16+可用]）、日志采集

• 关键发现与优先级（留空由实际数据填充）

  • 例：锁等待在高峰期集中；查询响应时间p95较基线提升；磁盘写延迟偏高
  • 处置优先级分级标准（示例，可自动化判定）：
    • P0：影响可用性或SLO（如死锁频发、p95响应时间超SLO > 50%、磁盘写延迟>50ms且持续）
    • P1：性能显著下降（如CPU>90%持续10分钟、锁等待>30秒多发）
    • P2：潜在风险（如缓存命中率下降、WAL增长突增）

• 风险等级判定规则（客观条件）

  • CPU：5分钟平均>90%持续≥10分钟为高风险；75%-90%为中风险
  • 内存：发生Swap-in/out为高风险；可用内存（含文件缓存）<10%为中风险
  • 磁盘IO：写延迟p95>20ms（通用SSD参考）为高风险；10-20ms为中风险
  • 查询响应：p95较历史基线（7日滚动）上升>50%且超SLO为高风险；上升20%-50%为中风险
  • 锁等待：单条等待>30秒为高风险；5-30秒为中风险；任意死锁事件为高风险

• 总体建议（模板）

  • 短期（1周内）：针对Top慢SQL优化、调优连接池、加速阻塞链排查与告警
  • 中期（1-4周）：索引与统计信息治理、Autovacuum参数优化、I/O与Checkpoint调优
  • 中长期（>1月）：容量扩展与分区规划、读写分离/副本扩容、备份演练与恢复目标校准

二、关键性能指标分析

说明：对重点指标给出定义、采集方式、频率、阈值与处置步骤。

1. CPU使用率

• 定义：数据库主机CPU总体占用与PostgreSQL进程占用
• 数据来源：OS（node exporter/top/vmstat）、pg_stat_activity（活跃查询数）
• 采集频率：30秒粒度，1分钟聚合
• 阈值（建议，需结合基线调整）：
  • 告警：>75%（持续≥10分钟）
  • 严重：>90%（持续≥10分钟）
• 诊断与处置：
  • 快速定位：按CPU使用排序Top查询（pg_stat_statements），查看活跃会话与等待事件（pg_stat_activity）
  • 优化方向：减少全表扫描（索引/条件）、降低排序/哈希代价（合理work_mem）、避免CPU密集函数；必要时增加vCPU或启用只读副本分担读请求

2. 内存使用率

• 定义：OS可用内存与PostgreSQL内存（shared_buffers、work_mem消耗）
• 数据来源：OS（free/vmstat）、pg_stat_database、pg_stat_statements（临时文件使用）、缓冲命中率计算
• 采集频率：30秒；缓冲命中率统计5分钟
• 阈值：
  • 告警：发生Swap-in/out或可用内存（含文件缓存）<10%
  • 临时文件：单查询临时文件>100MB频发（基于业务调整阈值）
• 诊断与处置：
  • 检查缓存命中率（目标通常>99%，写入密集型场景例外）
  • 优化方向：提升索引命中、减少大排序与哈希、设置合理work_mem（按并发与峰值估算）、避免过大连接数导致总work_mem放大；必要时扩容内存

3. 磁盘IO

• 定义：读/写吞吐、IOPS、平均/95分位延迟、队列深度
• 数据来源：iostat/blkstat、pg_stat_bgwriter、pg_stat_io（16+）、pg_statio_*
• 采集频率：30秒；PostgreSQL统计1分钟
• 阈值（SSD参考）：
  • 告警：读/写延迟p95>10ms或磁盘利用率>80%（持续≥10分钟）
  • 严重：延迟p95>20ms或队列深度持续高位
• 诊断与处置：
  • 判断写放大来源：Checkpoint写、WAL刷盘、临时文件
  • 优化方向：增大max_wal_size/合理checkpoint_timeout（减少过频Checkpoint）、分离WAL与数据盘、优化索引与查询避免大量临时文件；必要时更换更高性能存储

4. 查询响应时间

• 定义：按业务SLO统计p50/p95/p99、平均与尾延迟
• 数据来源：pg_stat_statements（calls、total_time、mean/blk_*）、应用侧APM
• 采集频率：1分钟聚合；高峰时段细化到30秒
• 阈值：
  • 相对基线：p95高于近7日同周期基线>30%告警，>50%严重
  • 绝对SLO：超出预设SLO直接告警
• 诊断与处置：
  • Top慢SQL定位、EXPLAIN ANALYZE（含BUFFERS）分析访问路径与代价
  • 优化方向：补充/重建索引、减少回表与函数计算、缩小扫描范围、参数化SQL；必要时表分区

5. 锁等待

• 定义：等待锁的时长与次数、阻塞链、死锁事件
• 数据来源：pg_stat_activity、pg_locks、pg_blocking_pids()、日志（deadlock）
• 采集频率：10秒（锁问题具有突发性）
• 阈值：
  • 告警：等待>5秒
  • 严重：等待>30秒或出现死锁（任意一次）
• 诊断与处置：
  • 快速操作：定位阻塞会话与阻塞SQL；评估后终止长事务或调整作业调度
  • 优化方向：缩短事务、拆分大批量写、减少锁粒度冲突（索引优化/避免热点行）、设置合理lock_timeout与deadlock_timeout

三、资源使用情况统计

• CPU
  • 峰值、均值、95分位；按进程归因（PostgreSQL vs 其他）
  • 活跃会话数与等待事件分布（CPU、I/O、锁）
• 内存
  • OS可用/缓存/Swap趋势
  • shared_buffers命中率、临时文件创建量、常见排序/哈希操作规模
• 磁盘IO
  • 吞吐量、IOPS、延迟p95；WAL写入速率；Checkpoint写入与缓冲区刷脏频次
• 网络
  • 入/出流量、连接重置次数、应用侧超时率
• 会话与连接
  • 最大并发、连接利用率（与max_connections对比）、空闲事务（idle in transaction）占比

四、查询性能优化建议

说明：以下为可操作步骤，变更前请在测试环境验证。

• 慢SQL识别与分级
  • 启用pg_stat_statements，按总耗时/平均耗时/调用次数/共享读写块排序
  • 按业务SLO与影响面分级（P0/P1/P2）
• 优化步骤
  • 执行计划分析：EXPLAIN ANALYZE BUFFERS，关注是否发生顺序扫描、回表次数、排序/哈希溢出（临时文件）
  • 索引策略：为高选择性过滤条件、连接键、常用排序列建立合适索引；对频繁更新的大索引评估合并索引或覆盖索引策略
  • 减少临时文件：为大排序/哈希查询设定有界work_mem（结合并发与单次作业内存预算）
  • 减少锁竞争：将大事务拆分为批次；避免显式长事务；使用SKIP LOCKED或NOWAIT场景化读取
  • 统计信息：提高关键列default_statistics_target或针对列设置更高统计粒度；定期ANALYZE
  • 表膨胀（Bloat）控制：检查膨胀率，使用VACUUM（含Autovacuum）与必要的REINDEX，避免频繁更新造成热点与膨胀
• 配置建议（原则性，需结合实例规模与负载）
  • shared_buffers：通常为可用内存的20%-40%，结合操作系统缓存与工作集验证
  • work_mem：按单查询并发乘数谨慎估算，避免总内存过度放大
  • effective_cache_size：反映系统可用于文件缓存的估计值，有助于优化器判定索引代价
  • maintenance_work_mem：用于VACUUM/CREATE INDEX等维护操作，适当增大缩短维护时间
  • 日志与观察性：开启log_min_duration_statement（合理阈值）、log_lock_waits、auto_explain（仅测试或低频生产）辅助定位

五、容量规划和扩展建议

• 存储容量
  • 数据/索引/WAL增长率（以7日趋势为短期参考），计算90天容量需求
  • 预留空间：至少20%-30%空余，以容纳峰值与维护操作（VACUUM/REINDEX/并行创建索引）
• IOPS与吞吐
  • 依据高峰期写入（WAL+Checkpoint+临时文件）与读取负载评估磁盘规格；WAL建议独立存储通道
• 内存与连接
  • 连接池（PgBouncer）最大连接与每连接内存预算（work_mem、临时内存）配套规划
• 归档与分区
  • 大表按时间或业务键分区（便于冷热分离与清理）；历史数据归档至低成本存储
• 扩展路径
  • 垂直扩展：提升vCPU/内存/更快存储
  • 水平扩展：读副本承担读，逻辑复制分库/分表；根据业务一致性要求选择同步/异步复制策略
• 维护窗口
  • 计划性重建索引/聚簇（CLUSTER）/VACUUM FULL仅在有充足空间与备份保障时进行

六、安全与备份策略

• 备份与恢复（RPO/RTO目标驱动）
  • 物理备份：pg_basebackup或备份工具，配合WAL归档实现时间点恢复（PITR）
  • 备份策略：全量+增量/WAL归档，周期与保留策略（如全量每周、增量每日、WAL实时）
  • 校验与演练：定期校验备份可读性与恢复演练，验证RTO/RPO
• 安全基线
  • 连接安全：启用TLS、限制来源IP、最小权限账户
  • 凭证管理：密码轮换、禁用弱算法，服务器端不明文存储
  • 审计与监控：记录登录/失败登录、关键表DDL/DML审计（结合pg_audit或日志方案）
• 变更与发布
  • 性能相关参数、索引与大表DDL变更需走灰度与回滚预案

七、监控方案实施计划

• 指标采集与频率
  • OS层：CPU/内存/磁盘/网络（30秒）
  • PostgreSQL层：
    • 会话/锁（10秒）
    • 查询统计（pg_stat_statements，60秒聚合）
    • WAL/Checkpoint/bgwriter（60秒）
    • I/O统计（pg_stat_io[16+]或pg_statio_*，60秒）
  • 日志：慢SQL、锁等待、死锁、检查点摘要按需采集
• 阈值与告警（示例，需结合基线调整）
  • CPU：>75%（10分钟）告警；>90%（10分钟）严重
  • 内存：发生Swap或可用<10%告警；持续Swap严重
  • 磁盘：延迟p95>10ms告警；>20ms严重；磁盘利用率>80%持续告警
  • 查询：p95较基线+30%告警；+50%严重；慢SQL次数突增告警
  • 锁等待：>5秒告警；>30秒或出现死锁严重
• 预警机制
  • 基线构建：按日/周时段分别计算p50/p95作为自适应阈值参考
  • 提前量：提前在资源使用达到70%-75%时发出容量预警
• 应急响应流程（Runbook）
  • 性能劣化（响应时间告警）：
    1. 检查活跃会话与等待类型；2) 定位Top SQL；3) 评估是否限流/降级；4) 临时调高work_mem仅针对特定作业或调整计划
  • 锁等待/死锁：
    1. 使用pg_blocking_pids定位阻塞链；2) 与业务确认终止长事务（pg_terminate_backend）；3) 调整批处理与调度；4) 复盘加锁模式与索引
  • I/O瓶颈：
    1. 检查Checkpoint频率与WAL速率；2) 排查临时文件；3) 降低并发写或调整检查点参数；4) 评估存储扩容/分离WAL
• 工具与落地
  • 监控栈：Prometheus + postgres_exporter + Grafana（或现有平台）
  • PostgreSQL扩展：pg_stat_statements（必须）、pg_wait_sampling/pg_stat_kcache（可选）
  • Dashboard建议：资源总览、查询画像、锁与等待、WAL/Checkpoint、I/O延迟、容量趋势
  • 数据保留：原始30秒粒度7天、5分钟聚合90天；日志按合规保留
• 变更管理
  • 所有参数与结构性变更需评审与回滚计划；生产前在测试环境压测验证

备注：

• 术语说明
  • WAL：事务日志，用于持久化与恢复
  • Checkpoint：将内存中脏页批量刷新到磁盘的事件
  • Autovacuum：自动回收死元组并维护可见性地图
  • p95：95分位数，表示95%请求不超过的时延

以上大纲适用于通用PostgreSQL实例的7天性能监控与优化工作，可直接作为报告模板与实施指南使用。在执行任何优化前，建议先以历史基线与业务SLO为依据，在测试环境验证变更效果与风险。

MongoDB 30天性能监控报告大纲（模板）

以下大纲面向MongoDB的日常性能巡检、容量规划与优化场景，覆盖关键性能维度与可执行的监控与优化措施。可直接落地为监控报表与运维流程。

执行摘要和总体评估

• 报告范围
  • 数据库类型：MongoDB（副本集/分片集群请注明）
  • 监控周期：30天
  • 重点指标：缓存命中率、连接数、网络流量、CPU使用率、内存使用率、查询响应时间
• 监控目标
  • 建立稳定的30天基线曲线（日/周波动）
  • 定义可操作的阈值与预警策略
  • 提供面向查询与资源的优化建议与应急预案
• 总体评估（模板占位）
  • 健康度等级：低风险/中风险/高风险（依据阈值命中次数、持续时长、对业务影响）
  • 核心发现摘要（示例格式）
    • 缓存命中率：长期稳定/波动偏大/偶发穿透至磁盘
    • 连接数：平稳/有阵发性峰值/接近上限
    • CPU与内存：资源余量充足/短时高压/持续瓶颈
    • 查询响应时间：P95满足SLO/偏离SLO/存在慢查询集中时段
  • 建议优先级（P1/P2/P3）：明确需要1周内落实的项

关键性能指标分析

说明：每项包含定义与意义、采集方法、基线与阈值建议、常见告警触发与处置要点。

1. 缓存命中率（WiredTiger缓存）

• 定义与意义
  • 反映数据访问命中内存的比例，命中率越高，越少磁盘I/O，响应更快。
  • WiredTiger未直接提供“命中率”单一值，可用“页面读入缓存次数/缓存查找次数”近似推导，或用“从磁盘读取字节”与“从缓存服务请求”间接判断。关注指标：wiredTiger.cache.*（如 pages read into cache、pages requested from the cache、bytes read into cache、bytes currently in the cache、modified pages比例、evictions）
• 采集方法
  • db.serverStatus().wiredTiger.cache
  • FTDC（内置诊断数据采集）
  • 第三方监控：MongoDB Ops Manager/Cloud Manager，Prometheus mongodb-exporter + Grafana
• 基线与阈值建议（需与业务SLO校准）
  • 目标：工作集稳定期命中率>95%（近似指标）；缓存脏页（modified比例）长期<20%；每秒页淘汰（evictions）不应持续高位
  • 警告：命中率下滑>5个百分点持续15分钟；或bytes read from disk持续高于基线2倍
  • 严重：持续磁盘读放大（evictions持续高+checkpoint延迟）
• 处置要点
  • 快速诊断：确认热点集合/索引（profile/慢查询日志+COLLSCAN比例+工作集大小）
  • 优化方向：关键查询加索引、聚合前置$match、减少大文档字段、评估WiredTiger缓存大小（与同机其他进程协调）、冷热数据分层（分库分集合/分片/归档）

2. 连接数

• 定义与意义
  • 活跃连接与连接上限的关系影响资源消耗与排队等待
• 采集方法
  • db.serverStatus().connections.current/available
  • 连接池层监控（驱动/中间件）
• 基线与阈值建议
  • 警告：connections.current > 配置上限的80%，或5分钟内增长>50%
  • 严重：连接耗尽或频繁超时（握手/认证/连接池借还慢）
• 处置要点
  • 启用/调优连接池（每服务设上限，避免“惊群式”峰值）
  • 合理设置驱动超时（连接/读写超时）
  • 排查慢操作导致的连接滞留（profile定位）

3. 网络流量

• 定义与意义
  • bytesIn/bytesOut反映客户端与节点间的数据吞吐；分片场景关注mongos与shard/CSRS之间流量
• 采集方法
  • db.serverStatus().network.bytesIn/bytesOut，opcounters（命令、查询、更新计数）
  • 系统层网卡吞吐、丢包、重传
• 基线与阈值建议
  • 警告：入/出流量突增或突降>基线50%且持续10分钟
  • 严重：网卡接近饱和（>80%带宽）或持续重传/丢包
• 处置要点
  • 核对大结果集传输（投影$project裁剪、分页、限制返回字段）
  • 读流量过大：考虑从节点/分片扩展、靠近应用部署
  • 写流量过大：批处理、幂等重试策略、合理writeConcern

4. CPU使用率

• 定义与意义
  • mongod进程及系统总CPU，持续高位意味着算力瓶颈或锁竞争
• 采集方法
  • 系统层（top、vmstat、pidstat）、监控代理
  • MongoDB层：globalLock、locks.*、opcounters、queued readers/writers
• 基线与阈值建议
  • 警告：mongod进程CPU >70%持续10分钟或run queue显著上升
  • 严重：>85%持续30分钟并伴随响应时间劣化
• 处置要点
  • 优化查询与索引，减少全表扫描与大排序
  • 检查聚合管道是否可下推与裁剪
  • 评估分片/副本读扩展与硬件加核

5. 内存使用率

• 定义与意义
  • 关注RSS（常驻内存）、WiredTiger缓存使用、脏数据比例、系统swap
• 采集方法
  • db.serverStatus().wiredTiger.cache（bytes currently in the cache、tracked dirty bytes）
  • 系统层内存与swap in/out
• 基线与阈值建议
  • 警告：swap发生或脏页>20%持续
  • 严重：频繁page fault、操作系统内存压力导致I/O抖动
• 处置要点
  • 避免交换分区（或将其对数据库工作负载影响降至最低）
  • 评估WiredTiger缓存配置与同机服务资源隔离
  • 数据归档/冷热分层，控制工作集大小

6. 查询响应时间

• 定义与意义
  • 以P50/P95/P99衡量，直接关系业务SLO
• 采集方法
  • 慢查询与分析器：db.setProfilingLevel，按慢阈（如100ms）采样
  • 应用Apm、驱动侧度量；explain() 分析执行计划
• 基线与阈值建议
  • 依据业务SLO设定目标（示例起点：读P95<20ms、写P95<50ms，需按业务校正）
  • 警告：P95偏离SLO>20%持续15分钟
  • 严重：P99长尾显著，且慢查询数占比>5%
• 处置要点
  • 建立慢查询Top N清单，逐条优化（索引、过滤下推、字段裁剪）
  • 限制大聚合与大排序；必要时离线化或预计算
  • 减少大文档（模式演进：分拆大字段、使用TTL/部分索引）

资源使用情况统计（30天）

• CPU
  • 日/周峰值与均值曲线；峰谷时段识别
  • 进程级与系统级占比
• 内存
  • WiredTiger缓存使用、脏页比例、eviction趋势
  • RSS与系统可用内存、swap指标
• 磁盘与I/O（建议纳入）
  • IOPS、吞吐、平均队列长度、延迟；检查与基线偏差
• 网络
  • bytesIn/bytesOut、连接重置、丢包率
• 连接
  • current/available、连接增长速率、池化有效性
• 锁与等待（建议纳入）
  • globalLock与locks.*等待时间、排队读写数量

查询性能优化建议

• 索引与执行计划
  • 为高频条件建立复合索引，遵循最左前缀；减少COLLSCAN
  • 覆盖索引（只返回索引字段），降低回表成本
  • 使用部分索引/稀疏索引提升过滤效率；对生命周期短的数据用TTL索引
• 聚合与数据访问模式
  • $match/$project前置；减少$lookup规模或改为离线预聚合
  • 控制单文档大小与字段数量；对大字段（如日志/二进制）做外置存储
  • 使用投影限制返回字段，分页使用稳定排序键
• 写入与一致性
  • 合理writeConcern与journal策略，平衡延迟与可靠性
  • 批量写入（bulk）降低往返与锁竞争
• 驱动与连接池
  • 固定连接池上限与健康探测；设置连接/读写超时
  • 观察重试与重试风暴，避免应用端放大流量
• 诊断流程（建议固化为Runbook）
  • 步骤：发现慢 -> profiler样本 -> explain分析 -> 索引/管道改造 -> 回放压测验证 -> 持续观测

容量规划和扩展建议

• 存储与增长
  • 统计30天数据与索引体量增长率，按P80日增长估算6–12个月容量
  • 保持足够可用空间（建议≥30%余量）以应对压缩、重建索引、备份
• 工作集与内存
  • 评估热数据集合与索引大小，确保大部分热集可命中内存
  • 如与同机服务共享资源，显式配置WiredTiger缓存大小并保留操作系统文件缓存空间
• I/O与磁盘
  • 以基线峰值的1.5–2倍为扩容目标，确保IOPS与吞吐冗余
  • 使用SSD并关注写放大；预估checkpoint与压缩影响
• 架构扩展
  • 读扩展：启用从节点只读流量（Secondary Preferred/分配只读服务）
  • 写扩展/热点：分片（选择高基数、均匀分布的分片键），监控chunk均衡与热点分布
  • 垂直扩容：CPU/内存加配；水平扩容：分片/读副本
• Oplog与恢复点
  • 计算Oplog窗口；确保覆盖备份与下游ETL最长延迟

安全与备份策略

• 访问与加密
  • 启用认证（SCRAM-SHA-256），最小权限（RBAC）
  • TLS加密传输；主机级访问控制（防火墙/安全组）
  • 审计关键行为（DDL、权限变更、管理操作）
• 备份与恢复
  • 选择物理快照（一致性+低停顿）或逻辑备份（细粒度恢复），并定期全量+增量
  • 设定RPO/RTO目标；校验Oplog足以支撑PITR（时间点恢复）
  • 定期演练恢复，校验备份可用性与耗时
  • 备份对线上影响隔离：从节点备份、限速、避开高峰
• 配置与变更管控
  • 参数变更走变更流程，灰度与回滚预案；版本升级前进行兼容性与性能评估

监控方案实施计划

• 数据采集设计
  • 指标来源：serverStatus、FTDC、日志（慢查询/审计）、系统与容器指标
  • 采样频率建议
    • 核心指标（CPU/内存/WiredTiger缓存/连接/网络）：10–30秒
    • 查询性能（P95/P99、慢查询计数）：1–5分钟聚合
    • 容量与增长：小时级别
  • 数据保留：高分辨率7–14天，降采样保留≥90天
• 阈值与告警分级
  • 告警级别：提示（趋势异常）、警告（接近上限）、严重（影响SLO或稳定性）
  • 示例（需按业务SLO与基线校准）
    • 缓存命中率：跌破目标5%（警告），持续跌破且伴随磁盘读飙升（严重）
    • 连接数：>80%上限（警告），连接耗尽/频繁超时（严重）
    • CPU：>70%（警告），>85%且响应劣化（严重）
    • 内存：出现swap或脏页>20%（警告），频繁page fault（严重）
    • 查询P95：偏离SLO>20%（警告），P99长尾显著且慢查询占比>5%（严重）
• 仪表板与报表
  • 总览：健康度、SLO达成、主要指标P95/P99
  • 资源：CPU/内存/磁盘I/O/网络/连接
  • 数据引擎：WiredTiger缓存、evictions、checkpoint延迟
  • 查询：Top慢查询、COLLSCAN占比、索引命中率
  • 复制/分片：延迟、Oplog窗口、chunk分布与迁移
  • 周/月报：趋势、异常事件、整改项与效果
• 应急响应与Runbook
  • 触发条件、信息收集清单（profile样本、explain、serverStatus快照、系统指标）
  • 快速缓解措施（降载、限流、只读切换、连接池限额、配置临时调整）
  • 根因分析与变更单闭环（包含回放与验证）
• 工具与集成
  • 推荐：MongoDB Ops/Cloud Manager 或 Prometheus + mongodb-exporter + Grafana
  • 日志与告警：集中化（如ELK/Cloud Logging），告警到IM/工单系统
• 里程碑
  • 第1周：基线与仪表板上线、阈值初版
  • 第2–3周：慢查询治理与连接池优化
  • 第4周：容量评估与备份演练，固化Runbook与月报模板

—— 使用说明：

• 本大纲为通用模板，阈值与优化项需结合业务SLO与实际观测数据校准。
• 所有优化建议应先在预生产或低风险时段灰度验证，再在生产环境实施。