67 lines
1.9 KiB
Markdown
67 lines
1.9 KiB
Markdown
|
# 福建项目故障排查：OLAP性能问题
|
|||
|
|
|
|||
|
|
| ID | Creation Date | Assignee | Status |
|
|||
|
|
|----|----------------|----------|--------|
|
|||
|
|
| OMPUB-357 | 2022-02-11T09:41:22.000+0800 | 张智涵 | 已关闭 |
|
|||
|
|
|
|||
|
|
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
福建用户反馈问题：
|
|||
|
|
|
|||
|
|
1、用户目前在clickhouse库里查日志出现查询慢的现象，查半个月的日志需要1小时
|
|||
|
|
|
|||
|
|
2、用户目前发现界面每分钟300w日志为上限，再发更多日志就会出现丢日志的现象
|
|||
|
|
|
|||
|
|
|
|||
|
|
|
|||
|
|
目前福建维护人员未就位，待下周维护人员就位后请研发协助进行排查**doufenghu** commented on *2022-02-11T09:57:19.565+0800*:
|
|||
|
|
|
|||
|
|
直接查询数据库，查的更快些？
|
|||
|
|
{quote}1、用户目前在clickhouse库里查日志出现查询慢的现象，查半个月的日志需要1小时
|
|||
|
|
{quote}
|
|||
|
|
更多日志是多少？ 建议给一个预估值或流量，在基于现有硬件资源进行调整吧。
|
|||
|
|
{quote}2、用户目前发现界面每分钟300w日志为上限，再发更多日志就会出现丢日志的现象
|
|||
|
|
{quote}
|
|||
|
|
|
|||
|
|
|
|||
|
|
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
**zhangzhihan** commented on *2022-02-11T16:34:09.827+0800*:
|
|||
|
|
|
|||
|
|
1、目前用户就是直接进CK库查的日志，据说是查半个月日志需要1小时
|
|||
|
|
|
|||
|
|
2、量目前无法估计，据用户描述是开启更多策略后，进行测试，发现有效果命中了但是库里查不到日志
|
|||
|
|
|
|||
|
|
|
|||
|
|
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
**zhangzhihan** commented on *2022-02-14T17:38:53.624+0800*:
|
|||
|
|
|
|||
|
|
问题：用户目前在clickhouse库里查日志出现查询慢的现象，查半个月的日志需要1小时
|
|||
|
|
|
|||
|
|
结论：clickhouse库中日志量太大，半个月大概500e安全日志，查询1天的日志已经占满磁盘IO，后续考虑扩容ck节点解决
|
|||
|
|
|
|||
|
|
|
|||
|
|
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
**zhangzhihan** commented on *2022-02-25T09:35:25.783+0800*:
|
|||
|
|
|
|||
|
|
问题2：
|
|||
|
|
|
|||
|
|
福建OLAP集群有3台kafka节点，但是目前发现其中一台IO异常，日志量少无压力情况下IO都比另外2台高
|
|||
|
|
|
|||
|
|
目前计划待福建OLAP迁移至第二套集群后，对第一套集群的IO性能进行一次检查
|
|||
|
|
|
|||
|
|
|
|||
|
|
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
|
|||
|
|
|
|||
|
|
## Attachments
|
|||
|
|
|