tcpdump抓取数据包如何切割
Posted on
10GB 以上的 pcap/cap 文件,Wireshark 直接打开会出现:
- 内存暴涨
- UI 卡死
- 索引时间很长
- 过滤器响应慢
- TCP 重组极慢
生产环境一般不会直接分析原始大包。
标准流程:
litserve服务在alb下设置合理空闲检测超时时间解决偶发502问题
Posted on
爬虫框架scrapy介绍
Posted on
Edited on
Scrapy 是一个基于事件驱动 + 异步 I/O(Twisted) 的高性能爬虫框架,其核心设计目标是:
- 高并发抓取(非阻塞)
- 可扩展组件化架构
- 清晰的数据流转模型
整体架构采用 分层 + 调度驱动模型,核心组件如下:
| 组件 | 职责 |
|---|---|
| Engine(引擎) | 调度所有组件,控制数据流 |
| Scheduler(调度器) | 请求队列管理(去重、优先级) |
| Downloader(下载器) | 负责 HTTP 请求 |
| Spider(爬虫) | 解析响应,生成数据和新请求 |
| Item Pipeline(管道) | 数据处理(清洗、存储) |
| Downloader Middleware | 下载请求/响应拦截 |
| Spider Middleware | Spider 输入输出处理 |
Twisted架构概述
Posted on
Twisted 是一个基于事件驱动(Event-Driven)的网络框架,核心目标是:
- 高并发网络服务开发
- 异步 I/O 处理
- 协议驱动开发(TCP/UDP/HTTP/FTP/SSH 等)
其设计理念类似于:
- Node.js(事件循环)
- Reactor模式(经典IO模型)
HttpClient概述
Posted on
HttpClient 是用于发送 HTTP 请求并接收 HTTP 响应的客户端组件,广泛应用于服务间通信、API 调用、爬虫、网关等场景。
在 Java 生态中,主流实现包括:
- Apache HttpClient(经典、功能强)
- OkHttp(现代化、性能优)
- Java HttpClient(JDK 原生)
Flask vs Django框架
Posted on
Flask路由详解
Posted on
Flask 路由本质上是:把某个 URL 规则映射到某个视图函数上,当客户端发起 HTTP 请求时,Flask 根据请求的 路径、请求方法、参数规则 找到对应函数执行,再把结果返回给客户端。
可以理解为:
- URL:外部访问入口
- 路由规则:匹配条件
- 视图函数:实际处理逻辑
- 路由表:Flask 内部维护的映射关系
LitServer.run()的函数介绍
Posted on
LitServer.run()的函数签名
1 | def run( |
如何切割tcpdump/wireshark抓取的数据包
Posted on
wireshark传输层timestamps字段分析
Posted on
在tcpdump抓包同一个tcp.stream index中存在fin->rst
Posted on
