kibana devtool sql查询
如何在kibana中执行sql查询…
什么是 Charles(抓包工具)
ONNX Runtime CUDA Provider概述
1. ONNX Runtime CUDA Provider概述
1.1. 它是什么
ONNX Runtime（ORT）是一个高性能推理引擎，CUDA Provider 是它的 GPU 执行后端之一，用来把 ONNX 模型的计算图映射到 NVIDIA GPU 上执行。简单说：模型还是 ONNX，但算力来自 CUDA。它并不是“重写模型”，而是把算子（Conv、Gemm、Attention 等）交给 CUDA / cuDNN / cuBLAS 去跑。
1.2. 它解决什么问题
CPU 推理在吞吐和延迟上很快会撞天花板。CUDA Provider 的价值在于：
- 把计算密集型算子下放到 GPU
- 复用 NVIDIA 已经高度优化的数学库
- 在不改模型、不改业务代码的前提下获得数量级的性能提升
识别模型代码打包到容器内启动提示Error while deserializing header: HeaderTooLarge
问题
1.日志如下
File "/opt/conda/lib/python3.10/site-packages/transformers/modeling_utils.py", line 3613, in from_pretrained verificationservice | with safe_open(resolved_archive_file, framework="pt") as f:
safetensors_rust.SafetensorError: Error while deserializing header: HeaderTooLarge
- 问题本质判断
1.1 这是 safetensors 在反序列化模型文件头部时失败 的错误，而不是 CUDA、PyTorch 或 Transformers 的运行期错误
1.2HeaderTooLarge的含义很直白：模型文件的 safetensors 头信息异常地“大”或“损坏”，以至于解析器直接拒绝
1.3 该错误发生在safe_open(..., framework="pt")阶段，说明 模型尚未真正加载进内存
redroid是什么
1. Redroid 是什么
1.1 定义
Redroid（Remote Android）是一种 基于容器的 Android 运行环境，本质上是把 Android OS 作为一个“可被远程访问、可批量调度的系统进程”，跑在 Linux Server 上，而不是传统手机或模拟器里。
它更像“Android-as-a-Service”，不是给人点屏幕用的，而是给系统、脚本、平台用的。
1.2 设计哲学
Redroid走的是一条很工程化的路线：
- 不做完整硬件模拟（避开 QEMU 那一套）
- 直接复用宿主机 Linux Kernel
- 用容器隔离 + Binder/ashmem 等 Android 关键机制
这让它在 密度、启动速度、自动化友好度 上碾压传统模拟器。