OP技术支持的含义
Posted on
Charles4.6.8安装及破解
Posted on
什么是 Charles(抓包工具)
Posted on
阿里云arms在ack上启用
Posted on
ONNX Runtime CUDA Provider概述
Posted on
Edited on
1. ONNX Runtime CUDA Provider概述
1.1. 它是什么
ONNX Runtime(ORT)是一个高性能推理引擎,CUDA Provider 是它的 GPU 执行后端之一,用来把 ONNX 模型的计算图映射到 NVIDIA GPU 上执行。简单说:模型还是 ONNX,但算力来自 CUDA。它并不是“重写模型”,而是把算子(Conv、Gemm、Attention 等)交给 CUDA / cuDNN / cuBLAS 去跑。
1.2. 它解决什么问题
CPU 推理在吞吐和延迟上很快会撞天花板。CUDA Provider 的价值在于:
- 把计算密集型算子下放到 GPU
- 复用 NVIDIA 已经高度优化的数学库
- 在不改模型、不改业务代码的前提下获得数量级的性能提升
识别模型代码打包到容器内启动提示Error while deserializing header: HeaderTooLarge
Posted on
Edited on
问题
1.日志如下
File "/opt/conda/lib/python3.10/site-packages/transformers/modeling_utils.py", line 3613, in from_pretrained verificationservice | with safe_open(resolved_archive_file, framework="pt") as f:
safetensors_rust.SafetensorError: Error while deserializing header: HeaderTooLarge
- 问题本质判断
1.1 这是 safetensors 在反序列化模型文件头部时失败 的错误,而不是 CUDA、PyTorch 或 Transformers 的运行期错误
1.2HeaderTooLarge的含义很直白:模型文件的 safetensors 头信息异常地“大”或“损坏”,以至于解析器直接拒绝
1.3 该错误发生在safe_open(..., framework="pt")阶段,说明 模型尚未真正加载进内存
openSTF是什么
Posted on
redroid是什么
Posted on
Edited on
1. Redroid 是什么
1.1 定义
Redroid(Remote Android)是一种 基于容器的 Android 运行环境,本质上是把 Android OS 作为一个“可被远程访问、可批量调度的系统进程”,跑在 Linux Server 上,而不是传统手机或模拟器里。
它更像“Android-as-a-Service”,不是给人点屏幕用的,而是给系统、脚本、平台用的。
1.2 设计哲学
Redroid走的是一条很工程化的路线:
- 不做完整硬件模拟(避开 QEMU 那一套)
- 直接复用宿主机 Linux Kernel
- 用容器隔离 + Binder/ashmem 等 Android 关键机制
这让它在 密度、启动速度、自动化友好度 上碾压传统模拟器。
elrepo仓库介绍
Posted on
在docker容器下gunicorn是线程创建在系统层面被拒绝
Posted on
AliSecGuard阿里云的内核安全模块
Posted on
AliSecGuard 是阿里云的 内核安全模块,本质上就是一个云厂商级的 内核防护 Agent(没法卸载),它负责监控和保护主机,包括入侵检测、完整性校验、关键系统调用监控等。
1 | 1241.896537] AliSecGuard: module verification failed: signature and/or required key missing - tainting kernel |
WireGuard 在创建 IPv4 socket 时被内核层“拦住了”,而拦截者高度疑似是 AliSecGuard(阿里云安全内核模块)


