GaGa's Blog

推理框架的关键指标（TTFT vs ITL）

• 1.TTFT (Time to First Token，首字延迟)： 从请求到达框架到模型吐出第一个字的时间。如果这个时间很高，通常是因为排队或前处理/Tokenizer慢。

• 2.ITL (Inter-Token Latency，每个Token生成耗时)： 模型生成后续每个字的速度。如果这个速度很快，说明 GPU 推理没问题。

• vLLM 特有指标：

  • vllm:num_requests_waiting：正在排队的请求数。如果这个数很高，说明请求被堵在外面了。
  • vllm:num_requests_running：正在并发处理的请求数。
  • vllm:gpu_cache_usage_factor：KV Cache 的利用率。如果达到 100%，后续请求必须排队等待前面的请求结束释放显存。

雪花算法（Snowflake）是 Twitter（现 X）开源的一种分布式主键生成算法。它的核心作用是：在分布式系统中，生成全局唯一且趋势递增的 64 位整型 ID。

在单机环境中，我们可以简单地使用数据库的自增 ID，但在高并发的分布式微服务架构中，不同机器如果同时生成 ID 就会产生冲突。雪花算法就是为了解决这个问题而诞生的。

1.雪花算法的 ID 结构

在 Nacos 中，数据库里存储的密码是使用 BCrypt 算法进行加密的散列值（Hash）。因为 BCrypt 是一种不可逆的单向加密算法，所以无法直接从数据库中存储的密文反推出原始明文密码。

如果你忘记了 Nacos 的密码，最直接有效的解决办法不是“找回”，而是直接在数据库中将密码修改（重置）为一个已知的新密码。

第一步：生成新密码的 BCrypt 密文

In Nginx, the weight parameter must be an integer of 1 or higher. It represents the proportion of traffic a server receives, so setting it to 0 mathematically breaks the load-balancing calculation.

1.You want to temporarily disable that server

If your goal is to stop traffic from going to 10.6.234.165:10001 without deleting the line, use the down parameter instead.

1.核心原理

请求 → 视图 → 模板 → 响应

Flask 的页面渲染本质是：

Jinja2 模板引擎 + HTTP Response 组装

Tesseract 是一个开源的光学字符识别（OCR）引擎，最初由惠普（HP）研发，2005年开源，后由 Google 主导维护。

解决的问题

核心问题：把图片里的文字提取出来。

具体场景：

1.test基本用法

1
2
3
4
5
6
7
8
9
10
11
12
13
14

# 等价写法
if test condition; then
    # 条件为真时执行
fi

# 简写形式（常用）
if [ condition ]; then
    ...
fi

# 更安全的写法（注意空格）
if [[ condition ]]; then
    ...
fi

2.常见测试类型

文件测试

胡辣汤是河南最具代表性的传统名吃之一，以胡椒辛辣、汤汁浓稠、配料丰富为特点，分为逍遥镇胡辣汤和北舞渡胡辣汤两大流派。其历史渊源可以追溯到明代，融合了中医药膳文化与民间饮食智慧。

一、名称来源

“胡辣汤”之名中的”胡”字，在中国传统饮食命名中通常指代外来或少数民族的食材与香料。胡辣汤之所以称为”胡辣”，是因为其中大量使用了胡椒、花椒等辛辣香料，这些香料在古代多来自西域、东南亚等”胡地”，其辛辣驱寒的特性正是这碗汤的灵魂。

二、起源传说

问题

日志出现 loop_browser: The browser executable file path cannot be found. 这个报错，通常是因为你使用的上层框架/第三方库（看报错格式 loop_browser 像是某个特定的爬虫框架、RPA 工具或二次封装的库，版本 4.1.1.4）无法自动识别 Playwright 的默认缓存路径，或者它在寻找标准的 Chrome 安装路径却没找到。从你的终端输出可以看到，Playwright 的浏览器其实已经成功下载到了 /root/.cache/ms-playwright 目录下，并且有 chromium-1208 和 chromium_headless_shell-1208。

解决

cc-switch核心支持对 Claude Code、Codex、Gemini CLI、OpenCode、OpenClaw、Hermes Agent 等多种顶尖 AI 编程/命令行工具的统一化配置与管理。

cc-switch

• https://github.com/farion1231/cc-switch

目的

为了解决源码编译速度慢问题，直接用release构建包安装vllm + cuda129。

env

• ubuntu22.04
• NVIDIA-A100 cuda12.8

卸载编译安装的 vLLM 非常简单。因为你是通过源码编译安装的，它依然是以 Python 包的形式注册在你的环境中。

1. 使用 pip 卸载

首先，激活你当时安装 vLLM 的 Python 虚拟环境（如 Conda 或 venv），然后运行：