pegasas
  • GitHub
  • Notes
    Home/Notes/AI/项目笔记
    A · AI

    项目笔记

    每篇独立展示关键数据、实验参数和资源用量

    推理与服务3算子与数值1训练与评测2多模态1

    推理与服务

    Strata GPU 基准量化、上下文、并发与内核对照阅读 → vLLM 突发流量调优3600 次请求的排队与延迟对照阅读 → 四卡 vLLM 异步调度排障从调度自旋定位到 GPU 前后验证阅读 →

    算子与数值

    Qwen3 FP8 整模型验证局部矩阵乘更快,整模型反而变慢阅读 →

    训练与评测

    LoRA、QLoRA 与全量微调显存、训练、checkpoint 与恢复成本阅读 → Qwen3 偏好微调与评分复核训练、动态 LoRA 服务和评分边界阅读 →

    多模态

    单卡 Cosmos 推理实际图像、视频与分辨率边界阅读 →
    ← 上一组AI Infra 下一组 →分布式
    John HuangSystems · Data · AI
    NotesGitHub ↗
    © 2026 John Huang.