告别语音克隆烦恼：VoxCPM用Token-Free方案，打造真实会“思考”的AI语音
Abstract语音合成的生成模型面临着一个根本性的权衡：离散标记能确保稳定性但会牺牲表现力，而连续信号能保留声学丰富性但会因任务纠缠而产生误差累积。这一挑战促使该领域朝着依赖预训练语音标记器的多阶
阅读全文142. 环形链表 II
给定一个链表的头节点 head ，返回链表开始入环的第一个节点。 如果链表无环，则返回 null。如果链表中有某个节点，可以通过连续跟踪 next 指针再次到达，则链表中存在环。 为了表示给定链表中
阅读全文VSCode如何配置LF
在 VS Code 中将默认换行符统一设置为 LF (\n) 是个好习惯，能有效避免跨平台协作时的换行符冲突。你可以通过以下几种方法进行配置，我会先用一个表格总结它们，方便你快速选择。方法适用场景特
阅读全文c10::intrusive_ptr_target 和 c10::intrusive_ptr
c10::intrusive_ptr_target 是 PyTorch C++ 代码库中侵入式智能指针系统的基础类。任何希望通过 c10::intrusive_ptr 进行引用计数管理的类，都必须继
阅读全文std::move_only_function 用法
std::move_only_function 是 C++23 标准引入的一种仅支持移动语义的可调用包装器，旨在替代 std::function 的部分场景，尤其适用于处理不可复制的可调用对象。以下
阅读全文OpenCharacter: 利用大规模合成人物角色训练可定制化角色扮演语言模型
Abstract在大型语言模型（LLM）中可定制的角色扮演，也称为角色泛化，因其在开发和部署角色扮演对话代理方面的灵活性和成本效益而备受关注。本研究探索了一种大规模数据合成方法，以使 LLM 具备角
阅读全文Pygame RPG Series – Code Review 4
这是我们Pygame RPG系列的第四次也是最后一次代码回顾。这样，我们就完成了基本的RPG Fighter。你可以在这里找到书面形式的代码，也可以在页面底部下载，并结合我们游戏中使用的所有图像和声音
阅读全文FlashAttention与PagedAttention详解：拯救GPU显存，让大模型飞起来的核心技术
注意力机制极大地革新了深度学习模型，尤其是那些为现代大型语言模型提供动力的transformer。然而，存在一个关键问题：自注意力机制在计算能力和内存使用方面都会随着序列长度的增加而呈平方级增长。但
阅读全文Pygame RPG Tutorial 25 – Improving Performance
在本教程中，我们将通过各种优化来提高Pygame RPG的性能。为了正确衡量性能的提高，我们取消了FPS限制。显然，我们的游戏相当小且简单（相对而言），所以我们不应该遇到性能问题（除非我们搞砸了）。然
阅读全文为什么别人的 Python 代码跑得比你快 10 倍？秘密就在 asyncio 和 await 里
在这里插入图片描述在现代软件开发领域，能够高效并行执行任务是一项至关重要的技能。Python 3.3 版本中引入的 asyncio 库使异步编程变得更加容易，尤其适用于处理 I/O 密集型任务以及创
阅读全文Introducing CUDA UnBound (CUB)
CUB – a configurable C++ template library of high-performance CUDA primitives每一代新的 NVIDIA 图形处理器（GPU
阅读全文查找二进制数中最长连续0序列
def longest_consecutive_zeros(n): count = 0 max_count = 0 while n > 0: if n & 1 ==
阅读全文torch.multinomial 随机性与高敏感性
在 Qwen2.5 模型推理精度对齐中发现，context 前向后最后一个 token的 logits 分布基本一致（排序一致，小数点1e-1绝对误差（BF16））。经过Temperature/T
阅读全文Meta Prompting: A Guide to Automated Prompt Optimization
欢迎来到我们的“元提示”烹饪指南！在这份指南中，我们将探讨如何对一个基本提示进行优化，以提高语言模型生成输出的质量。我们将以总结新闻报道为例来说明这个过程。“元提示”是一种利用大型语言模型生成或改进
阅读全文Pygame RPG Tutorial 24 – Music and Sound
是时候给Pygame RPG添加一些音乐和声音元素了。如果没有合适的配乐，你就不可能创造出一款具有沉浸感和吸引力的游戏。同样地，游戏中的各种功能和行动如果没有突出行动的良好音效，也会显得平淡无奇。Mu
阅读全文CUDA 中如何使用虚函数
CUDA handbook18.5.11. Classes18.5.11.1. Data MembersStatic data members are not supported except fo
阅读全文Transformers generate logits 为什么会有 -inf
为什么do_sample=True后，generate 生成的logits中会有 -inf在Qwen2.5-0.5B模型生成文本时，scores 中出现 -inf（负无穷）是一个预期内的正常现象，它
阅读全文TensorRT-LLM 0.5.0 源码之二
Benchmark for Python Runtime这份文档详细说明了如何在单个 GPU、单个节点配备多块 GPU 或多个节点配备多块 GPU 的环境中对 TensorRT-LLM 所支持的模型
阅读全文std::in_place的用法
std::in_place 是 C++17 中引入的一组标签类型，主要用于 std::optional、std::variant 和 std::any 这类包装器类型。它的核心目的是实现原位构造，允
阅读全文DeepSpeed的ZeRO技术具体是如何实现显存优化的？
DeepSpeed的ZeRO（Zero Redundancy Optimizer）技术通过分片（Sharding）策略消除分布式训练中的显存冗余，实现显存占用的线性降低。其核心是将模型状态（参数、梯
阅读全文Pygame RPG Tutorial 22 – Enemy Turning Tutorial
这是我们在Pygame RPG中创造新敌人的前一教程的续作。这一次我们的目标是完善敌人职业，并添加判断玩家位置并指向正确方向的能力。简而言之，我们将在这篇Pygame RPG教程中赋予敌人一个转身能力
阅读全文std::tuple的比较运算
在C++中，std::tuple的比较运算通过逐元素递归比较实现，其核心逻辑依赖于元素类型的比较操作符（如==和<）。以下是详细解析：一、支持的比较运算符std::tuple支持以下6种比较运算符：
阅读全文查找二进制数中最长连续0序列
def longest_consecutive_zeros(n): count = 0 max_count = 0 while n > 0: if n & 1 ==
阅读全文LM-as-a-judge：LLM评估指南
LM-as-a-judge 是一种常见的评估基于 LLM（语言模型）技术的产品的方法。它之所以受欢迎是有原因的：在评估开放式文本输出时，它是一种相较于昂贵的人工评估而言切实可行的替代方案。评判生成文
阅读全文LLM Sequence Packing
训练大型语言模型（LLMs）是一项计算量极大的任务。这需要大量的数据、强大的硬件以及巧妙的优化技术。其中有一种不太常被提及的技术，那就是使用压缩序列，以便在每次训练步骤中充分利用所选的上下文长度。想
阅读全文深入了解SmoothQuant：大模型高效量化背后的数学原理
在这里插入图片描述@torch.no_grad()def smooth_gemm(gemm_weights, act_scales, la
阅读全文Pygame RPG Tutorial 21 – Creating a new Enemy type
只有一种敌人类型的游戏注定是乏味的。在这个Pygame RPG教程中，我们将在游戏中添加一种新的敌人类型。它不仅看起来会完全不同，我们还会改变它的攻击方式，从近战到远程。我创造了下面的敌人，比第一个敌
阅读全文中文LLM指令微调动态机制
指令调优是一种新兴的方法，正以其独特的魅力激发着大型语言模型（LLM）的无限智能潜能。此前，众多学者围绕数据量、模型规模等要素，对英语模型展开了深入剖析。然而，指令调优在其他语言领域的拓展特性，却
阅读全文Pygame RPG Tutorial 19 – Magic Attacks
还记得我们之前在教程中创造的魔法系统吗？现在我们将使用它，在Pygame RPG中植入Magic Attacks。其理念是使用魔法攻击需要固定数量的法力值。正如我们之前在系列中所解释的，我们通过击败敌
阅读全文Pygame RPG Tutorial – Code Review 3
正如承诺的那样，我们每6个教程都会举行一次代码审查，在那里我们将所有代码编译在一起供您查看。您还可以在页面底部找到一个下载链接，其中包含一个文件，其中包含到目前为止我们使用的所有代码+图像和动画。尝试
阅读全文