opinion
黄仁勋:模型推理提速一倍,AI 实验室收入翻倍
导读
黄仁勋指出,推理收入等于服务的 token 数乘以单价,在需求超过产能时,用软件或 kernel 优化把模型速度提升一倍,就能在同样的 GPU、功耗和机房下让收入翻倍、无需新增资本开支。这一逻辑成立的前提是每个新增 token 都能按现价卖出。
opinion
黄仁勋指出,推理收入等于服务的 token 数乘以单价,在需求超过产能时,用软件或 kernel 优化把模型速度提升一倍,就能在同样的 GPU、功耗和机房下让收入翻倍、无需新增资本开支。这一逻辑成立的前提是每个新增 token 都能按现价卖出。