vLLM 0.33.0、CUDA WheelをLibTorch Stable ABIへ移行
事実:vLLMは0.33.0からLibTorch Stable ABI対応CUDA Wheelを公開し、互換範囲内のPyTorch更新でvLLM自体を再BuildせずにWheelを差し替えられるようにしました。
確認事項・根拠・経緯を開く
事実ごとの出典を確認 3件
掲載時に記録した事実と、その出典です。現在の状況を再調査した結果ではありません。
根拠の最終確認(記事単位):
1vLLM 0.33.0はLibTorch ABI Stable CUDA Wheelを公開しています。
2vLLMは本体とLibTorch依存ComponentをStable ABIへ移し、`torch-abi-audit`をCIで利用しています。
3LibTorch Stable ABIはBinary互換性を扱いますが、Python API、CUDA要件、第三者Dependencyの互換性を保証しません。