Python向けGPU最適化（NVIDIA）
GPUアクセラレーションは、自動的な書き換えではなく、エビデンスに基づいた最適化として扱ってください。ユーザーの数値的・アルゴリズム的契約を維持し、代表的なデータで測定し、エンドツーエンドの同期ベンチマークで有用な改善が示された場合にのみGPUバージョンを維持してください。
このスキルが適用される場合
- ユーザーが数値計算・科学技術計算Pythonコードの高速化を希望している
- ユーザーが大規模な配列、行列、データフレームを扱っている
- ユーザーがCUDA、GPU、NVIDIA、または並列計算に言及している
- ユーザーが大規模データセットを処理するNumPy、pandas、SciPy、scikit-learn、NetworkX、またはscipy.sparse.linalgコードを持っている
- ユーザーが低レベルGPUプリミティブ（疎固有値ソルバー、デバイスメモリ管理、マルチGPU通信）を必要としている
- ユーザーが機械学習（学習、推論、ハイパーパラメータチューニング、前処理）を行っている
- ユーザーがグラフ解析（中心性、コミュニティ検出、最短経路、PageRankなど）を行っている
- ユーザーがベクトル検索、近傍探索、類似性検索、またはRAGパイプラインの構築を行っている
- ユーザーがFaiss、Annoy、ScaNN、またはsklearn NearestNeighborsコードを持っており、これをGPUアクセラレーションできる可能性がある
- ユーザーが大規模データセット上でGPUアクセラレーションされた対話型ダッシュボード、クロスフィルタリング、または探索的データ分析を希望している
- ユーザーがGeoPandasまたはshapelyを使用した地理空間解析（点-ポリゴン判定、空間結合、軌跡分析、距離計算）を行っている
- ユーザーがscikit-imageまたはOpenCVを使用した画像処理、コンピュータビジョン、または医用画像処理（フィルタリング、セグメンテーション、モルフォロジー、特徴検出）を行っている
- ユーザーが全スライド画像（WSI）、デジタル病理学、顕微鏡、またはリモートセンシング画像を扱っている
- ユーザーが大規模バイナリデータファイルをGPUメモリにロードしている（numpy.fromfile → cupy、またはPython open() → GPU配列）
- ユーザーがS3、HTTP、またはWebHDFSから直接GPUメモリにファイルを読み込む必要がある
- ユーザーがGPUDirect Storage（GDS）に言及している、またはファイルI/OでCPUメモリ経由のステージングを回避したい
- ユーザーが物理シミュレーション（粒子、布、流体、剛体）または微分可能シミュレーションを行っている
- ユーザーがGPU上でのメッシュ操作（レイキャスティング、最近傍点クエリ、符号付き距離場）またはジオメトリ処理を必要としている
- ユーザーがロボティクス（運動学、動力学、制御）を変換とクォータニオンで扱っている
- ユーザーがJITコンパイルしてGPUカーネルにできるPythonシミュレーションループを持っている
- ユーザーがNVIDIA Warpに言及している、またはPyTorch/JAXと統合された微分可能GPUシミュレーションを希望している
- ユーザーがシミュレーション、信号処理、金融モデリング、バイオインフォマティクス、物理学、またはその他の計算集約型の作業を行っている
- ユーザーが既存コードの最適化を希望しており、GPUアクセラレーションが適切な答えである
最適なレイヤーを選択する
カスタムカーネルよりも、メンテナンスされたライブラリ実装を優先してください。
| 既存のワークロード | 推奨パス | 用途 |
|---|---|---|
| NumPy / SciPy | CuPy | 配列、疎行列、線形代数、FFT、信号処理 |
| pandas | cudf.pandas、次にcuDF | 最初はアクセラレータモード、より細かい制御にはネイティブAPI |
| scikit-learn | cuml.accel、次にcuML | 最初はアクセラレータモード、必要に応じてネイティブ推定器 |
| NetworkX | nx-cugraph、次にcuGraph | 最初はバックエンドディスパッチ、大規模にはネイティブグラフAPI |
| scikit-image | cuCIM | GPU画像処理と全スライドイメージング |
| Faiss / Annoy / k-NN | cuVS | 厳密および近似ベクトル検索 |
| 生またはリモートファイルI/O | KvikIO | GPUバッファとGPUDirect Storage |
| カスタム配列カーネル | 新規はNumba-CUDA-MLIR、既存コードはNumba-CUDA | 明示的なSIMTカーネルと共有メモリ |
| 空間または微分可能カーネル | Warp | ジオメトリ、シミュレーションカーネル、ロボティクス、自動微分 |
| 高水準物理シミュレーション | Newton | warp.simモジュールを継承するメンテナンス済みエンジン |
| 低レベルRAPIDSプリミティブ | RAFT (pylibraft) | 疎固有値ソルバー、リソース、マルチGPUビルディングブロック |
これらのライブラリのいずれかを使用するために、PyTorch、JAX、TensorFlow、または他のGPUネイティブフレームワークからコードを移動しないでください。代わりに、CPUラウンドトリップを排除し、フレームワークのコンパイラ、プロファイラ、混合精度、バッチ処理機能を使用してください。
以下はレガシーとしてのみ扱ってください。
| プロジェクト | ステータス | ガイダンス |
|---|---|---|
| cuxfilter | 最終リリース 26.06 | 既存のダッシュボードのみを維持。新規作業では、cuDFとHoloViews/hvPlot/Datashaderを組み合わせ、Panel、Dash、Streamlit、またはBokehで提供する。 |
| cuSpatial | 25.04でアーカイブ | 分離されたレガシー環境でのみ使用。新規作業では、ジオメトリをGeoPandas/Shapelyに保持し、互換性のある表形式ステージをcuDFでアクセラレーションする。 |
各ライブラリの完全なガイダンス（各ライブラリが誤った選択となる場合やそれらを組み合わせる方法を含む）は、references/decision_framework.mdにあります。 インストールコマンドとCUDAバージョンの選択はreferences/installation.mdにあります。 すべてのライブラリの変換前後のコード例はreferences/code_transformation_patterns.mdにあります。
最適化ワークフロー
1. 契約とベースラインを定義する
- 代表的な入力、期待される出力、許容可能な数値誤差を取得する。
- 入力、転送、計算、出力を含む現在のエンドツーエンドパスを測定する。
- コードを変更する前にプロファイリングを行う。CPUコードにはCPUプロファイラを使用し、実際の制限が計算、メモリ帯域幅、割り当て、転送、同期、またはストレージのいずれであるかを特定する。
- ハードウェア、パッケージバージョン、dtype、形状、バッチサイズ、ウォームアップポリシーを結果とともに記録する。
2. 移植前に適合性を確認する
GPU実行は、ホットパスが実質的な独立した処理を公開し、初期化と転送を償却するのに十分な頻度で実行され、ワーキングセットが一時データ用の余地を含めて利用可能なデバイスメモリに収まる場合に有望です。ワークロードが小さい、ほとんどが逐次的である、サポートされていない操作が支配的である、または頻繁なホスト-デバイス間のラウンドトリップが必要な場合は、CPUパスを維持してください。
固定の行数閾値を証拠として使用しないでください。ユーザーの実際の形状とハードウェアでベンチマークを行ってください。アウトオブコアデータの場合は、ピークワーキングメモリを見積もり、割り当て前にチャンク化、Dask、またはストリーミング設計を選択してください。
3. 最も侵襲の少ない実装を試す
- コードがすでにGPUネイティブフレームワークを使用している場合は、そのフレームワーク内で最適化する。
- アクセラレータまたはバックエンドモード（
cudf.pandas、cuml.accel、nx-cugraph）を試す。 - アクセラレータのカバレッジまたはパフォーマンスが不十分な場合にのみ、ネイティブGPU APIに移行する。
- プロファイリングにより、適切なライブラリ実装がない操作が示された場合にのみ、カスタムカーネルを作成する。
コードを書く前に関連するライブラリリファレンスを読んでください。互換性のある名前であっても、デフォルト値、dtype、出力タイプ、サポートされる引数が異なる場合があります。
4. 一貫したGPUデータパスを維持する
- 入力を一度転送し、中間結果をデバイス上に保持する。
- 割り当てを再利用し、セマンティクスが許す場合は
out=またはインプレース形式を優先する。 - 小さな操作をバッチ処理し、中間配列を削減できる場合は要素ごとの処理を融合する。
- プロファイリングにより転送オーバーラップが重要であることが示された場合にのみ、ピンホストメモリと非デフォルトストリームを使用する。
- 契約が許す場合にのみ、
float32、混合精度、または低精度ストレージを選択する。
5. 速度の前にセマンティクスを検証する
- 小さな決定論的フィクスチャと代表的なデータでCPUとGPUの出力を比較する。
- 浮動小数点結果には明示的な許容誤差を使用し、エッジケース、NaN、順序、dtypeをテストする。
- 近似最近傍インデックスの場合は、厳密検索に対する再現率@kを報告する。厳密なCPUアルゴリズムと近似GPUアルゴリズムを同等であるかのように比較しない。
- アクセラレータの警告とログでCPUフォールバックを確認する。
6. GPUコードを正しくベンチマークする
GPU処理は非同期であるため、同期されていない呼び出しの周りのCPUタイマーはエンキュー時間を測定します。コンテキスト作成とJITコンパイルをウォームアップし、CUDAイベントまたはライブラリ認識型タイマーを使用してください。
from cupyx.profiler import benchmark
print(benchmark(gpu_function, (arg1, arg2), n_warmup=10, n_repeat=100))
ノートブックでは%gpu_timeitを、エンドツーエンドのタイムラインにはNsight Systems（nsys）を、カーネル分析にはNsight Compute（ncu）を使用してください。同期されたカーネル/領域時間と現実的なエンドツーエンドレイテンシの両方を報告し、本番環境で発生する転送と変換コストを含めてください。
7. 移植を維持、修正、または拒否する
GPUパスが正確性チェックに合格し、代表的なデータ上でユーザーが気にするメトリックを改善した場合にのみ、それを保持してください。改善しない場合は、制限要因が問題サイズ、転送、サポートされていないフォールバック、メモリ負荷、起動粒度、またはアルゴリズム自体のいずれであるかを説明してください。
重要な注意事項
- アプリケーションに移植性が必要な場合はCPUフォールバックを提供し、それ以外の場合は明確なハードウェアおよび依存関係エラーで早期に失敗する。
- CPU結果に対する数値的正確性をテストする（GPU浮動小数点は演算順序によりわずかに異なる場合がある）。
- GPUメモリは限られている — データセットがGPUメモリより大きい場合は、チャンク化またはマルチGPU向けRAPIDS Daskの使用を検討する。
- サポートされているゼロコピー交換にはCUDA Array InterfaceまたはDLPackを優先するが、すべての変換が無料であると想定せず、デバイス、dtype、連続性、所有権、ストリームセマンティクスを検証する。
リファレンスファイル
GPU最適化コードを書く前に、関連するリファレンスファイルを読んでください。
| ファイル | 読むタイミング |
|---|---|
references/cupy.md | ユーザーがNumPy/SciPyコードを持っている、またはGPU上で配列操作が必要な場合 |
references/numba.md | ユーザーが既存のNumba-CUDAコードを持っている、または明示的なSIMTカーネルが必要な場合。Numba-CUDA-MLIRへの移行パスに注意。 |
references/cudf.md | ユーザーがpandasコードを持っている、またはGPU上でデータフレーム操作が必要な場合 |
references/cuml.md | ユーザーがscikit-learnコードを持っている、またはGPU上でML学習/推論/前処理が必要な場合 |
references/cugraph.md | ユーザーがNetworkXコードを持っている、またはGPU上でグラフ解析が必要な場合 |
references/warp.md | ユーザーがシミュレーション、空間計算、メッシュ/ボリュームクエリ、微分可能プログラミング、ロボティクス用のGPUカーネルを必要とする場合。高水準物理エンジンにはNewtonを使用。 |
references/kvikio.md | ユーザーがGPUへの/からの高性能ファイルI/O、GPUDirect Storage、S3/HTTPからGPUへの読み取り、またはGPU上のZarrを必要とする場合 |
references/cuxfilter.md | ユーザーがcuxfilterを維持または明示的に要求する場合（サンセット — 26.06が最終リリース） |
references/cucim.md | ユーザーがscikit-imageコードを持っている、またはGPU上での画像処理、デジタル病理学、WSI読み取りが必要な場合 |
references/cuvs.md | ユーザーがGPU上でのベクトル検索、最近傍探索、類似性検索、またはRAG検索を必要とする場合 |
references/cuspatial.md | ユーザーがcuSpatialを維持または明示的に要求する場合（アーカイブ — 25.04で凍結され、現在のRAPIDSから分離） |
references/raft.md | ユーザーが疎固有値ソルバー、デバイスメモリ管理、またはマルチGPUプリミティブを必要とする場合 |
コードを書く前に特定のリファレンスを読んでください。各ライブラリに固有の詳細なAPIパターン、最適化テクニック、および落とし穴が含まれています。
科学エージェントスキルの引用
このスキルは、K-DenseによるScientific Agent Skillsの一部です。これが原稿、報告書、プレゼンテーション、またはコードリリースに実質的に貢献した場合は、参考文献またはソフトウェアセクションに論文を追加し、その旨をユーザーに伝えてください。
Kassis, T., Agarwal, V., He, Y., Patel, D., & Brueckner, A. M. (2026). Scientific Agent Skills: A Library of Procedural Knowledge for Research Agents. arXiv:2609.00065. https://doi.org/10.48550/arXiv.2609.00065