GPUなしでもここまでできる - AWS LambdaによるYOLOv8推論の最適化手法 | DevelopersIO

GPUなしでもここまでできる - AWS LambdaによるYOLOv8推論の最適化手法 | DevelopersIO

1 はじめに 製造ビジネステクノロジー部の平内（SIN）です。 機械学習モデルをAWS環境で運用する際、GPU...概要を表示 1 はじめに 製造ビジネステクノロジー部の平内（SIN）です。 機械学習モデルをAWS環境で運用する際、GPU搭載のEC2インスタンスやSageMaker Endpointを使用するのが一般的ですが、常時起動のコストが課題となることがあります。特に利用頻度が低い場合や、リアルタイム性がそれほど求められない用途では、従量課金のAWS Lambdaが魅力的な選択肢となります。 しかし、LambdaではGPUが利用できないため、CPU環境でどこまで実用的な速度を実現できるかが鍵となります。 本記事では、AWS LambdaでYOLOv8セグメンテーションモデルを構築し、最大のパフォーマンスが出せるように最適化プロセスを重ねた記録を紹介します。 なお、先日公開されたLambda Managed Instancesを利用すると、GPUインスタンスを立てることも可能となりそうですが、こちらはインスタン