高精度な文字起こしAIでYoutubeの字幕を作ってみた

どうもこんにちは、あんどう（@t_andou）です。

今回はOpenAIの高精度な文字起こしAI「whisper」を試してみました。

ただ試すだけでは面白くないのでもう少し実用的なことを…と言うことで、Youtube用の字幕を作ってみました。

実行環境

GoogleColabでGPUはT4でした。

使用した動画と結果

以前、リアルな顔がしゃべるAIを作ったので、その動画を使います。

声もAIによるもののため、僕の耳には聞き取りやすいですが、whisperにとってはどうでしょうか。気になります。
（ちなみに、この動画内で話しているニュースの文章もAIによる生成物です。）

www.youtube.com

↑こちらの動画の字幕としてすでに含まれているので、結果が気になる方はご覧ください。

日本語（自動生成）はYoutubeが自動でつけてくれたもの、日本語が今回生成したものになります。

まずはモデルごとに精度確認

whisperでは「tiny」「base」「small」「medium」「large」の5つのモデルが用意されているようです。

tinyなどはリアルタイムな処理には向いているかもしれませんが、今回は精度が良いことを確認したいためsmall / medium / largeの三つで試します。

small

処理時間

14.6

結果

[00:00.000 --> 00:03.360] おはようございます。 朝の核雲ニュースです。
[00:03.360 --> 00:08.360] 昨夜午後10時前頃金川県山とし静桃の路上で
[00:08.360 --> 00:13.400] 道路脇に止まっていたケートラックにダンプカーが消滅したという通報がありました。
[00:13.400 --> 00:19.520] この事故の影響でケートラックに載っている50代の男が全身を強く売って死亡し、
[00:19.520 --> 00:23.120] 女子席の男を含む3人が重宅となっていました。
[00:23.120 --> 00:28.480] 警察の調べによりますと、「男は山とし内の飲食店従業員で
[00:28.480 --> 00:37.280]  early 正を見状態で運転していたというのですが取調べに対しては アクセルを踏み間違えたという趣旨を話しているとのことです
[00:37.280 --> 00:44.800] また 事故を起こした際に車の全部が大きくへ込んだため修理に出していたところだったということなのですが
[00:44.800 --> 00:52.160] 警察は火失地症罪にあたる可能性もあるとして操作を続けています 次はスポーツ関連のニュースです
[00:52.160 --> 00:54.480] 機関をはつきました。
[00:54.480 --> 00:59.000] DFの唱片ぼしく魔法を固め、聖俊とキャンプthingをゲットしています。
[00:59.000 --> 01:02.080] Jリーグという人を気に入れて、
[01:02.080 --> 01:05.300] 私の体験を受け取るようになるようになりました。
[01:05.300 --> 01:08.260] でも、私がぜんぜんの风に祈りに行ったのは、
[01:08.260 --> 01:12.420] 私が作られてくれる他們を参考にしてきました。
[01:12.420 --> 01:15.620] 私は曲を引き込んでいきたいと思っていました。
[01:15.620 --> 01:19.300] 私のしかとに、私が拝手する言語のようです。
[01:19.300 --> 01:25.680] ました日本代表 mf 端部まこと選手は このあと午後七時から都内で記者会見
[01:25.680 --> 01:29.560] を開き今年の目標などについて 語ります
[01:29.560 --> 01:35.560] 最後にお天気情報です東京は晴れの 地雲り最高気温は平年より
[01:35.560 --> 01:39.960] 厚度高い30度になる見込みです 雨雲レーダーによると午後からは
[01:39.960 --> 01:44.480] 天気が崩れ始め湯が耐敷 校は極地的に激しい雷雨となる
[01:44.480 --> 01:53.600] ところもあるため稼莉を持ってお出かけください 週末にかけて気温が上がる予想なので熱中小隊作にも気をつけてくださいね
[01:53.600 --> 01:58.020] それでは今日も良い1日をお過ごしください

所感

約2分の動画に対して15秒かからずに処理できています。だいぶ早い。

ただ、精度の方は…まだまだ全体的にひどいですね。それでは次。

medium

処理時間

35.8秒

結果

[00:00.000 --> 00:13.380] おはようございます。朝の架空ニュースです。昨夜午後10時前頃、神奈川県山敷委の路上で、道路脇に止まっていた経トラックにダンプカーが衝突したという通報がありました。
[00:13.380 --> 00:23.120] この事故の影響で、経トラックに乗っている50代の男が前身を強く打って死亡し、助手席の男を含む3人が重体となっていました。
[00:23.120 --> 00:31.720] 警察の調べによりますと男は山斗市内の飲食店従業員で 式曜日状態で運転していたというのですが
[00:31.720 --> 00:43.040] 取調べに対してはアクセルを踏み間違えたという趣旨を話しているとのことです また事故を起こした際に車の全部が大きく凹んだため修理に出していたところだった
[00:43.040 --> 00:49.700] ということなのですが 警察は可視症症罪にあたる可能性もあるとして捜査を続けています
[00:49.700 --> 00:59.460] 次はスポーツ関連のニュースですサッカージェリーグ バンフォーレ候補が昨シーズン限りで現役を引退した df 三上正cıろ選手が
[00:59.460 --> 01:06.060] 今シーズンから vfb シュトラルト で現役復帰することが決まりました契約は3年間
[01:06.060 --> 01:12.920] セバン号は8番に決まりましたサッカーのワールドカップ アジア最終予選で日本と対戦し
[01:12.920 --> 01:20.120] 惜しくも破れたうずべキスタン代表は今週末に行われる試合に向けて最終調整を行いました
[01:20.120 --> 01:29.460] 日本代表MF長瀬部誠選手はこの後午後7時から都内で記者会見を開き 今年の目標などについて語ります
[01:29.460 --> 01:37.980] 最後にお天気情報です 東京は晴れのち曇り最高気温は平年より5度高い30度になる見込みです
[01:37.980 --> 01:48.080] 雨雲レーダーによると午後からは天気が崩れ始め 夕方以降は極地的に激しい雷雨となるところもあるため、傘を持ってお出かけください
[01:48.080 --> 01:53.480] 週末にかけて気温が上がる予想なので熱中傷対策にも気をつけてくださいね
[01:53.480 --> 01:56.300] それでは今日も良い一日をお過ごしください

所感

時間はだいぶかかるようになっていますが、まだ結構漢字の変換に失敗していたり、選手名の聞き取りに失敗していたりします（固有名詞が苦手？）が、全体的に良くなっています。それでは最後にlargeモデル。

large

処理時間

57.5秒

結果

[00:00.000 --> 00:05.000] おはようございます 朝のか空ニュースです昨夜午後10時前頃
[00:05.000 --> 00:12.820] 神奈川県ヤマト市下鶴間の路上で道路脇に泊まっていた軽トラックにダンプカーが衝突したという通報がありました
[00:12.820 --> 00:19.460] この事故の影響で軽トラックに乗っている50代の男が全身を強く撃って死亡し
[00:19.460 --> 00:28.020] 助手席の男を含む3人が渋滞となっていました 警察の調べによりますと男はヤマト市内の飲食店従業員で
[00:28.020 --> 00:31.100] 四季折々状態で運転していたというのですが
[00:31.100 --> 00:36.920] 取調に対してはアクセルを踏み間違えたという趣旨を話しているとのことです
[00:36.920 --> 00:41.700] また事故を起こした際に車の全部が大きく凹んだため
[00:41.700 --> 00:44.080] 修理に出していたところだったということなのですが
[00:44.080 --> 00:49.600] 警察は過失致死罪に当たる可能性もあるとして捜査を続けています
[00:49.600 --> 00:51.840] 次はスポーツ関連のニュースです
[00:51.840 --> 00:53.620] サッカーJリーグ
[00:53.620 --> 01:03.440] 晩法嶺幸夫が昨シーズン限りで現役を引退したdf三上 masahiro 選手が今シーズンから vfb シュトゥッドガルトで現役復帰することが決まり
[01:03.440 --> 01:12.880] ました契約は3年間 背番号は八番に決まりましたサッカーのワールドカップアジア最終予選で日本と対戦し
[01:12.880 --> 01:20.040] 惜しくも敗れたウズベキスタン代表は今週末に行われる試合に向けて最終調整を行い ました
[01:20.040 --> 01:29.480] 日本代表mf長瀬弁誠選手はこの後午後7時から都内で記者会見を開き 今年の目標などについて語ります
[01:29.480 --> 01:37.960] 最後にお天気情報です 東京は晴れのち曇り最高気温は平年より5度高い30度になる見込みです
[01:37.960 --> 01:45.940] 雨雲レーダーによると午後からは天気が崩れ始め夕方以降は極刺的に激しい雷雨と なるところもあるため
[01:45.940 --> 01:53.680] カサを持ってお出かけください 週末にかけて気温が上がる予想なので熱中症対策にも気をつけてくださいね
[01:53.680 --> 01:58.240] それでは今日も良い一日をお過ごしください

所感

処理時間は流石にかかりますが、2分の動画に対して1分かからないので思ったより早いです。
精度も気になるところはありますが、mediumでも良かったような？
過失致死罪を正しく書けているのはすごいですが固有名詞はやはり苦手っぽい印象です。

それでも、自動でここまでやってくれるのは素晴らしいですね。

使用した動画と結果その２

www.youtube.com

ある程度使えそうだということがわかったので、次は「全国的にプログラミングスクールを展開しているSUNABACO」のナカムラ（@nakamakoko）さんが講演されている動画をお借りして字幕を作成してみました。こちらも「日本語」の字幕のところに適用済みです。(@campa_rabbさん動画提供・字幕適用ありがとうございます。)

結果として、最初の導入が少し怪しいかと思いましたが、全体的にめちゃくちゃ精度がいいです。良すぎてびっくりします。

動画の時間が55分くらいで、処理時間は20分程度でした。

最後に

最近、画像生成AIによってイラストレーターの仕事がなくなると騒がれていましたが、文字起こしの仕事の方が先になくなりそうな勢いですね…

 

Youtubeの文字起こしのお仕事ください。

 

次回は「文字起こしAIで誰でも無料でYoutubeの字幕ファイルを作る方法」をお届けしたいと思います。

 

→書きました

blog.takuya-andou.com

 

それでは。