【書籍メモ】『データのつながりを活かす技術〜ネットワーク／グラフデータの機械学習から得られる新視点』（技術評論社）

『データのつながりを活かす技術〜ネットワーク／グラフデータの機械学習から得られる新視点』（技術評論社）を、著者の一人である黒木裕鷹さんのご厚意でご恵贈いただきました。本記事では、概要と感想を綴ります。

gihyo.jp

書籍概要

ネットワーク／グラフデータの機械学習を題材とした書籍です。ノード（点）とエッジ（線）の繋がりから構成されるネットワーク／グラフについて、性質や特徴を測る方法、構造を考慮した機械学習の手法などを紹介しています。各手法の概要の解説に加え、Python によるコード例が掲載されています。著者は、Sansan 株式会社に所属する 2 名です。

感想

Sansan 株式会社 x 機械学習と言えば、個人的には 2020 年に開催された「Sansan × atmaCup #6」が思い起こされます（開催報告記事）。このコンペでは、企業間の名刺交換というネットワーク構造を対象に機械学習モデルを構築しました。

本書は、このコンペに参加する際に読みたかった書籍です。ネットワーク構造を含むデータをどのような観点で分析するか、どのような機械学習モデルに投入するかの概論を平易な文章で学べます。論文では割愛されがちな基礎的な分析の流れや流用可能な Python のコードが提供されているのも有用です。

ネットワーク構造を含むデータは、その構造を無視して独立で分析することも可能です。時に、意図せず構造を無視して分析してしまうこともあるかもしれません。本書を通じてネットワーク構造ならではの利点や扱い方を頭の片隅の留めておくことで、データに潜在する特徴を踏まえた分析が実現できるように感じました。

2024 年をザッと振り返る

年末恒例の振り返り記事です。例年通り、対外公表している事例の一覧をまとめました。社内での取り組みについては対外公表できていない話題も多いですが、今年は一部ですがプレスリリースを打てたのが印象に残っています。

査読付き論文

主著で論文誌に2本採録された他、国際会議でも2度発表の機会を頂きました。

• 石原祥太郎, 村田栄樹, 中間康文, 高橋寛武 (2024). 日本語ニュース記事要約支援に向けたドメイン特化事前学習済みモデルの構築と活用. 自然言語処理, 31å·», 4号. [paper ] [code ]
• 石原祥太郎, 高橋寛武, 白井穂乃 (2024). Semantic Shift Stability: 学習コーパス内の単語の意味変化を用いた事前学習済みモデルの時系列性能劣化の監査. 自然言語処理, 31å·», 4号. [paper ] [code ]
• 澤田悠冶, 安井雄一郎, 大内啓樹, 渡辺太郎, 石井昌之, 石原祥太郎, 山田剛, 進藤裕之 (2024). 企業名の類似度に基づく日経企業IDリンキングシステムの構築と分析. 自然言語処理, 31å·», 3号. [paper ]
• Shotaro Ishihara and Hiromu Takahashi (2024). Quantifying Memorization and Detecting Training Data of Pre-trained Language Models using Japanese Newspaper. Proceedings of the 17th International Natural Language Generation Conference (INLG 2024). [arXiv ] [paper ] [poster ] (acceptance rate: 0.58=57/98)
• Shotaro Ishihara (2024). Quantifying Memorization of Domain-Specific Pre-trained Language Models using Japanese Newspaper and Paywalls. Fourth Workshop on Trustworthy Natural Language Processing (Non-archival track). [arXiv ] [poster ] (acceptance rate: 0.91=40/44)

査読なし発表・原稿

以前から関心があったヒューマンコンピュータインタラクションの学会に投稿したのは、新しい挑戦でした。

• 田邉耕太, 石原祥太郎, 山田健太, 青田雅輝, 又吉康綱 (2024). ニュースを身近に：日常風景からのニュース推薦. 第 210 回ヒューマンコンピュータインタラクション・第 84 回ユビキタスコンピューティング合同研究発表会. [paper ]
• 阿波智彦, 石原祥太郎 (2024) 日経「星新一賞」と生成AI. 情報処理学会・学会誌「情報処理」2024å¹´9月号. [website ]
• 白井穂乃, 石原祥太郎 (2024). 見出し意味具体化に向けた日本語ベンチマークの構築. 言語処理学会第30回年次大会発表論文集. [paper ]
• 澤田悠冶, 安井雄一郎, 大内啓樹, 渡辺太郎, 石井昌之, 石原祥太郎, 山田剛, 進藤裕之 (2024). 日経企業IDリンキングのための類似度ベースELシステムの構築と分析. 言語処理学会第30回年次大会発表論文集. [paper ]

学会委員

人工知能学会の企画委員（コンペティション担当）を拝命しました。 業務の一つとして「人工知能学会コンペティション開催支援制度」の運営に関わっています。

upura.hatenablog.com

書籍

事例に関する一つの章を担当しました。Kaggle 以外の話題で、初めての商用出版でした。

• 杉山阿聖, 太田満久, 久井裕貴 (編著) (2024). 大規模言語モデルの研究開発から実運用に向けて, 事例でわかるMLOps 機械学習の成果をスケールさせる処方箋 11ç« . 講談社. [website ]

ニューズレター

ニューズレター「Weekly Kaggle News」が 5 周年を迎えました。

upura.hatenablog.com

イベント登壇

今年もありがたいことに、多くの登壇の機会を頂きました。

• 記者・編集者との協働：情報技術が変えるニュースメディア, 開志専門職大学「トップランナー研究Ⅰ」, Dec 20th, 2024.
• ニュースメディアにおける生成 AI の活用と開発, 東京大学工学部「ビジネス入門」, Dec 2nd, 2024.
• マルチモーダル AI 実装の課題と解決策, Developers X Summit 2024, Nov 14th, 2024.
• ニュースメディアにおける事前学習済みモデルの可能性と課題, 第27回情報論的学習理論ワークショップ (IBIS2024) 企画セッション3：ビジネスと機械学習, Nov 7th, 2024.
• 「文理」の壁を越えて：データサイエンスが変えるニュースメディア, 東海高校「研究&仕事紹介講座」, Oct 31st, 2024.
• 第 2 部 11 章「大規模言語モデルの研究開発から実運用に向けて」に向けて, 第 45 回 『事例でわかる MLOps 機械学習の成果をスケールさせる処方箋』出版記念 MLOps 勉強会, Oct 2nd, 2024.
• 「巨人の肩の上」で自作ライブラリを作る技術, PyCon JP 2024, Sep 28th, 2024.
• 日本経済新聞社 x 自然言語処理, 第19回YANSシンポジウム スポンサーセッション, Sep 5th, 2024.

インタビュー・メディア掲載

• Putting the (Gen AI) Puzzle Together, FT Product & Technology, Sep 2nd, 2024.

【Weekly Kaggle News 5 周年】記事閲覧数ランキング 2024

「Kaggle Advent Calendar 2024」の 20 日目の記事です。

ニューズレター「Weekly Kaggle News」が本日 5 周年を迎えました。日本語で、Kaggleをはじめとするデータ分析コンペティションに関する話題を取り扱っています。週次で毎週金曜日に更新しており、最新は本日配信予定の第 262 号です。メール配信の性質上あまり実感が湧きづらいのですが、購読者数は継続的に増加し 2850 人程度になりました。

それでは、今年発行の Weekly Kaggle News 経由で閲覧された URL のランキング結果を紹介します。単純なクリック回数なので、購読者数が増えている直近の回が有利な条件になっています。なお過去分もランキングを公開しています。

• 2020 å¹´
• 2021 å¹´
• 2022 å¹´
• 2023 å¹´

見落としていた記事があれば、ぜひご覧ください。

1 位: 132 クリック（#230）

最もクリック数が多かったのは、系列データを扱った Kaggle コンペと上位解法を振り返りながら、系列データの深層学習モデリングを俯瞰している発表資料でした。 今年開催されたデータ種別の Kaggle コンペについては、12 月 1 日に公開した「【Kaggle Advent Calendar 2024】2024 年に開催された Kaggle コンペ振り返り」で紹介しています。

2 位: 128 クリック（#241）

テーブルデータの前処理を題材にしたオブジェクト指向のコーディング術に関する記事が 2 位に入りました。 データと処理をクラスに記述することで、可読性・再利用性・保守性を向上させる考え方を紹介しています。

zenn.dev

3 位: 127 クリック（#220）

3 位もコーディング術に関する記事でした。 可読性の高いコードを書くために開発者の意図をコード上で表現する方法を紹介しており、命名規則・型ヒント・クラス設計などの話題を扱っています。

qiita.com

4 位: 118 クリック（#221）

4 位は、常に注目されている「決定木 vs 深層学習」の話題です。 論文「Why do tree-based models still outperform deep learning on typical tabular data?」の解説記事で、テーブルデータ分析での決定木と深層学習の性能を比較しています。

voice.pkshatech.com

5 位: 109 クリック（#222）

5 位は、こちらも常に話題性が高い環境構築に関する記事でした。 Docker を用いた機械学習環境の構築方法について、利点や使い方などを解説しています。

zenn.dev

6 位: 109 クリック（#236）

深層ニューラルネットワークの高速化に関する書籍。 量子化・枝刈り・蒸留・低ランク近似・モデルマージなどの手法や背景にある理論を解説しています。

深層ニューラルネットワークの高速化 (ML Systems)

7 位: 107 クリック（#250）

大規模言語モデル（LLM）の処理の効率化に関する解説資料。 単一モデルでの計算効率の改善や、推論処理のまとめ上げといった話題が紹介されています。

8 位: 105 クリック（#224）

表形式データセットを高速に処理する「Polars」と、データ検証のための「Pandera」を紹介している発表資料。 2 つのライブラリの概要を説明しています。

9 位: 103 クリック（#231）

Python の処理速度に焦点を当てた書籍。 組み込み機能、CPython、GPUの利用など、さまざまな手法が取り上げられています。

www.shoeisha.co.jp

10 位: 102 クリック（#212）

1 月 9 日までの期間限定で半額になっていた『The Kaggle Book：データ分析競技 実践ガイド＆精鋭31人インタビュー』（インプレス）の書籍ページ。 1 月 5 日配信号で紹介されました。

tatsu-zine.com

11 位: 102 クリック（#240）

テーブルデータを処理する「Pandas」ライブラリから「Polars」ライブラリへの書き換えに関する発表資料。 高速化の実例と遭遇した課題を紹介しています。

12 位: 101 クリック（#214）

アンサンブル手法の強み・弱みを「個々のモデルの精度」「モデルの多様性」「予測結果を混合する際に発生する情報の損失」の観点で要因分析するライブラリ。 国際会議「ICML2022」に採択された論文の実装です。

github.com

13 位: 101 クリック（#235）

推薦アルゴリズムに関する入門記事。実践編として、コンペを題材にしたソースコードも掲載しています。

qiita.com

14 位: 98 クリック（#236）

回帰・分類問題の特徴的な損失関数を解説している発表資料。深層学習ライブラリ「PyTorch」での実装も紹介しています。

15 位: 97 クリック（#213）

時系列予測ライブラリ「Prophet」を用いた分析の流れを紹介している記事。題材として Kaggle にアップロードされている株価データを利用しています。

zenn.dev

16 位: 91 クリック（#229）

『グラフニューラルネットワーク』（講談社）の著者による書籍の紹介資料。グラフ構造による定式化や、グラフニューラルネットワークの導入・応用などを解説しています。

17 位: 92 クリック（#217）

2024 年 2 月時点で利用頻度の高そうな Python の新機能・ライブラリ・ツールなどを紹介している記事。 環境構築や型ヒント、データクラスなどを取り上げています。

tech.uzabase.com

18 位: 91 クリック（#251）

10 月 1 日発行の電子情報通信学会誌に掲載された記事。 著者の所属機関のサイトで、PDF が無料公開されています。

実務にデータ分析コンペは有効か

19 位: 90 クリック（#212）

医療分野での AI 研究・応用の最新動向をまとめた資料。Kaggle でも医用画像を題材としたコンペが数多く開催されています。

20 位: 88 クリック（#258）

様々な実験設定で、表形式データのライブラリごとの処理速度を比較している記事。GPU の有無による推奨ライブラリも紹介しています。

zenn.dev

21 位: 87 クリック（#228）

畳み込みニューラルネットワーク（CNN）と Vision Transformer（ViT）を通して、画像認識の基礎を実践例とともに解説する書籍。Python（PyTorch）のサンプルコードも提供しています。

www.ohmsha.co.jp

22 位: 87 クリック（#258）

大規模言語モデルの登場までの自然言語処理の潮流を解説している資料。現状苦手とされている処理や課題についても紹介しています。

23 位: 87 クリック（#252）

Kaggle のコード提出形式コンペを題材に、開発効率の向上を見据えて、ブラウザをなるべく使わない作業フローに関する記事。コードや学習済みモデルのアップロードや、ライブラリの管理などの方法を紹介しています。

ho.lc

24 位: 86 クリック（#224）

Kaggle Master の Q_takka さんによる Kaggle と開発実務の違いに関する発表資料。プロジェクト進行における企画や制約などの観点を紹介しています。

25 位: 85 クリック（#221）

Kaggle Grandmaster の senkin13 さんによる発表資料。コンペ選び、モチベーション、情報収集、最終提出選択の戦略を紹介しています。

学会コンペで論文執筆の流れを学んだ話

「Kaggle Advent Calendar 2024」の 17 日目を担当します。 本記事では 12、15、16 日目の記事に関連して、学会で開催されるコンペ（以降、学会コンペ）を通じて、論文執筆の流れを学んだ話を綴ります。 あまり一般的ではないキャリアのため直接参考になる読者は多くないかもしれませんが、コンペが「役に立った」事例の一つとして紹介できればと考えています。

本記事の背景

著者の私は今現在、事業会社の研究開発部門に所属し、業務の一つとして論文執筆にも取り組んでいます。 2024 年は、国内論文誌に主著 2 本と共著 1 本が採録された他、国際学会でも 2 度の口頭発表を実施しました（参照：Appendix）。

私の簡単な経歴は次の通りです。 2021 年 4 月に事業部門から研究開発部門に異動した当時、大学を離れてから数年の間隔が空いていました。

• 大学・大学院（2016〜2017 年）：学部 4 年時に研究室配属され、卒業論文のほか、査読付き国際学会 1 本、査読なし国内学会 1 本を経験。
• 事業部門（2017〜2021 年）：事業会社の事業部門でデータ分析や機能開発に従事。社外活動として Kaggle などの機械学習コンペに参加。
• 研究開発部門（2021 年〜）：事業会社の研究開発部門で、主に事前学習済みモデルの開発と活用に従事。

そこで企業研究者としてのキャリア初期となった 2021 年から 2022 年にかけて、学会コンペを通じて論文を執筆できる機会があれば、積極的に取り組むように意識していました。

• Shotaro Ishihara, Shuhei Goda, Yuya Matsumura (2021). Weighted Averaging of Various LSTM Models for Next Destination Recommendation, Proceedings of the Workshop on Web Tourism co-located with the 14th ACM International WSDM Conference (WSDM 2021). => 以降、WebTour 2021
• Shotaro Ishihara, Shuhei Goda, and Hidehisa Arai (2021). Adversarial Validation to Select Validation Data for Evaluating Performance in E-commerce Purchase Intent Prediction. Proceedings of the ACM SIGIR Workshop on eCommerce (SIGIR eCom’21). => 以降、SIGIR eCom 2021
• Shotaro Ishihara, and Hono Shirai (2022). Nikkei at SemEval-2022 Task 8: Exploring BERT-based Bi-Encoder Approach for Pairwise Multilingual News Article Similarity. Proceedings of the 16th International Workshop on Semantic Evaluation (SemEval 2022). => 以降、SemEval 2022

学会コンペを通じた論文執筆の特徴

学会コンペでは一般的に、終了後に主催者が参加者に、解法を報告する論文執筆（やソースコード公開）を促します。 上位入賞チームが賞金を受け取るには、論文提出が必要要件になっていることも多いです。 必ずしも上位入賞チームでなくとも、論文提出は可能な場合もあります。

学会コンペを通じた論文執筆には次のような特徴があり、論文執筆の勘所を掴むのに良い機会になったと感じています。 以降、それぞれの特徴について具体的に説明していきます。

1. 題材や論文の構成がある程度決まっている
2. 執筆・査読の期間が短い
3. 同じ題材による論文が複数公開される

1. 題材や論文の構成がある程度決まっている

研究者としてのキャリア初期は、研究テーマの模索に一定の時間がかかるかと思います。 そんな中、学会コンペでは主催者から題材が提供され、スコアを争う中での試行錯誤の実験結果を論文として執筆できます。 論文の構成も型が概ね決まっており「どこ」に「何」を書くかで迷う場面は比較的少ない印象です。 自分が取り組んだ内容を「どうやって」表現するかに注力できたのは、良い経験になりました。

2. 執筆・査読の期間が短い

学会コンペでは、執筆・査読の期間が短い場合が多いです。 たとえば、私が論文を書いた 3 つの学会コンペの終了・論文提出締切・査読結果通知の日付は以下の通りでした。

コンペ名	コンペ終了	論文提出締切	査読結果通知
WebTour 2021	2021-01-29	2021-02-12	2021-02-26
SIGIR eCom 2021	2021-06-17	2021-06-25	2021-07-08
SemEval 2022	2022-01-31	2022-02-23	2022-03-31

短期間で論文執筆のために多くの学びを得る機会となりました。 学会コンペは当該の機会を逃すと別の場に再投稿しづらく、締切効果も大きいです。 査読結果の通知も比較的早いため、論文投稿の一連の流れを素早く体験できました。

3. 同じ題材による論文が複数公開される

同じ題材で執筆された他者の論文を読み比べできるのも、貴重な機会となりました。 学会コンペでは上位入賞チームを中心に、複数の論文が採択されて公開されます。 自分で論文を提出できるくらい注力した学会コンペであれば、題材として読みづらい部分は少なく、論文に素早く目を通せると期待できます。 学会コンペの課題やデータ説明など、全チームで共通している箇所でも、書き方の違いで読み手が受ける印象が大きく変わることが身をもって実感できました。

学会コンペの上位解法は、学会内で発表の機会が与えられる場合も多いです。 自分自身が発表の経験を積めるのはもちろん、他チームの発表からもたくさんの知見が得られました。 純粋に国際学会の雰囲気を体験できるのも利点の一つです。

終わりに

本記事では学会コンペの特徴も踏まえて、論文執筆の流れを学んだ話を紹介しました。 コンペの（これまであまり語られてこなかった類いの）活用事例の一つとして、参考になる方がいればと思います。

Appendix: 今年採択された論文誌・国際学会

• 石原祥太郎, 村田栄樹, 中間康文, 高橋寛武 (2024). 日本語ニュース記事要約支援に向けたドメイン特化事前学習済みモデルの構築と活用. 自然言語処理, 31å·», 4号.
• 石原祥太郎, 高橋寛武, 白井穂乃 (2024). Semantic Shift Stability: 学習コーパス内の単語の意味変化を用いた事前学習済みモデルの時系列性能劣化の監査. 自然言語処理, 31å·», 4号.
• 澤田悠冶, 安井雄一郎, 大内啓樹, 渡辺太郎, 石井昌之, 石原祥太郎, 山田剛, 進藤裕之 (2024). 企業名の類似度に基づく日経企業IDリンキングシステムの構築と分析. 自然言語処理, 31å·», 3号.
• Shotaro Ishihara and Hiromu Takahashi (2024). Quantifying Memorization and Detecting Training Data of Pre-trained Language Models using Japanese Newspaper. Proceedings of the 17th International Natural Language Generation Conference (INLG 2024).
• Shotaro Ishihara (2024). Quantifying Memorization of Domain-Specific Pre-trained Language Models using Japanese Newspaper and Paywalls. Fourth Workshop on Trustworthy Natural Language Processing (Non-archival track).

【書籍メモ】『Developing Kaggle Notebooks: Pave your way to becoming a Kaggle Notebooks Grandmaster』（Packt）

「Kaggle Advent Calendar 2024」の 5 日目の記事です。 2023 年 12 月に出版された『Developing Kaggle Notebooks: Pave your way to becoming a Kaggle Notebooks Grandmaster』（Packt）の書籍メモです。 なお同書は、著者の Gabriel Preda さん のご厚意でご恵贈いただきました。

翻訳版

日本語訳版の『グランドマスター三冠のKaggleノートブック開発術　単変量解析から地理情報分析／偽動画検出／LLMまで』が、2025 年 2 月に出版されます。

書籍の概要

Kaggle の Datasets/Notebooks/Discussions の 3 部門で Grandmaster の称号を持つ Gabriel Preda さんによる書籍です。 Kaggle Notebooks を活用しながら、さまざまな種類のデータセットの分析技術を学びます。

主要な特徴として掲げられている話題は、次の 3 点です。

1. ベースラインモデル構築のためのデータの取り込み・クリーニング・探索の基本の習得
2. 表・テキスト・画像・動画・波形など、さまざまな種類のデータの処理
3. ノートブックの説得力を高めるためのスタイルと可読性の向上

日本語訳版のサイトから引用した目次は以下の通りです。 より具体的に扱う内容については、GitHub で公開されているサンプルコードが参考になります。

【本書の構成】
第1章　Kaggleの基本
第2章　Kaggleノートブックの準備
第3章　Kaggleという旅の始まり―タイタニック号事件を分析
第4章　単変量／2変量／地理空間を分析―パブとスターバックス
第5章　分析コンペティションでの効果的なアプローチ
第6章　画像データ分析―ミツバチの亜種を予測
第7章　テキスト分析―単語埋め込み、双方向LSTM、Transformer
第8章　音響信号によるLANL地震予測
第9章　ディープフェイク動画の検出
第10章　Kaggleモデルと生成AI
第11章　旅の終わり―高品質化と高評価のために

所感

原著である英語版を読んだ上での感想を以下に綴ります。 総じて、Kaggle Notebook のサンプルコードとクラウドリソースを使いながら、データ分析の幅広い世界を知る導入として良い書籍だと思います。

• 定番の「タイタニック」から始まり、地理空間・画像・テキスト・波・動画など、さまざまな種類のデータ分析事例を概観できる。
• それぞれコンペに紐づいた紹介になるが、概要とデータ可視化、最初の機械学習モデル構築くらいまでが対象で、上位に行くための解法を丁寧に解説する趣旨ではない。たとえば第9章は動画の読み込みと簡単な検出の処理まで。
• 第10章では、Kaggle Notebook 上で大規模言語モデルの検索拡張生成（RAG）に取り組む。これまでの Kaggle 関連書籍にはなかった題材。
• GitHub のサンプルコードが充実しており参考になる。ただし 1 年前に出版された書籍なので、特に大規模言語モデル関連では Llama 2 を使うなど最新ではない部分もある。

終わりに

本記事では、2023 年 12 月に出版され、2025 年 2 月に日本語訳版が発売される『Developing Kaggle Notebooks: Pave your way to becoming a Kaggle Notebooks Grandmaster』の概要と所感を書きました。

【Kaggle Advent Calendar 2024】人工知能学会コンペティション開催支援制度の紹介

「Kaggle Advent Calendar 2024」の 4 日目の記事では「人工知能学会コンペティション開催支援制度」を紹介します。 著者の私は今年 2024 年、人工知能学会の企画委員（コンペティション担当）を拝命しました。 業務の一つとして本制度の運営に関わっています。 この場を借りて、取り組みの狙いや枠組みなどを紹介します。

人工知能学会コンペティション開催支援制度とは

本制度は、人工知能学会が 2023 年度から始めた新しい取り組みです。 人工知能分野の発展に寄与すると考えられるコンペティションの開催を、経済面・広報面で支援します。 経済面では、申請された支出概算に対し一定額（2024 年度は原則 1 件あたり最大 50 万円）を助成します。 広報面では、人工知能学会のホームページ、X（旧 Twitter）、メーリングリストでコンペティションの応募を案内可能です。

www.ai-gakkai.or.jp

助成あり・助成なしトラック

新規立ち上げのコンペティションを経済面・広報面で支援する「助成ありトラック」と、新規・継続のコンペティションを広報面で支援する「助成なしトラック」があります。 2024 年度の助成ありトラックでは、春と秋の 2 回の募集を実施しました。 助成なしトラックは、通年で応募を受け付けています。

2023 年度の成果報告

人工知能学会の学会誌の記事*1に記載の通り、2023 年度は次の 4 コンペティションを採択しました。 2024 年 5 月の全国大会で、成果報告会も開催しています。 全てのコンペティションを通じて、高校生から企業研究者まで合計 116 件の参加がありました。

• GeoSciAI2024
• 第 3 回教育データ分析コンテスト
• 超知能がある未来社会シナリオコンテスト
• 全国中高生 AI・DS 探究コンペティション 2023

今後に向けて

2024 年度の採択コンペティションについては、2025 年度の全国大会で成果報告会を実施予定です。 全国大会は 5 月 27～30 日、大阪国際会議場（グランキューブ大阪）とオンラインでハイブリッド開催されます。

企画委員（コンペティション担当）としては、本制度以外の形でも、コンペティションを通じて人工知能分野を盛り上げていきたいと考えています。 何かアイディアがある方がいれば、お気軽に私までご連絡いただけますと幸いです。

*1:特集：2024年度人工知能学会全国大会（第38回）[企画セッション総括，KS1-20］, 人工知能, 2024, 39 巻, 6 号, p. 851-884, 公開日 2024/11/01, Online ISSN 2435-8614, Print ISSN 2188-2266, https://doi.org/10.11517/jjsai.39.6_851, https://www.jstage.jst.go.jp/article/jjsai/39/6/39_851/_article/-char/ja

【Kaggle Advent Calendar 2024】2024 年に開催された Kaggle コンペ振り返り

「Kaggle Advent Calendar 2024」の 1 日目の記事では、2024 年に開催された Kaggle コンペを振り返ります。

コンペで扱うデータの種類の年次推移

Kaggle に関するデータがまとめられた公式データセット「Meta Kaggle」を用いて、コンペティションで扱うデータの種類について年次推移を出力します。 Python のソースコードと実行結果は以下の通りです。 ただし、メダルやポイントの対象となるコンペに限定しました。 Meta Kaggle の仕様上、開催中のコンペはデータセットに含まれていません。 「year」はコンペの終了年を指し、2024 年 11 月末時点での実行結果を表示しました。

ソースコード

import pandas as pd


def load_df():
    competitions_df = pd.read_csv('../input/meta-kaggle/Competitions.csv')
    competition_tags_df = pd.read_csv('../input/meta-kaggle/CompetitionTags.csv')
    tags_df = pd.read_csv('../input/meta-kaggle/Tags.csv')
    return competitions_df, competition_tags_df, tags_df


def concat_df(competitions_df, competition_tags_df, tags_df):
    competitions_df = competitions_df.query('CanQualifyTiers==True')[['Id', 'Title', 'DeadlineDate']]
    competitions_df['DeadlineDate'] = pd.to_datetime(competitions_df['DeadlineDate'])
    competitions_df['year'] = competitions_df['DeadlineDate'].dt.year.values

    tags_df = tags_df[tags_df['FullPath'].str.contains('data type|analysis|task|technique')]
    tags_df = pd.merge(tags_df,
                       competition_tags_df,
                       left_on='Id',
                       right_on='TagId',
                       suffixes=('_tags', '_comps'))
    competitions_df = pd.merge(competitions_df[['Title', 'DeadlineDate', 'Id', 'year']],
                               tags_df[['CompetitionId', 'Name', 'FullPath']],
                               how='left',
                               left_on='Id',
                               right_on='CompetitionId')
    competitions_df = competitions_df.sort_values('DeadlineDate')
    return competitions_df.reset_index(drop=True)


def convert_category(name):
    if name != name:
        return name
    elif (name == 'nlp') or ('text' in name):
        return 'text'
    elif 'image' in name:
        return 'image'
    else:
        return name


competitions_df, competition_tags_df, tags_df = load_df()
df = concat_df(competitions_df, competition_tags_df, tags_df)
df['Category'] = df['Name'].map(lambda x: convert_category(x))
df_filtered = df[df['Category'].isin(['audio', 'graph', 'image', 'multimodal', 'tabular', 'text', 'video'])][['Title', 'Category', 'year']].drop_duplicates()
pd.crosstab(df_filtered['year'], df_filtered['Category'])

year / Category	audio	graph	image	multimodal	tabular	text	video
2013	0	0	0	0	1	1	0
2015	0	0	2	0	20	1	0
2016	0	0	6	0	18	1	0
2017	0	0	12	0	8	4	0
2018	0	0	10	0	5	2	1
2019	1	0	14	0	8	4	1
2020	1	0	10	0	4	4	1
2021	2	0	12	0	4	5	1
2022	1	0	9	0	8	7	1
2023	2	1	7	0	8	5	1
2024	1	0	5	1	4	9	0

2024 年で最も多かったのは、テキスト（text）を題材にしたコンペでした。 2022 年末に ChatGPT が登場して以降の大規模言語モデルの盛り上がりを表している面もあるかもしれません。 次いで多かったのは、画像（image）と表（tabular）でした。 年次推移を見ると、画像は 2017 年ごろから急速にコンペ数が増えています。 表は昔から継続して開催されていることが読み取れます。

なお詳細の説明は割愛しますが、自然言語処理コンペを中心に、データの種類に関するタグが付いていない場合が多かったので、ルールベースでまとめ上げました。 たとえば「analysis > nlp」や「task > text-classification」などのタグを含むコンペに対して「data type > text」のタグも付与されていると見なしています。 具体的な処理は、ソースコードを参照してください。

データの種類ごとの振り返り

データの種類ごとに、2024 年に終了したコンペを振り返ります。

テキスト

2024 年に終了したテキストを扱ったコンペは以下の 9 つでした。 大規模言語モデルを題材にした課題が目立ちました。

• Linking Writing Processes to Writing Quality
  • タイピングの挙動から、エッセイの品質を予測
• LLM - Detect AI Generated Text
  • 大規模言語モデルで生成されたテキストかを判定
• LLM Prompt Recovery
  • 大規模言語モデルの出力から指示（prompt）を再現
• The Learning Agency Lab - PII Data Detection
  • テキストから個人に関連する情報を特定
• AI Mathematical Olympiad - Progress Prize 1
  • LaTeX 形式で書かれた数学問題を解くモデルを開発
• Learning Agency Lab - Automated Essay Scoring 2.0
  • 学生の小論文を採点
• LMSYS - Chatbot Arena Human Preference Predictions
  • 大規模言語モデルを搭載したチャットボットの回答から、ユーザの嗜好を予測
• USPTO - Explainable AI for Patent Professionals
  • 特許文書の集合を抽出できるような検索クエリを生成
• LLM 20 Questions
  • Yes/No で答えられる 20 個の質問で秘密の単語を当てるゲームに取り組む対戦型のコンペ

画像

2024 年に終了した画像を題材にしたコンペは以下の 5 つでした。 データセットのサイズは数〜数 100 GB と大きく、計算資源の要求も大きくなっている印象があります。

• UBC Ovarian Cancer Subtype Classification and Outlier Detection (UBC-OCEAN)
  • 卵巣がんの分類
• SenNet + HOA - Hacking the Human Vasculature in 3D
  • 腎臓の血管のセグメンテーション
• Image Matching Challenge 2024 - Hexathlon
  • 画像から正確な空間表現を生成
• ISIC 2024 - Skin Cancer Detection with 3D-TBP
  • 3 次元全身写真から皮膚がんを検出
• RSNA 2024 Lumbar Spine Degenerative Classification
  • 腰椎 MR 画像を用いた変性脊椎疾患の検出と分類

表

株価、脳活動、エネルギー、債務不履行など、様々な出題がありました。

• Optiver - Trading at the Close
  • ナスダック上場銘柄の終値の動きを予測
• HMS - Harmful Brain Activity Classification
  • 重症患者の発作など、有害な脳活動のパターンを分類
• Enefit - Predict Energy Behavior of Prosumers
  • エネルギーの生産・消費を予測
• Home Credit - Credit Risk Model Stability
  • 潜在顧客の債務不履行の可能性を評価

音声

ここ数年恒例となっている鳥の鳴き声を題材にしたコンペが 2024 年も開催されました。

• BirdCLEF 2024
  • 鳥の鳴き声を分類

マルチモーダル

初めてのタグとして、マルチモーダル（multimodal）が登場しました。

• NeurIPS - Ariel Data Challenge 2024
  • 太陽系外惑星の信号を抽出

その他

今回のルールベースではデータの種類が付与できなかったコンペも 5 つありました。

• Santa 2023 - The Polytope Permutation Puzzle
  • 毎年恒例の数理最適化を題材にしたコンペ
• March Machine Learning Mania 2024
  • 毎年恒例の大学バスケットボール大会の結果を予測するコンペ
• NeurIPS 2024 - Predict New Medicines with BELKA
  • 特定のタンパク質に対する低分子の結合親和性を予測
• LEAP - Atmospheric Physics using AI (ClimSim)
  • 大気物理学を模倣するようなモデルを構築
• ARC Prize 2024
  • 初見の推論問題を解くシステムを開発

終わりに

本記事では、2024 年に開催された Kaggle コンペを振り返りました。 「Kaggle Advent Calendar 2024」は明日以降も続きます。 Kaggle 関連のたくさんの記事が読めるのを楽しみにしています。 まだ枠も空いていますので、ご関心あればぜひお気軽にご登録ください。