Re:ゼロから始めるML生活

どちらかといえばエミリア派です

TabMの使い方のメモ

Python

軽めのネタです。

ちょっと前にCMIコンペに出てまして、そこでテーブルデータに大してNNを適用させる実験をしていました。

www.nogawanogawa.com

この実験で色々試しているときに、なにやら別のコンペでTabMというNNの手法が効いたという話を耳にしたのでCMIコンペでも試してみました。 CMIコンペも終わったので、今回はそのTabMを試しに使ってみたときのメモを放流しようと思います。

続きを読む

Unslothの覚書き

Python NLP

これまでLLMはChatGPTとかを使うくらいの関わり方をしていたんですが、最近重い腰上げてLLMについてキャッチアップしようと勉強したりしていたりします。

LLMをfine tuneしようとしたときにどうやらUnslothというライブラリが便利らしいという話を小耳に挟みました。 このあたり、本当かどうかよく分からなかったので今回はUnslothを使ってみたメモです。

続きを読む

【参加録】Child Mind Institute — Problematic Internet Use

kaggle

雑記です。

2024/12/20 09:00 JSTまで行われてたCMI-Ⅱコンペにひっそりと参加していました。 一応、最後までやりきりはしたので振り返りを書いていこうと思います。

続きを読む

LlamaIndexでGemini 1.5 Flashを使う

RAG Python

最近諸事情がありまして、プライベートでLLMをガチャガチャいじっていたんですがChatGPTの請求がとんでもないことになっていました。 流石にコストかかり過ぎだということで、コストが安いGemini 1.5 Flashを使うことを検討しています。

LlamaIndexでGemini 1.5 Flashを使うという文献があまり見つからなかったので、今回はLlamaIndexでGemini 1.5 Flashを使ってみたやり方の備忘録です。

続きを読む

続：RAGの評価をいい感じにできるようにしたい

RAG Python

前にRAGの評価をいい感じにできないか試行錯誤してみてました。

www.nogawanogawa.com

ただ、その後使ってみてやっぱりArize Phoenixに依存するとなにかとしんどい感じがしたので、特にツールを使用せず普通のコードだけで評価をいい感じにできるように色々やってみようと思います。

続きを読む

LlamaTraceを使ってみる

RAG Python

以前Arize Phoenixを使ってたりしました。

www.nogawanogawa.com

www.nogawanogawa.com

そんなArize Phoenixですが、どうやらLlamaCloudでLlamaTraceという名前で使えるようになっているらしいです。

ということで使ってみたいと思います。

続きを読む

Geminiで安全性属性に関するエラーが出たときの対応メモ

Python

小ネタです。

Gemini-ProやGemini-flashを使っているときに、安全性に関するメッセージとともにエラーになることがあります。

このときの対処方法について調べてみたのでそのメモです。

続きを読む

RAGの評価をいい感じにできるようにしたい

Python RAG

最近こんな記事を見かけました。

zenn.dev

zenn.dev

zenn.dev

自分もRAGとかちょろっと勉強してたりしてLLMアプリケーションの評価周りはずっと気になるところではあったので、上記の記事を見てちょっと勉強してみる気になりました。

せっかくなので、色々作りながら評価について自分で考えてみようかと思います。

続きを読む

Arize PhoenixのTraceを永続化させてColabで読み出す

Python RAG

前にArize Phoenixを使ってみてました。

www.nogawanogawa.com

Arize Phoenixを使うときに実験の記録が永続化できると非常に便利なんで、試しにやってみたのでそのメモです。

続きを読む

LlamaIndexでHybrid Searchを試す

Python RAG

前回はLlamaIndexのvector searchでFaissを使ってみました。

今回は、検索部分についてメジャーな改善手法であるHybrid SearchをLlamaIndexで試してみたいと思います。

続きを読む