nikkie-ftnextの日記

イベントレポートや読書メモを発信

イベントレポート | 9/14開催 みんなのPython勉強会#97 PostmanとAWSの例からHugging Faceのヤバさを思い知りました #stapy

イベントレポート

はじめに

ヤバいよ、マジヤバいよ1。nikkieです。

9月のみんなのPython勉強会のレポートです。
クラウドがテーマの回だったのですが、（スタッフ）参加後の私の脳内は「Hugging Faceがヤバい... ヤバいよ...」となってました

目次

勉強会の概要

みんなのPython勉強会#97 - connpass

「みんなのPython勉強会」では、Pythonを中心としてプログラミングを仕事、研究、趣味など様々なシーンに生かす方法を一緒に学びます。
プログラマ、WEBエンジニアに限らず、初心者からマスターまで様々なレベルの、いろいろな分野の人が集まるので、「みんな」の勉強会です。お気軽にご参加ください。

9月は「クラウド技術の最前線」。
トーク2本 + LT2本で、トークの情報量がすごかったです

  • トーク
    • 草薙さん『Postmanで始めるAI・機械学習プラットフォームHugging Face』
    • Yukkiさん『強化学習基礎の基礎とAWS DeepRacerはじめの一歩』
  • LT
    • iwamotさん「ChatGPT in SlackでAI Slackbotを楽しく運用する」
    • nikkie「Pythonイベントインフォメーション（9月版）」

Postmanで始めるAI・機械学習プラットフォームHugging Face

Hugging FaceのInference API、ヤバくないですか！！

Hugging Faceは無数の機械学習モデルの共有に使われていますし、大LLM時代で日々新たなモデルが仲間入りしていますが、それらのモデルをAPI経由で簡単に試せる！！🙌

発表を聞きながらHugging Faceのアカウント作成・トークン生成をして叩いてみました。
上記ドキュメントのPythonコードを参考にしています（そして、こういったcurlコマンドはPostmanからも生成できるそうです）。

curl -s -H "Authorization: Bearer ${HF_TOKEN}" https://api-inference.huggingface.co/models/distilbert-base-uncased -d "The goal of life is [MASK]." | jq .
[
  {
    "score": 0.03619178757071495,
    "token": 8404,
    "token_str": "happiness",
    "sequence": "the goal of life is happiness."
  },
  {
    "score": 0.030553586781024933,
    "token": 7691,
    "token_str": "survival",
    "sequence": "the goal of life is survival."
  },
  {
    "score": 0.01697724126279354,
    "token": 12611,
    "token_str": "salvation",
    "sequence": "the goal of life is salvation."
  },
  {
    "score": 0.01669846847653389,
    "token": 4071,
    "token_str": "freedom",
    "sequence": "the goal of life is freedom."
  },
  {
    "score": 0.0152673264965415,
    "token": 8499,
    "token_str": "unity",
    "sequence": "the goal of life is unity."
  }
]

今回指定したのはdistilbert-base-uncased2。
curlとjqでNLP（fill-maskタスク）してる...
モデルのIDを変えれば他のモデルも叩き分けられます！

紹介された例

PostmanのUIから叩くと画像も表示できるのは便利ですね〜

草薙さんには過去にFunction callingとPostmanについてもLTしていただきました。
機械学習の推論にはPostmanも活用できるわけですね！

強化学習基礎の基礎とAWS DeepRacerはじめの一歩

（資料は公開されたら追加します）

Yukkiさんのトーク、小ネタを仕込みつつも本題がスルスル展開され、めちゃめちゃ情報量が多い一瞬でした👏

こちらの導入パートでもHugging Faceの話題が！

SageMakerで簡単にHugging Faceのモデルを扱える！！
自分が浦島太郎だったなと痛感しました

導入では、AWSコンソールでYukkiさんの絵を生成（誰だこいつ）というネタも挟まれたのですが、このUI、Stable Diffusion web UI4っぽい！
AWS使えばお金で手間を節約できるわけですね。

本題のDeepRacerは初めて聞きましたが、たしかに機械学習を学ぶのにうってつけだな〜という印象です

  • モノが動くから楽しそう
  • 機械学習のエッセンスが学べそう

積まれているものが増えてしまった〜

LT「ChatGPT in SlackでAI Slackbotを楽しく運用する」

簡単にSlackにChatGPTを住まわせられそう！
試してみたいです

拙LT「Pythonイベントインフォメーション（9月版）」

みんな、行こう！

終わりに

2023年9月のみんなのPython勉強会のレポートでした。
Inference APIやDeepRacer、ChatGPT-in-Slackと、存在を知らなかったものを知れたのがめちゃめちゃありがたかったです。

Hugging Face、未来ずら〜🤗
Inference APIといい、datasetsやevaluateといった名前空間の取り方といい、めちゃめちゃ野心的ですよね

ご参加いただいた皆さま、発表者の皆さま、運営スタッフの皆さま、ありがとうございました。

P.S. 紹介された書籍

  1. 過去のヤバいよ例 ↩
  2. 先日ファインチューニングしました ↩
  3. BERTについては2022å¹´6月のstapyにリンクします！ ↩
  4. かわいいを作るべく過去に環境構築しました ↩