CompressGPT: Decrease Token Usage 70%

テクノロジーカテゴリーの変更を依頼記事元:

musings.yasyf.com

29 usersがブックマークコメント

コメント

2

記事へのコメント2件

注目コメント
新着コメント

misshiki “CompressGPT を使用して、GPT-4 トークンの使用量を 1 行で最大 70% 削減します”

2023/04/24 リンク

onesplat 読んでないけど良さそう

2023/04/23 リンク

注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

規約違反を報告

アプリのスクリーンショット

いまの話題をアプリでチェック！

バナー広告なし
ミュート機能あり
ダークモード搭載

アプリをダウンロード

関連記事

{{ total_bookmarks_with_user_postfix }}{{ root_title }}

CompressGPT: Decrease Token Usage 70%

I saw @VictorTaelin's tweet recently on increasing the effective context window for GPT-* by aski... I saw @VictorTaelin's tweet recently on increasing the effective context window for GPT-* by asking the LLM to compress a prompt which is then fed into another instance of the same model. This seemed like a neat trick, but in practice presents some issues; the compression can be lossy, crucial instructions can be lost, and less characters != less tokens. I set out to build a more usa ble version of

ブックマークしたユーザー

shiba_yu362023/05/07
misshiki2023/04/24
g08m112023/04/24
ishideo2023/04/24
rinrin9002023/04/24
tkawa2023/04/24
asyst2023/04/24
tyosuke20112023/04/23
nukosan5552023/04/23
marices1992023/04/23
onesplat2023/04/23
door-s-dev2023/04/23
BuchuntaGo2023/04/23
laughing2023/04/23
SaitomTech2023/04/23
single_wing2023/04/23
bayaread2023/04/23
Hiro_Matsuno2023/04/23

いま人気の記事

いま人気の記事をもっと読む

いま人気の記事 - テクノロジー

いま人気の記事 - テクノロジーをもっと読む

新着記事 - テクノロジー

新着記事 - テクノロジーをもっと読む

設定を変更しましたx