2024-09-10

anond:20240910092816

そら安直に128000単語読ませても全部覚えてる訳ない

そういうケースならチャプターごとに再帰的に要約させると良いとopenai公式プロンプトエンジニアリングガイドに書いてあるよ

https://platform.openai.com/docs/guides/prompt-engineering/tactic-summarize-long-documents-piecewise-and-construct-a-full-summary-recursively

記事への反応 -
  • GPT-4oの入力コンテキストは殆ど嘘だということ。 例えば、DRMをクラックした本とかを読ませて「なんて書いてある?」みたいなことを聞いてみると分かるのだが、後半については殆ど無...

    • そら安直に128000単語読ませても全部覚えてる訳ない そういうケースならチャプターごとに再帰的に要約させると良いとopenai公式のプロンプトエンジニアリングガイドに書いてあるよ https:...

    • うすうすなんか全部読んでなくね?とは感じてた

    • 結局コレって課金してるヘビーユーザーに対してすら 処理できると言ってる容量分の仕事してくれないということなのかな? 課金しないフリーライダーなんでそんなもん(あてにならな...

    • マジレスすると入力文に対して誤差の小さい回答をしてるだけだから後半の文章はテキトーになる(重みはそこまで置いてない)。章分けするなりして細かく聞くしかない

    • 128Kトークンは128K文字ではないのだからそれはそうやんというのとトークン切りをしていることは既にRedditでは常識で、脱獄にはPoeが良く使われるからPoeを使ったらいいよ。Poeであれば200...

    • Google検索で「あなたの検索ワードの結果は約50000件あります!」 20ページめ位でもう終わりですって言ってくるくせに

    • 計算リソースを削減したいOpenAIの努力の結晶というところか プログラムの生成とかでも中略多用してくるし、色々面倒やね 有料版はそのへん緩和してほしいなぁ

    • 使いこなせてないっすね

    • 最近できるの事の輪郭が見えてきてすこし飽きてきた

    • この文にはいくつかの誤解や不正確な記述があります。それらを順に指摘します。 1. **GPT-4の入力コンテキストに関する誤解**: 文中で「128Kトークンという巨大な入力コンテキストウィ...

    • 巨大なテーブル読み込ませて最後に三行だけ重要データを入れてたらきちんとそれに反応した ただし洞察としてカスだった つまりそういうの含めクオリティがカスなので皆使わなくな...

    • これ、生成AIの中身を理解していない人がこういうことをよく言う 128kトークン入れて後半が無視されるのはアテンションが前半の方で固定化されてしまってるから そもそも128kトークン...

      • 文字列逆順にしてぶち込んだらどうなんのこれ トークナイザ? を通した後でさ

    • これ実際そうで大量のコンテキストを入力すると後半のことは結構無視される。 他のLLMもそう。人間も大量に何か言われたら最初のことしか覚えてないのに似てる。 コンテキストウイン...

    • これ実際そうで大量のコンテキストを入力すると後半のことは結構無視される。 他のLLMもそう。人間も大量に何か言われたら最初のことしか覚えてないのに似てる。 コンテキストウイン...

    • 以前より長文理解ではChatGPTが明確に弱いって言われてるし、GPT-4oでも改善されていないことを知っている。特に後半部分でかなりの部分を理解していない。 長文を処理する用途では個人...

    • 先進国→すぐれたソフトウェアを作り出す 永遠の縄文時代日本→先進国様が開発してくださったソフトウェアを使いこなしてドヤる

      • これは下請け根性が抜けないブルーカラー層の僻みですわ

    • 人間と一緒だね、手抜きなんて

    • 前提となるデータを多めに読み込ませるようなケースだと、途中から前提を無視するよね。 前提情報は細かいとこまで指示するような使い方を私はしてるので、4oの方が4よりも精度下が...

    • GPT-builder の knowledge-dataとして参照させてください。全体を一括処理するような場合を除けば 10万token あったとしても問題ないはず。API で公式サービスに対抗するのは大変なのでゴニョゴ...

    • まぁガッツリ使ったわけじゃないけどさー GPT-4oやらClaude3やらでプログラムコード書いてもらうのやってみたらさー、あいつらFORTAN77で書けつーてるのに、どうみてもFORTRAN95かそれより新...

    • 人間も必要になったら目次を目安にパラパラめくって読むだろ 最初のほうに目次があるのはバカでもわかるからな

    • ワイも同じことされたら前書きだけ読んで適当に答えるやで…😟

    • AIのことは全くわからないんだけど、AIに元増田みたいな文章を出力させることは可能なの?

    • 主が曖昧な書き方をしているせいで、リプが混乱している。ほとんどの反応はWebバージョンのChatGPT-4oとGPT-4oの最大トークン数の違いさえ理解していないと思われる。Webバージョンの話な...

    • 今のところ、LLMは自分の得意分野をやってもらうためのツールではなく、自分が知らない分野を完璧には理解してないかもしれないちょっと詳しい人に聞いている、くらいの温度感が丁...

      • 自分が正誤の判断できる分野でやらんとゴミが出来るだけだろ

        • おまえは若い頃、会社の先輩が言ったことをゴミだと思ってたのか? あるいはなんでも完璧な回答をくれる完全人間だと思ってたのか? 知らない分野に関して聞くときの、今のLLMとの...

    • ワイは増田で長文が流れてきてもそもそも読まないやで。

    • 論文読ませたら、先行研究を論文本体の結論としてまとめてて、こりゃ使えんわとなった。 冒頭にあるからね、先行研究

記事への反応(ブックマークコメント)

ログイン ユーザー登録
ようこそ ゲスト さん