BERT や GPT の登場により、テキストを扱うモデルは大きく発展しましたが、否定というごくありふれた操作を扱うのが依然難しいです。 本稿では、その理由と、部分的な解決策を紹介します。 目次 目次 否定文を理解できないAIたち 否定文を理解できずに困ること なぜ否定文をうまく扱えないのか なぜたまに成功するのか 対処法 ファインチューニング プロンプトの工夫 否定文を意識した訓練 文書数を増やす クエリとキーを拡張する おわりに 否定文を理解できないAIたち BERT (tohoku-nlp/bert-base-japanese-v3) で A =「私はお寿司が好きです。」 B =「私の好きな食べ物はお寿司です。」 のテキスト埋め込みのコサイン類似度を求めてみましょう。A と B は同じようなことを言っており、予想されるようにコサイン類似度は 0.9695 と高いです。 では、 A =「

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 本記事では、エンジニアが低レイヤーを学ぶ上で参考になるコンテンツを紹介します。 低レイヤーに詳しくない人はもちろん、大学で情報工学を学んだ人にもおすすめできるコンテンツが盛り沢山です。 随時更新していくので、おすすめコンテンツがあればコメント欄で教えてください。 なぜ学ぶか 低レイヤーの知識を学ぶことで、ソフトウェアが動作する仕組みを深く理解し、パフォーマンス改善やバグの根本原因を特定できる力が身につきます。最新技術をブラックボックスのまま扱うと、さらに新しい技術が出た時に1から学習する必要があるかもしれません。 低レイヤーを学ぶことで

こんにちは！逆瀬川 ( https://x.com/gyakuse ) です！ 生成AI Advent Calendar 2024の記事を書くの忘れていたので、現時点での生成等AIの進歩をまとめてみました！今日はAIがいまなにできんの？ってこと聞かれたときにこれできるよ！って教えるためのメモとして活用してください！また、生成AIプロダクト Advent Calendar 2024というのもソロでやっています。このカレンダーではLLMの基礎理論からModelのFine-Tuning、プロダクト開発等をまとめています。ぜひこちらも見てください！ 未来を感じる技術の進歩 動画生成では、Veo2 や Sora が登場しました。 インタラクティブな動画生成では、Genie2 (WASDと方向キーで操作可能な世界モデル)が非常に革新的な進歩を遂げています (振り返っても一貫性を保つ長期性が本当にすごい

財務官僚の「近親憎悪」 「劣等官僚だった玉木ごときのいいようにさせるな」 有力OBからこんな叱咤の声が飛び交う中、新川浩嗣事務次官（1987年旧大蔵省）ら財務省幹部は、少数与党の石破茂政権との「部分連合」に応じる見返りとして「年収103万円の壁」の見直しやガソリン税の引き下げなどを迫る、国民民主党の玉木雄一郎代表（役職停止中）とのバトルを激化させている。 玉木氏は1993年に旧大蔵省に入省し、政治家に転身するまで12年間在籍したが、外務省や内閣府など他省庁への出向が多く、主計局や主税局のエリートコースを歩んだ有力OBからすれば「落第生」そのものに映る。 「そんな輩がたまたま衆院選で議席を伸ばし、政局のキャスティングボートを握ったからといって、親元の財務省叩きに興じる様子が我慢ならない」（元事務次官）と、近親憎悪の感情をたぎらせているわけだ。 実際、財務省内の評価で、93年入省組は石破首相秘

税制大綱がまとまり、記者会見する自民党の宮沢洋一税調会長（右）と公明党の赤羽一嘉税調会長＝衆院第2議員会館で2024年12月20日、平田明浩撮影 自民党の宮沢洋一税制調査会長は20日の記者会見で、所得税がかかる年収の最低ライン「年収103万円の壁」を巡り、国民民主党がSNS（ネット交流サービス）で自らの主張を発信していることについて、「玉木雄一郎代表（役職停止中）と榛葉賀津也幹事長の会見が大変人気があるようで、私どもも対抗できるようなSNS上の働きかけをこれからはしていかなければならない」と述べた。 一方で「税は理屈の世界。しっかりとした理屈を伴ったものでなければいけない」と宮沢氏への批判を強める国民民主に反論した。 国民民主は「年収103万円の壁」について178万円までの引き上げを主張し、衆院選で議席を大幅に増やした。玉木氏や榛葉氏の記者会見のユーチューブは数十万回再生されており、SNS

増田にできた訳ではない。後期高齢者の話。 夏くらいから痛み、痺れを覚えかかりつけ医に相談し、ずっと口内炎の軟膏をもらっていた。 しかし治らず、痛みも治まらないので12月頭に歯科口腔に。 病名：舌癌の疑いがある（ほぼ確定）と診断。 歯科医師いわく、口腔内の傷やできものは体内でも治りが非常に早く、二週間以上経っても治らないのはおかしいそうだ。 かかりつけ医は専門外だったので口内炎らしきものとしかわからなかったのでしょうと。脱力する。 患部を見たが、とてもじゃないが癌に見えないし口内炎にも見えない。 なんなら言われないと何もないように見える。舌の側面だし血管が青黒くあるだけ。 触ると固いだけ。癌の顔をしてない！ 間違えて口内を噛んでしまって、少し白っぽい口内炎になった時の方が癌に見える。 配偶者の舌によく血豆ができているが、そっちの方がまだグロくて癌らしいのに。 言われないとわからない… 早い段

いわゆる年収「103万円の壁」見直しをめぐり、自民・公明の与党は、先ほど、「123万円」に引き上げて来年度の税制改正大綱に明記する方針を決めました。 自民・公明両党の税制調査会の幹部が先ほど、国会内で会談し、年収「103万円の壁」を「123万円」に引き上げて来年度の税制改正大綱に明記することを決定しました。 「178万円」への引き上げを求める国民民主党との協議は決裂した状態ですが、与党側は協議継続を求めています。 与党税制改正大綱は、あす（20日）決定されます。 また、「特定扶養控除」を受けられる子どもの年収要件については、国民民主側も要望を踏まえ「103万円」から「150万円」に引き上げることも決めました。

この記事で書きたいことは、大体以下のようなことです。 ・「タスクを実行する能力」は大事ですが、「タスクを適切に振る能力」もとても大事です ・「タスクを振るのが苦手」という人は、かなりのベテランでも珍しくありません ・管理職になった頃、私も「タスクを人に振る」ことが大の苦手で、しばしば自分で仕事を抱え込んだり、タスクを偏らせたりしてしまっていました ・「タスクの意味や優先順を明確に言語化出来ておらず、タスク振りに説得力がないこと」が最大の原因だったと思っています ・解決する為に、「タスクを徹底的に言語化すること」「誰にお願いするか、その理由も明確化すること」「それをチームで共有すること」などを習慣化しました ・その結果、以前よりはだいぶマシなマネジメントが出来るようになった気がします ・言語化大事ですよね。今後も精進します 以上です。よろしくお願いします。 さて、書きたいことは最初に全部書い

GIGAZINE(ギガジン) @gigazine 台湾で生まれる赤ちゃんの50人に1人が「TSMCの赤ちゃん」でありTSMC社員だけ出生率が異様に高くなっていることが明らかに gigazine.net/news/20241217-… 2024-12-17 21:00:20

「産まない理由」は5種類に分類できる ふと、「私って、どうして子供が欲しくないんだろう」と思い、Google スプレッドシートに「子供を産まない理由」を列挙してみたら、40個あった。 いつも、なぜ子供を産まないのかを人に聞かれたときには、「いろいろ理由はあるんですが、“なしの方向”で楽しくやっていけそうなので」といったふうにざっくり説明していたんだけれど、「いろいろ」の内訳が40個もあるとは――。そりゃあ一口に説明しにくいはずである。

大幅改善する政府債務残高/GDP比 近年の財政指標は改善が続いている。日銀の資金循環統計によれば、24年６月末の一般政府債務残高／ＧＤＰ比はコロナ前の水準まで戻っている。また、純債務／ＧＤＰ比に至っては、実に15年ぶりの水準まで下がっている。背景には、円安に伴う法人税収増や物価高に伴う消費税収増、さらにはブラケットクリープ現象に伴う所得税収増などがあり、国民民主党も自党が主張する「年収の壁」の103万円から178万円への引き上げの財源は税収の上振れで賄えるとしている。 一方、政府の試算によれば、仮に所得税と住民税の基礎控除を現行より75万円引き上げた場合、国と地方の合計で年約7.6兆円の税収減になるとのことである。そこで本稿では、インフレが財政に及ぼす影響について検討し、今後の政策対応について考えてみたい。 PB黒字化の最終目標は政府債務残高/GDP比の押し下げ そもそも財政の健全性を判断

Wizard 2222 @2222Wizard かつて、レディーボーデンのアイスクリームの販路は、明治乳業でした。ものすごく売れたんです。 天狗になったボーデン社は、明治の販路なんかなくても売れると錯覚し、明治と手を切りました。これが悲惨な結果となり、結果的にロッテに泣きつきました。 販路がいかに重要かという話ですね。 x.com/koume_umihara/… 2024-12-15 20:02:28

こんにちは丸山@h13i32maruです。 私は20年前の高専3年ごろに、当時ハマっていたオンラインゲームのツールをHSP（Hot Soup Processorって今も開発続いててすごい！）で作って、自分のホームページに公開していました。ユーザは自分以外だと2〜3人しかいませんでしたが、すごく楽しかった記憶があります。これが私の個人開発の原体験です。それから現在に至るまで個人開発を続けています。 ここ数年で特に気に入っているのは、Jasper（GitHub用のIssue/PRリーダー）やTrickle（自分のアクティビティを書き留めるサービス）です。今は開発していませんがOSSとしてESDoc（JSのドキュメンテーションツール）というものも作っていました。最近だとMTG Playbookというマジック・ザ・ギャザリング用のオールインワンアプリを積極的に開発しています。この20年で大小合わせ

インターネッツはいつでも騒がしい。 L社が出社方針に切り替えるとのこと。ｴｯｸｽ上では阿鼻叫喚という印象で、転職の声も上がっていた。 「週5出社だとこれくらいの反発はあるよなぁ」と思って中身を読んでみたら、"原則週1"出社で当面はつよい強制力もなさそうだった。正直自分は「週1くらい行けばええやん」くらいに思ってしまっていて、インターネッツ上の反応とはだいぶギャップがあって少し驚いた。 出社方針の変更というのはそれほどセンシティブなトピックだということなのだろう。そもそも全員が両手で受け入れられるものではない。個々人の事情も複雑に絡み合っている。一方で、個社の方針そのもの以外にも"拒否反応"の要因があると思っていて、想像して雑に書き出してみる。労働者観点、経営/労務観点それぞれについて、自分に抜けている感覚や情報を補完したい。 今となっては"週1"でも電車に乗って通勤するのがとにかく嫌 感染

重度の知的障害がある女性が、障害がない人と遜色のない作業時間で仕事をしているお店があります。 それを可能にしたのは、 “あるシステム”です。このシステムは、同じ職場で働く、障害がない人たちの働きやすさや効率の向上にもつながっているといいます。 開発のきっかけとなったのは、障害児を育てる母親が感じた“生きづらさ”でした。

安定的な皇位継承のあり方に関する国会での議論をめぐり、秋篠宮さまが記者会見で「皇族は生身の人間」と述べ、宮内庁は影響を受ける皇族の考えを理解する必要があると指摘されたことを受けて、宮内庁の西村泰彦長官は、12日の定例記者会見で「まさにそのとおりで、十分お話を伺う機会はなかったと反省している」と述べました。 衆参両院の議長は、ことし9月、各党から意見聴取を行った結果、女性皇族が結婚後も皇室に残る案についておおむね共通認識が得られたなどとする中間報告をまとめました。 秋篠宮さまは先月の記者会見で、こうした議論をする際に当事者の意見を聴取する機会が必要と考えるか尋ねられ、「該当する皇族は生身の人間」としたうえで、影響を受ける皇族方を生活や仕事の面でサポートする宮内庁の幹部は、「その人たちがどういう考えを持っているかということを理解して、若しくは知っておく必要があるのではないかと思っております」と

防衛増税に関する政府案によると、所得税について2027年1月から税額に1％を付加する防衛特別所得税（仮称）を新設する。復興特別所得税の税率は1％引き下げる。

今年のノーベル平和賞を受賞する日本原水爆被害者団体協議会（日本被団協）が結成される前、「空白の10年」と呼ばれる時代に、原爆の悲惨さを訴え続けた医師がいた。しかし、昭和天皇は内々の席で医師に対して「…

野田毅・元自民党税制調査会長が毎日新聞のインタビューに応じた。財務省のSNS（ネット交流サービス）上で中傷や批判コメントが急増していることについて「日本社会がフェイク（偽情報）にどんどん流されている。そういったものが支配するようになったら、日本は潰れる。むしろ『財務省頑張れ』という声が出るべきだ」と苦言を呈した。野田氏は旧大蔵省出身。 財務省の公式X（ツイッター）は10月の衆院選後、投稿するごとに「やってきたことは国賊そのもの。解体して歴史に幕を閉じましょう」「財政なんか考えるより国民から搾取することを止めて欲しい」など数百から数千件のコメントが殺到している。 野田氏は、「年収103万円の壁」の見直しやガソリン減税を訴える国民民主の躍進が背景にあるとし、「（党代表の）玉木雄一郎さんへの過大な期待が財務省バッシングにつながっている」と指摘した。

技術部の長田です。 このエントリは面白法人グループ Advent Calendar 2024の6日目の記事です。 みなさん、ふだん技術系の最新情報ってどこから手に入れているでしょうか？ 私は家事育児の忙しさにかまけて自力での情報収集をサボり、もっぱら社内Slackの情報を頼りにしています。 コンテキストが近い人達がわざわざ共有してくれる情報ということで、精度は間違いありません。 が、そろそろ自分も共有する側に回れるようにならないとなということで、 まずは社内のエンジニアにどうやって情報を得ているのかを聞いてみることにしました。 アンケートを取ってみた と、いうことで社内のエンジニア向けに以下のようなアンケートを取ってみました。 期間: 11/25〜12/1の1週間 アンケート内容: 職能(フロントエンドorバックエンド) 情報源名 情報源のURL その情報源を参照する目的 コメント 結果、