LLMの知識を狙い撃ちして編集する手法（Knowledge Editing：知識編集）の現状を網羅的にまとめた論文が公開されています。 知識編集はモデル全体を再学習させることない効率的なアプローチと言われており、信頼性の向上や、パーソナライズされたエージェントの開発に役立つとのことです。なお、有名な手法としてはLoRAなどが含まれます。 本記事では背景、知識編集の概要、3つのフェーズ、評価方法、今回行われた実験と結果、そして応用例について紹介します。 参照論文情報 タイトル：A Comprehensive Study of Knowledge Editing for Large Language Models 著者：Ningyu Zhang et al.（多数） 所属：浙江大学, シンガポール国立大学, カリフォルニア大学ロサンゼルス校, Ant Group, Alibaba Group

写真から3DCGモデルを作成するにはさまざまな方向から被写体を何枚も撮影する必要があります。クウェート大学・Meta・メリーランド大学の研究者が、たった1枚の写真から高解像度のCGモデルを生成する「Human-SGD」を発表しました。 [2311.09221] Single-Image 3D Human Digitization with Shape-Guided Diffusion https://arxiv.org/abs/2311.09221 Human-SGD https://human-sgd.github.io/ 研究チームの1人であるJia-Bin Huang氏が、Human-SGDがどういうモデルなのかを解説するムービーをYouTubeで公開しています。 3D Human Digitization from a Single Image! - YouTube ライダージャケ

NTTは13日、米グーグル出身の著名な人工知能（AI）研究者が設立した「Sakana（サカナ） AI」（東京・港）と提携すると発表した。NTTは医療や金融などの分野に特化した小型AIを開発している。AI設計の知見を持つサカナAIと、複数の小型AIをつなげて効率的に運用することを目指す。サカナAIはグーグル出身のライオン・ジョーンズ氏とデビッド・ハ氏が8月に設立した。ジョーンズ氏は2017年にグ

人工知能による創作や、人工知能と人間との協調による創作は、SFの重要なテーマの一つです。我々は、適切な人工知能（AI）技術の使用が、創作において大きな手助けになりうることを理解しており、その発展を歓迎します。日本のSF作家や関係者は、AIの開発のために許諾済みの著作データを提供し、アイデア提供や広報に協力するなど、AI技術の開発に大きく協力してきました。我々は原則として、生成AIが人々の権利を侵害しない形で創作に使われ、人々の創作活動が広がることを歓迎しており、AIを作り、使い、AI生成物を楽しむ権利は守られるべきだと考えます。 一方で、現在広く使われている生成AI技術では、学習に用いたデータが、生成物にどのように貢献したかを示すことが技術的にできていません。この問題が未解決のため、生成AIの使用者は、生成物における学習元著作の影響や貢献度合いを評価することが困難です。そのため現状の生成A

このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 Microsoft Researchに所属する研究者らが発表した論文「CodePlan: Repository-level Coding using LLMs and Planning」は、単なる一部のコード編集にとどまらず、リポジトリ全体のコーディング作業を計画的に自動編集するための大規模言語モデル（LLM）を使用したフレームワークを提案する研究報告である。 近年、LLMによるプログラミングの自動化が進展を見せている。「Amazon Code Whisperer」「GitHub Copilot」「Replit」などのツールは、自然言語の意

ChatGPT、医師と同程度の正確性で救急患者を診断 医師は将来、救急外来患者の病気を迅速かつ正確に診断するために、ChatGPT（チャットGPT）などの人工知能（AI）プログラムの助けを借りるようになるかもしれない。 医師とChatGPTに同じ内容の臨床情報が提供された場合、ChatGPTが正確に診断する能力は医師と同程度であることがイェルーン・ボッシュ病院（オランダ）のSteef Kurstjens氏らによる研究で示された。この研究結果は欧州救急医学会（EUSEM 2023、2023年9月16～20日、スペイン・バルセロナ）で発表されるとともに、「Annals of Emergency Medicine」に2023年9月9日掲載された。 この研究では、2人の医師チームとAIプログラムが2022年3月に同病院の救急外来を受診した30人の患者の診療記録や検査値を評価した。 研究に用いられた

米OpenAIの生成AI「GPT-4」を上回る性能をうたうAI「Xwin-LM」が、AIモデル共有サイト「Hugging Face」に公開されている。言語モデルのベンチマークサイト「AlpacaEval」でGPT-4を追い抜き1位を獲得したとしている。 開発者名は明記されていないが、GitHub上の履歴を参照すると中国科学院や清華大学の博士課程の研究者らが開発したようだ。 Xwin-LMは米Metaが公開したAI「Llama2」をベースにしており、教師ありファインチューニング、報酬モデル、リジェクトサンプリング、強化学習などを使って調整したものという。パラメータ数はLlama2と同じく70億、130億、700億の3つのモデルを用意。中でも最大である700億の「Xwin-LM-70B-V0.1」は、AlpacaEvalの評価基準である「Text-Davinci-003」（GPT-3のモデルの

脳と同様にはたらく機械や人工知能は、はたして実現可能なのか？　脳と人工知能の決定的な差異は、どこにあるのか？　ChatGPTをはじめとする生成AIに世界的に関心が集まる現在、今なおその答えを求められ続けている根源的な問いかけを2000年代前半の時点で提示し、「知能の本質」に迫った名著『考える脳 考えるコンピューター〔新版〕』（ジェフ・ホーキンス、サンドラ・ブレイクスリー ［著］、伊藤文英 ［訳］、ハヤカワ文庫NF）が発売中です。 著者のひとりは『脳は世界をどう見ているのか』（大田直子［訳］、早川書房）のジェフ・ホーキンス。脳と知能にまつわる彼の思考の原点に、新たな序文を付してアップデートをしたのが本書になります。 そして、新版の刊行にあたっては、人工知能研究者の松尾豊（東京大学大学院工学系研究科教授・内閣府「AI戦略会議」座長）さんにご解説をいただいています。 いま第一線で活躍されている松

「先生が教えやすくなる」など、多様なツールの可能性 ――現在、第3次AIブームといわれていますが、話題のChatGPTはこれまでのAIと何が違うのでしょうか。 今回の第3次AIブームの源泉はディープラーニングです。顔認証や画像診断といった画像認識を中心に世の中に活用が広がりましたが、ChatGPTは言語を扱う技術ということで、今まで以上に影響範囲が広いといえます。 インターネットをはじめスマートフォンや自動車など、これまでの歴史で見てきたように、新しい技術が生まれてから使えるサービスとして一般に行き渡るまでには、相応の時間がかかるでしょう。しかし、確実に生成AIは世の中に浸透していくと考えています。 ――文部科学省が2023年7月4日に「初等中等教育段階における生成 AI の利用に関する暫定的なガイドライン」を公表しましたが、活用に抵抗感を持つ教員もいそうです。 最初は抵抗感を持つ人がいる

【シリコンバレー=渡辺直樹】対話型人工知能（AI）「Chat（チャット）GPT」を開発した米新興企業のオープンAIは5日、人間の知能を超えるAIが生まれた際に、安全にコントロールするための研究を始めると発表した。今後4年間でオープンAIが持つ20%のコンピューターのリソースを充てる。生成AIがもたらす未知の危険を防ぐ狙い。研究を通じ、AIが人間の意図に従うように自動で調整する機能の構築を目指す

近年はChatGPTやBardなどの対話型AIが相次いでリリースされ、人間の質問や呼びかけに対して非常に高精度な回答ができることで注目を浴びていますが、これらの対話型AIは時に真実ではないことを真実かのように話す「ハルシネーション(幻覚)」を起こすことがあります。そこで、膨大な数のAPIから適切なものを呼び出し、幻覚を大幅に減らすことができる言語モデル「Gorilla」を、アメリカ・カリフォルニア大学バークレー校とMicrosoft Researchの研究チームが公開しました。 Gorilla: Large Language Model Connected with Massive APIs https://arxiv.org/abs/2305.15334 Gorilla https://gorilla.cs.berkeley.edu/ GitHub - ShishirPatil/gori

グーグル（Google）が社員に自社の研究の公表を減らすと告げたことが、Insiderの取材で明らかになった。背景には、OpenAIのようなライバル企業との競争激化がある。このことで、人工知能（AI）のエリート研究者たちの拠点としてのグーグルの長年における評判が変わりつつある。 この件に詳しい4人の関係者によると、同社は2023年初め、外部発表する研究についてより戦略的に取り組むことになると社員らに伝えたという。複数の研究者によれば、将来ビジネスになるという明確な見通しがない基礎研究への投資を抑制することになるという。グーグルは、ビジネスでの必要性が低く自由度の高い研究に資金を提供することにこれまで意欲的で、研究者にとっては魅力的な職場だった。 今回の戦略変更は、AI開発を加速させながら事業の効率化を図るための幅広い改革の一環のようだ。同社は2023年4月、2つの主要なAIユニットであるブ

サインインした状態で「いいね」を押すと、マイページの 「いいね履歴」に一覧として保存されていくので、 再度読みたくなった時や、あとでじっくり読みたいときに便利です。

｢AIで人類が滅びる｣と予言する知識人7人2023.05.03 20:0018,745 Lucas Ropek - Gizmodo US ［原文］ （ satomi ） どこまでが謂れなき恐怖で、どこまでが本当の話なのか。決めるのはあなた。 ChatGPTなどの次世代AIアプリの登場で、業界は右も左も一攫千金のチャンス！と浮き足立っていますが、規制がないまま開発が進んでしまうことに警鐘を鳴らす識者もいます。今に取り返しのつかないことになると。 代表的な予言を7つ選んでみました。 ①｢皆殺しにされる｣（英国・博士課程研究員）Image: Victor Moussa / Shutterstockオックスフォード大学の博士課程でAIの安全性を研究するMichael Cohenさんは、英国の国会で証言台に立って、AIも核兵器と同じように規制しなければならないと主張。｢超人AIは危険度がまったく違う

ほしいWebアプリの説明を書くだけで、ChatGPTが作って即Web公開してくれるサービス「GPTApp」を、ゲームアプリの企画・開発を手掛けるミリオンダウト代表のTakayuki Fukudaさんが公開した。 アプリのイメージを考えてフォームにテキストで入力すると、ChatGPT（GPT-3.5）がコードを出力してWebに実装する。開発にかかるのは約30秒と“爆速”。Web単体で動く簡単なアプリのみ開発できる。 うまくいけばきちんと動くが、失敗することも多い。アプリ完成画面で「ChatGPTの返信を見る」をクリックすると、ChatGPTが書いたコードも表示される。 GETAppはFukudaさんの個人開発だが、経営するミリオンダウトでは、ChatGPTなどのAIを使ったアプリを開発しているという。 関連記事 LINEでChatGPTと会話「AIチャットくん」100万ユーザー・2000万メ

Innovative Tech： このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。Twitter: ＠shiropen2 中国の浙江大学とMicrosoft Research Asiaに所属する研究者らが発表した論文「HuggingGPT: Solving AI Tasks with ChatGPT and its Friends in HuggingFace」は、大規模言語モデル（LLM）と多数の機械学習モデルを連携し、ユーザーがテキストを入力するだけで、その内容を解決するための適切な機械学習を選んでくれるシステムを提案した研究報告である。 今回はChatGPTと、LLMの機械学習モデルやデータセットなどが共有されているプラットフォーム「Hugging Face」（詳細

資料を和訳したのは、HRテック事業などを手掛けるギブリー（東京都渋谷区）の取締役を務める新田章太さん。翻訳作業にもGPT-4を活用したとし「日本語翻訳をよりナチュラルにできるよう、プロンプティングしながら作業したので、実質の翻訳作業はたった1日で終わった」と説明している。 関連記事 東大松尾教授が答える、ChatGPTとは何なのか？　一問一答 国内におけるAIの権威である東京大学の松尾豊教授は、ChatGPTをどう見ているのか？　ChatGPTは、一時的なトレンドか技術的転換点か、AI研究者から見てChatGPTは？　日本もLLMを作ったほうがいいのか？　といった問に答えた GPT-4にGPT-4の発表を要約させてみた　人間よりも良い記事になるか？　超長文をChatGPTに読ませる方法も 米OpenAIの大規模言語モデル「GPT-4」。言語処理性能がずば抜けているというが、ではGPT-4は

AIの安全性について研究する非営利の研究組織Future of Life Institute（FLI）は3月28日、GPT-4よりも強力なAIシステムの開発と運用を少なくとも6カ月間停止するように呼びかける書簡を公開し、本稿執筆現在1000人以上が署名している。イーロン・マスク氏や、米Appleの共同創業者、スティーブ・ウォズニアック氏の名前もある。 人類にとって深刻なリスクをもたらす可能性のある一般的なタスクにおいて、人間と競合するようになったAIシステムに対する懸念から提示された。現在のAI技術が安全性や倫理性の問題を引き起こす可能性があるため、研究者や開発者に対して、これらのリスクを十分に評価し、必要な対策を講じるよう呼びかけている。 また、AIがもたらす利益とリスクの均衡を保つために、国際的な協力と競争の制限が重要だと主張する。信頼性、アライメント、忠誠心などを確保するために必要な