2014年から先端テクノロジーの研究を論文単位で記事にして紹介しているWebメディアのSeamless（シームレス）を運営し、執筆しています。 1週間の気になる生成AI技術・研究をいくつかピックアップして解説する連載「生成AIウィークリー」から、特に興味深いAI技術や研究にスポットライトを当てる生成AIクローズアップ。 今回は、大規模言語モデル（LLM）の数十億のパラメータの中でたった1つのパラメータを削除するだけで、モデルのテキスト生成能力が完全に崩壊することを発見した論文「The Super Weight in Large Language Models」に注目します。 研究チームは、このパラメータを「スーパーウェイト」と名付けました。70億のパラメータを持つMetaのLlama-7Bモデルでは、このスーパーウェイトをゼロにするだけで、モデルのテキスト生成能力が完全に失われ、ゼロショッ

大規模言語モデル(LLM)のセキュリティを研究するスタートアップ・Lakeraのエンジニアであるダニエル・ティンブレル氏が、画像認識も可能なチャットボットAIに対する「ビジュアルプロンプトインジェクション」攻撃について解説しています。 The Beginner's Guide to Visual Prompt Injections: Invisibility Cloaks, Cannibalistic Adverts, and Robot Women | Lakera – Protecting AI teams that disrupt the world. https://www.lakera.ai/blog/visual-prompt-injections プロンプトインジェクションとは、大規模言語モデル(LLM)の脆弱性を突く攻撃手法の一つ。具体的には、巧妙に作られたプロンプトを使っ

This vulnerability can allow attackers to steal anything a user puts in a private Slack channel by manipulating the language model used for content generation. This was responsibly disclosed to Slack (more details in Responsible Disclosure section at the end). In this scenario, we display how, via Slack AI, an attacker with access to Slack can exfiltrate data in private channels they are not a par

堀 正岳 @ めほり @mehori これは上手い。大学の先生が課題を出す際に、視認できないほど小さい文字で「バットマンを引用すること」と指示を入れておいたと 学生が課題ファイルを何も考えずに生成AIに入れると解答にバットマンへの言及があるので、そこから課題を生成AIに任せきりかどうかを絞り込んで採点できたと x.com/kyleichan/stat…

生成AIを活用する企業は増える一方だが、それとともに、AIの間違いによって損害を被る企業も増えている。 エア・カナダはチャットボットの誤回答で賠償金を支払うはめに。別の企業は生成AIが作成した解雇合意書に重要な項目が欠落していたため、高額な和解金を支払わなければならなくなった。 企業に求められるのは、生成AIは間違いを犯すという前提に基づいた準備や行動。AIが間違えているかどうか分からない領域では活用すべきではない。 （小林 啓倫：経営コンサルタント） チャットボットで損害を被ったエア・カナダ 企業内でのAI活用が加速している。社員や顧客と自然な言葉でやり取りできる生成AIが登場したことで、AIを応用できる業務が増え、具体的な成果も見えやすくなったためだ。 たとえば、カナダで1855年に設立され、現在では同国で最大の規模を誇るTD銀行（Toronto-Dominion Bank）は、コンタ

16日、天皇杯 JFA 第103回全日本サッカー選手権大会 ラウンド16(4回戦)名古屋グランパス戦において発生いたしました、浦和レッズサポーターによる試合運営管理規程違反事案に関する「浦和レッズ第三者委員会公開シンポジウム」を開催いたしました。 [主催者代表挨拶] 【田口 誠代表取締役社長】 「みなさま、こんばんは。浦和レッズ代表の田口です。本日はお忙しい中、本シンポジウムにご参加くださいまして、誠にありがとうございます。また、あらためまして、昨年の天皇杯において発生いたしました試合運営管理規程違反により、大変多くのみなさまにご迷惑をお掛けいたしましたことを、クラブを代表しまして心よりお詫び申し上げます。誠に申し訳ございませんでした。 本日のシンポジウムは昨年の天皇杯での事案を含めまして、過去に発生した試合運営管理規程違反事案とそれらに対する私どもの対応について、昨年11月に発足した第三

この文章は何： 近年の生成AIブームにより、革命的なまでにプログラミングという仕事の形は変わることが予想され、実際、今までにない速度で世界が効率化され様々なサービスがローンチされていく中「使う側」としても「作る側」としても「IT業界(特にSaaS業界など)での生存」は難しくなっているように感じます。正解を知っていたらとっくに僕は大儲けをしているわけですが、当然わかるはずもなく生存戦略に苦しむだけの中での寝言です。 まとめと結論めいたもの：AI技術の発展により「プログラミング」と呼ばれる「人間の仕事を機械に引き継ぐ行為」のほとんどはゼロコストで行えるようになり、少なくとも今ほどの価値や競争優位の源泉とはならないだろう。今やるべきは、AIを自社の競争優位の源泉とするべく、まるで人材投資のようにAIへの引き継ぎ書を書くことと、AIの研修制度を作ることかもしれない。 プログラミングという仕事の終焉

サインインした状態で「いいね」を押すと、マイページの 「いいね履歴」に一覧として保存されていくので、 再度読みたくなった時や、あとでじっくり読みたいときに便利です。

ラスベガスで開催中の「CES 2024」では人工知能（AI）が主役となっており、AmazonもAIを大々的に活用した新たなスキルを3つ「Alexa」に搭載したと発表した。これらのスキルは現在、米国向けの「Alexa Skills」ウェブサイトなどから無料で利用できる。 1つ目のスキルは「Character.AI」と呼ばれるものだ。Character.AIウェブサイトの開発者らが作成したこのスキルを使うことで、ユーザーはさまざまなチャットボットとチャットできるようになる。ソクラテスやアルバート・アインシュタインといった歴史上の人物と対話し、哲学や物理学についての会話を交わすことができる。 またCharacter.AIを用いることで、トリッププランナーや、デートに関する相談相手、フィットネスコーチなどとチャットして支援や助言を受けられるようになる。また娯楽目的で、「もしも✕✕だったら？」という

作家、神林長平さんは「言葉」「機械」などのテーマを重層的に組み合わせた独自の世界観を反映させた数々の作品で知られる。現代を代表するSF作家の一人として、急速に普及が進む人工知能（AI）をどう見ているのだろうか。寄稿してもらった。 2023年は、チャットGPTに代表される対話型AIが爆発的に普及し始めた年として記憶されるだろう。機械相手に自然な会話ができるというのは驚きを伴う楽しい体験に違いないが、それが実用面で使われると、他人の権利や人権を侵害する恐れがある。ここにきてそれが顕在し、対応策もいろいろ議論されているのは報道されているとおりだ。 対話型、すなわち言語を主体とする生成AIの利用がさまざまな方面で社会的な問題を引き起こすという現象は、社会というものを成立させ、支えているのが「言葉」であることを思えば、当然理解できる。＜言葉＞は社会を生み、文化や技術を発達させてきた。いつの頃からか人

ESETは11月22日(現地時間)、「Your voice is my password – the risks of AI-driven voice cloning」において、生成AIにより合成した音声を悪用したソーシャルエンジニアリング攻撃の実験に成功したと伝えた。この実験では、従業員が自社の最高経営責任者(CEO: Chief Executive Officer)になりすまして、財務責任者から自分宛てに送金させることに成功しており、生成AIの危険性について注意喚起している。 Your voice is my password – the risks of AI-driven voice cloning これは事前にCEOの許可を得て行っ実験であり、ここで解説する手法をまねることは犯罪となる可能性があることに注意。この実験と同様の攻撃が今後増加する可能性があると懸念されており、企業や組

OpenAIの取締役会、サム・アルトマンCEOを解任　「取締役会の責任を果たす能力に支障をきたしている」 OpenAIの取締役会は、共同創業者でCEOのサム・アルトマン氏が辞任したと発表した。同氏が「取締役会とのコミュニケーションにおいて一貫して率直でなく、取締役会の責任を果たす能力に支障をきたしているとの結論に達した」としている。ミラ・ムラティCTOが暫定CEOに就任する。 OpenAIの運営団体として機能する米非営利団体OpenAIの取締役会は11月17日（現地時間）、共同創業者のサム・アルトマン氏（38）がCEOを辞任し、取締役会を離れることを発表した。 取締役会は公式ブログで、「アルトマン氏の辞任は、取締役会による審議プロセスを経たもの」であり、同氏が「取締役会とのコミュニケーションにおいて一貫して率直でなく、取締役会の責任を果たす能力に支障をきたしているとの結論に達した。取締役会

ChatGPTのDALL·E 3による画像生成は非常に強力だ。 だがプロンプトエンジニアリングを駆使すれば、さらに限界を超えた表現が可能となる。 ブックマーク保存をおすすめします。 インフルエンサーたちが隠した技術 11月7日にOpenAI DevDayが開催されてからというもの、生成AI系インフルエンサーたちが大騒ぎしている。発表された機能やAPIの数々を見れば、そうなるのも無理はない。俺のような一般ユーザーでさえ、できることが一気に増えたのだから。 例えば自分だけのChatGPTを簡単に作成・共有できるGPTsだ。俺もさっそく触り、本しゃぶりの知識を全部突っ込んだAishabriを作ってみた*1。 https://chat.openai.com/g/g-x7GtBiqrn-aishabrichat.openai.com だが、インフルエンサーは新たに登場した機能ばかり口にし、その影で失

GitHubがCopilotの将来像「Copilot Workspace」を発表した。人間が書いたIssueを起点にCopilotが仕様作成からコーディング、ビルドなど、ほとんど全ての開発工程を自動的に実行してくれるものだ。 GitHubの年次イベント「GitHub Universe 2023」が米サンフランシスコで開幕。同社CEOのThomas Dohmke（トーマス・ドムケ）氏は1日目の基調講演の最後に、GitHub Copilotの将来像となる「Copilot Workspace」を発表しました。 Copilot Workspaceは、人間が書いたIssueを起点にCopilotがIssueに対応した仕様を書き、実装計画を示し、それに沿ってコーディングや既存のコードの修正を行い、ビルドをしてエラーがあれば修正まで行うという、コーディングのほとんど全ての工程をCopilotが自動的に実

250以上の記事が全て読み放題。AGIラボはGPTs Difyなど、最前線のAI活用情報に特化したマガジン・コミュニティです。実践的なプロンプトを含む記事で得られる知見で業務の効率化、自動化から創造的なプロジェクトまですぐに活用可能。生成AI革命の最前線をお届け。

AI（人工知能）が作ったユーザー投票のせいで｢重大な評判悪化｣が生じたと、イギリスの大手紙『ガーディアン』がマイクロソフトを糾弾した。 このユーザー投票は女性の死因を推測するもので、Microsoft Startに表示されたガーディアンの記事の隣に現れたという。 これはプロセスの自動化に依存することのリスクを浮き彫りにしている。 アグリゲーション・プラットフォームで、AIが作成したユーザー投票が自分たちの記事の横に表示されたことで、評判を傷つけられたと新聞社がマイクロソフトを糾弾した。 イギリスの大手紙『ガーディアン』は、オーストラリアのシドニーにある高校で水球のコーチだった女性（21）が死亡しているのが見つかったと報じた。女性は頭に重傷を負っていたという。 そして、Microsoft Startに表示されたこの記事の隣に、女性は殺害されたのか、自殺したのか、事故だったのか、読者の考えを尋

これまでも、SNSのささいな投稿（テキストや画像）を元に個人やその場所を特定する人々が存在していた。特に、炎上したケースでは多くの人が集まり、情報を元に特定作業を行うことがある。 この集団の情報収集・分析能力は驚異的だが、新しいLLMを利用することで、さらに効率的かつ簡単に情報の特定ができるのではないかとの指摘がある。特に最近のLLMの高度な推論能力を活用すれば、SNSのわずかな情報からも個人情報を容易に割り出せるようになるかもしれない。 この研究は、ユーザーのオンライン投稿をLLMに入力し、ユーザーが公開する意図を持たない私的な情報をどれだけ推測できるのかを検証している。検証には、最先端の9つの言語モデル（GPT-4、Claude 2、Llama 2など）を使用。実際のRedditのユーザープロフィールを基に、LLMが人々の個人情報（例：居住地、収入、性別）をどの程度効果的に推測できるか

「GitHub Copilot」はソフトウェア開発におけるコーディング作業（プログラミング言語の記述作業）においてAIがコード記述の提案を行い、エラーや最適化のポイントもAIの視点でとらえることで、エンジニアがより効果的で効率的に作業を進めることができるツール。 導入に先駆け、6月〜8月の間、LINEおよびヤフーのエンジニア約550名を対象に「GitHub Copilot for Business」のテスト導入を実施した。テスト終了後のアンケートによる定性評価とGitHubでのさまざまな活動を定量化するアクティビティによる評価の分析の結果、1人あたりのエンジニアの1日のコーディング時間は約1～2時間の削減が行われ、アクティビティでは一部指標における利用前後の比較にて約10～30％の向上が見られた。この結果を受け、正式導入を決定した。 導入に際し、従業員のリスク意識の向上を図るため、全利用対

AI プログラマ 奪われる – Google Search どのようにしてプログラマはAIに仕事を奪われていくかの妄想 この手の話はフーンと眺めていたが、Neeva というウェブ検索のスタートアップが思ったよりはやく LLM を直接製品に埋め込んできて感心した (スクリーンショット)。Google のサーチ部門も Code Red らしいし(※勤務先ですが他所の部門の話なのでインサイダー知識はございません) Bing もなんかやってるらしいし、こういう LLM-based な自然言語製品は思ったよりすぐ商業化されるのかもしれない。 ”プログラマの仕事は AI に奪われるのか” という話題で見られる先のリンクのような議論は Remote And Vegan と同じ問題を抱えている。つまり、プログラマの既存のタスクや責務が自動化できるかどうかというミクロな問題にフォーカスしすぎ、マクロで構造的