米カリフォルニア州のニューサム知事は29日、人工知能（AI）開発企業に対して、AIによる危険な行動などの報告を義務づける法案に署名した。違反企業には最大100万ドル（約1億5千万円）の罰金を科す。AI企業が集積する同州による、イノベーション（技術革新）と安全性を両立させる法規制の動きとして注目されている。

　新法「最先端AI透明性法」の対象となるのは、最先端AIを開発し、年間の収益が5億ドル以上の企業。例えば、開発したAIエージェントが金融システムに侵入し、不正な注文をするなどの危険な行動をした場合、州政府に報告しなければならない。州政府は、受け取った重大事案を匿名化して報告書として発行、公表していく。

　データ漏洩（ろうえい）の防止策や監視態勢など自社の安全対策を公表することも義務づけた。リスクや違反を報告する従業員の内部告発者保護も強化した。

　違反企業に対しては、州の司法長官が最大100万ドルの罰金を科すことができる。米紙ニューヨーク・タイムズは「全米で最も強力な規則の一つ」とした。

　ニューサム知事は、声明で「…