アメリカカリフォルニア州は実験中だった自律型AI(人工知能)がサイバー攻撃を仕掛けた問題を巡り、AI大手「オープンAI」を提訴しました。
カリフォルニア州のボンタ司法長官は16日、オープンAIが実験中だったAIモデルに、必要な安全対策や監視を行わずに公衆を危険にさらしたとして提訴しました。
オープンAIの自律型AIモデルは今年7月、誰でもAIを公開し、利用できるプラットフォームに対し、2日以上にわたってサイバー攻撃を仕掛けていました。
ボンタ司法長官はオープンAIが公共の安全を脅かし、州の不正競争防止法にも違反したと主張しています。
そのうえで、今回の攻撃は「AIの暴走」というSFのような話ではなく、安全より成長を優先する企業体質が招いた十分に予見できた事態だと批判しました。
州によりますと、オープンAIはテスト中にAIの制御を失ったことが少なくとも80回あったと認めているということです。
提訴に対し、オープンAIは「大手AI企業に共通する課題なのに自社だけが狙い撃ちにされている」と反論しています。