アメリカのAI開発企業「アンソロピック」は、AIが人間を介さず自身で自律的に進化する場合に備えて、AI開発を減速または一時停止する選択肢を持つべきとの考えを示しました。
話題のAIモデル「クロード」を開発したアンソロピックは4日に公開したブログで、AIの性能は加速度的に向上していて、このままだと、まもなく人間の介入なしにAI自身が自分を改良し、その結果生まれた高性能なAIが、さらに自分を開発できる段階に達するとしています。
そのうえで、自らを構築できるAIは人間が制御を失うリスクを高める可能性があると警告しています。
このAIが自己改良を始める場合に備えて、アンソロピックはAI開発を減速または、一時停止する選択肢が世界にとって有益であると提言しています。
そうすることで、社会の制度やAIの目標を人間の価値観と整合させる時間を稼ぐことができるとしています。
ADVERTISEMENT
