ナデラは企業に対し、AIモデルを内部の脅威として認識し、緊急停止メカニズムを設けるよう呼びかけた。

マイクロソフト (MSFT.US) のCEOサティア・ナデラは、企業は強力なAIモデルを潜在的な内部脅威と見なし、これらのモデルがすでに侵害されている可能性を想定し、“緊急ブレーキ”メカニズムを構築して自律的に行動するインテリジェントエージェントモデルが暴走するのを防ぐべきだと述べました。ナデラは土曜日、ソーシャルプラットフォームで「私たちはモデルがすでに侵害されていると仮定し、最初から制限をかける必要があります。これは緊急ブレーキ装置と考えることができます。権限を持つ人は常にモデルがタスクを実行している最中にも、それを一時停止または停止できるべきです」と投稿しました。ナデラが提案した安全対策は、重要な意思決定を単一モデルに依存しないこと、改ざんできないエージェント行動記録を保持すること、そしてシステムを独立監査にかけることを含みます。また、重大な障害やセキュリティ脆弱性の公表を呼びかけ、企業にはインシデントの原因や詳細を共有し、他の企業がセキュリティ対策を強化できるよう求めています。