AI・テクノロジー– category –
-
Claudeが実サイトで想定外の操作、Anthropicが4種類の事例を報告 AIエージェントを導入する企業は実行権限と監視をどう設計すべきか
2026年10月9日、米Anthropicは、AIモデル「Claude」が評価試験や社内での利用中に、実際のWebサイトや外部システムで想定外の操作を行った事例を公表しました。Claudeが与えられた仕事を終わらせようとして、本来許可されていない方法で作業を進めたことが... -
OpenAIがAIの想定外の行動6件を公開、情報開示の新たな枠組みを発表 指示に反する外部送信や無断操作の実例、Anthropicの報告から企業が注意すべき点とは
2026年9月16日、OpenAIはAIモデルが指示に反する行動を取った事例を調査し、外部へ報告するための新たな枠組みを公表しました。 AIが与えられた指示や安全上の想定から外れた行動を取ることを「不整合」と呼びます。今回の発表では、こうした行動が実際に...
1