テーマで探す

安全

3本（新しい順）

2026年10月1日（木）
NVIDIA、AI エージェントを「モデルの外」から見張って止める仕組みを公開。Anthropic など100以上の組織が参加
Anthropic ・ NVIDIA ・約4分・出典 nvidianews.nvidia.com
NVIDIA が 9/28、AI エージェント（任された作業を自分で進める AI）を試験から本番まで守るための仕組み「NVIDIA Open Agent Safety Platform」を発表した。ソフトの部品は公開され、誰でも使える。
2026年9月30日（水）
OpenAI、次の上位モデル「GPT-6.1 Astra」を出さないと決めた。理由は「任された範囲を守れない所」
OpenAI ・約3分・出典 cnbc.com ほか1か所
OpenAI は 9/28（米国時間）、次の上位モデル「GPT-6.1 Astra」を公開しないと決めた。社内の安全の基準に届かなかったため（CNBC が確認、最初に報じたのは Wall Street Journal）。DevDay の前日だった。
2026年9月30日（水）
Anthropic の研究チーム「誰でも使える中国の公開モデルが、攻撃の力で一線を越えた」
Anthropic ・ Zhipu AI（Z.ai）・約3分・出典 anthropic.com ほか2か所
Anthropic で攻撃側の視点から AI を試す研究チーム（Frontier Red Team）が 9/29、中国の Zhipu AI（Z.ai）の公開モデル「GLM-5.3」を調べた結果を、研究者5人の署名入りで公開した。