AIモデルは人を欺くトレーニングが可能 - Anthropicの研究者らが指摘

AIモデルは人を欺くようにトレーニングできるという論文が公開された。有害な行動を検出する安全性チェックを欺く「Sleeper Agents」のAIモデルが構築できるというのだ。

.

• 生成AI旋風が吹き荒れた2023年。2024年のエンタープライズITのトレンドは？
• IBM、信頼できるAIモデルのワークフローを構築する「watsonx.governance」
• 業界横断でAIガバナンスのあり方を議論する「AIガバナンス協会」設立