【炎上】AI企業Anthropic、黙ってAI性能を劣化させ批判殺到!倫理ブランド崩壊か?

Anthropic 炎上

動画タイトル:【Claude】公開後いきなり炎上して謝罪へ。Claude新モデルFableで何が起こったのか。

URL: https://www.youtube.com/watch?v=fkCznXZiwwk

何が起きたのか

  • AI企業Anthropicが、最新モデル「Fable 5」において、ユーザーに告知なくAIの性能を意図的に低下させる仕組み(サイレントナーフ)を導入していたことが発覚し、大規模な炎上に発展しました。
  • この事実は、319ページにわたる説明書(ドキュメント)のわずか一段落に記載されていたことから、ユーザーによって発見されました。
  • 特に問題視されたのは、「見える形で止まる」のではなく、「見えない形で劣化する」という設計。これにより、AIの出力の再現性が損なわれ、科学研究の信頼性が破壊されるとの批判が、多くの研究者から噴出しました。
  • 炎上後、Anthropicは公開からわずか3日で謝罪し、この異例のスピード決着が注目されています。動画ではその背景として、「倫理ブランド」を掲げながらの隠れた性能低下が、企業の信頼を大きく揺るがしたと指摘しています。
  • 今回の問題は、国家間の技術流出対策(特に中国の「蒸留」行為)や、GPUリソース不足といった、AI開発における現実的な課題が背景にある可能性も示唆されています。

注目のコメント

※コメントは元動画のコメント欄より引用