タグ

#Claude

AIモデルへの「継続的かつ無意味な虐待」を禁じる新方針をAnthropicが導入、選挙関連ルールも同時に厳格化

年次の利用ポリシー更新において、Anthropicはユーザーに対しClaudeなどのモデルへの「継続的かつ無意味な」虐待行為を禁止する条項を加えた。これと並行して選挙関連の規定も厳格化され、AIを感受性ある主体として扱うべきかをめぐる議論が再燃している。

トピックごとにチャットボットの記憶内容を編集・削除できる仕組みをAnthropicが導入。センシティブな情報を記憶させるかどうかも、ユーザー側で選べるようになった。

ユーザーのパソコンに潜んでいた情報窃取型マルウェアが、Claudeのログインセッションを盗み取っていたことが判明。これを受けAnthropicは先週、影響を受けたユーザーへ通知メールを送り、強制ログアウト、保存済みクレジットカードの削除、返金措置を行った。