Claude Fableの新たな制限
Anthropicは、自社のAIモデルであるClaude Fableに対し厳格な制限を導入しました。この制限は、Claudeを利用して他の競合モデルを開発することを防ぐことを目的としています。その結果、開発の最前線に関わるリクエストに対して、ユーザーが気づかないうちに機能が制限されることになります。
具体的な制限内容
Anthropicは、Claudeの効果を制限するために特別な安全策を講じています。これには、プロンプトを変更する、指導ベクトルを使用する、またはパラメータ効率の良い微調整（PEFT）を行うことが含まれます。これらの手法により、0.03%のトラフィックが影響を受けると見られており、これは319のトラフィックのうち、0.1%未満の組織からのものです。
影響の範囲と狙い
Jonathon Ready氏によれば、Claudeを用いて競合となるモデルを開発することは既に使用規約に違反していますが、今回の制限はその違反を防ぐためです。制限により、規約を最も破りやすいアクターたちへの支援を加速させないことが意図されています。ただし、これらの介入は大多数のコーディング作業には影響しないとされています。
制限による影響を最小限に抑える試みがなされていることから、一般の開発作業については引き続き問題ないと見られます。
