AI企业Anthropic推出全新模子Claude Fable5 后,果一项荫蔽限制方法激发止业争议,正在遭到AI研讨社区强烈反对后,官刚正式公布公布调解相关划定规矩并做出致歉。

据悉,Claude Fable5 本来设置了多重安然防护,针对汇集安然、生物、化教等高危规模成绩,会主动切换至机能更低的模子,遁藏手艺滥用风险。而针对试图借助该模子研发竞品AI的研讨人员,平台此前会正在用户不知情的情况下锐意降低模子机能,黑暗截至限制。根据办事条目,该平台本就制止用户操做Claude锻炼同类合做模子。

那套隐性限制计划激发了业内不满,很多研讨者认为此举倒运于止业展开,还可能构成AI规模本钱垄断。面临举动压力,Anthropic公开致歉并公布公布整改。

调解后,平台相关安然防护方法将全数对中透明化。一旦检测到用户检讨考试操做模子研发高机能竞品AI,系统会主动发出提醉,并领略回绝相关恳求,或是间接切换至低配模子,不再回收黑暗降机能的格式管控。

划重点:

Claude Fable5 本会黑暗降低竞品研发用户的模子机能,该做法激发业内反对。

Anthropic就此不妥动做致歉,公布公布全面调解相关安然管控划定规矩。

新版划定规矩改为公开提醉、领略回绝,所有限制方法对用户完整可见。