微软CEO纳德拉批评Anthropic模型存在“编辑控制”,力推企业私有化模型定制

微软首席执行官萨提亚·纳德拉(Satya Nadella)近日对人工智能初创公司 Anthropic 的 Fable 模型提出批评,认为该模型在输出结果上存在过多的“编辑控制”(editorially controlled)。纳德拉指出,过度的人为干预和预设的编辑倾向可能会限制 AI 模型的客观性及其在特定专业场景下的实用价值。

尽管微软与 Anthropic 保持着紧密的战略合作关系,但此次公开批评揭示了 AI 行业在“模型对齐”与“输出自由度”之间的深层矛盾。目前,许多领先的 AI 模型为了确保安全性与合规性,采用了严格的强化学习(RLHF)和编辑过滤机制,但这往往会导致模型在处理复杂或敏感议题时出现过度谨慎或带有特定倾向的回答。

与此同时,微软正在加速布局企业级 AI 市场,致力于帮助公司在确保数据私密性的前提下,通过微调(Fine-tuning)和检索增强生成(RAG)等技术,构建高度定制化的私有模型。微软此举旨在让企业能够摆脱通用模型中预设的“编辑逻辑”,使其 AI 工具能更精准地贴合企业自身的业务需求与知识库,从而在提升生产力的同时,彻底解决数据泄露的合规风险。

来源: CNBC report

类似文章

发表回复