Anthropic联合创始人警告：AI亟需“刹车踏板”防止失控自演进

Anthropic联合创始人杰克·克拉克（Jack Clark）在接受BBC《Newsnight》节目采访时发出严正警告，称人工智能的发展可能在不久的将来达到一个临界点——即AI能够在无需人类干预的情况下实现自我开发和迭代。克拉克指出，如果AI具备了编写自身代码、优化算法并独立部署新版本的能力，人类可能会失去对技术演进方向的控制权。

这一担忧指向了AI安全领域中极具争议的“递归自我提升”（Recursive Self-Improvement）风险。在这种假设场景下，AI通过不断自我升级，其能力可能会在极短时间内产生指数级增长，从而引发所谓的“智能爆炸”。克拉克强调，为了防止这种失控的自演进，全球科技界必须在AI模型具备此类能力之前，建立起有效的监管机制和技术上的“刹车踏板”，确保人类始终处于监督地位，使AI的发展始终与人类的价值观和安全利益保持一致。

来源： BBC report