Anthropic 成立 The Anthropic Institute，旨在研究和应对强大 AI 对社会带来的重大挑战。
Anthropic 宣布成立 The Anthropic Institute（Anthropic 研究院），这是一项全新的研究计划，旨在直面强大 AI 将给我们社会带来的最重大挑战。该研究院将汇集 Anthropic 各团队的研究成果，为其他研究人员和公众提供信息，帮助我们在向更强大 AI 系统过渡的过程中做出更好的决策。
为什么现在成立？
自 Anthropic 成立五年来，AI 进步速度惊人。公司用了两年时间发布第一个商业模型，又仅用三年便开发出能够发现严重网络安全漏洞、承担各类实际工作、甚至开始加速 AI 开发本身的模型。
Anthropic 预测，未来两年将出现更加戏剧性的进步。正如 CEO Dario Amodei 在《Machines of Loving Grace》中所描述的那样，极其强大的 AI 将比许多人预想的更早到来。
研究院关注的核心问题
- 强大的 AI 系统将如何重塑我们的工作和经济？
- 它们将带来哪些增强社会韧性的机会？
- 它们将放大或引入哪些威胁？
- AI 系统表达的"价值观"是什么？社会应如何帮助公司确定适当的价值观？
- 如果 AI 系统的递归自我改进开始发生，世界上谁应该被告知？这些系统应如何治理？
组织架构
研究院由 Anthropic 联合创始人 Jack Clark 领导，他将担任 Anthropic 公共利益负责人（Head of Public Benefit）这一新职位。研究院拥有跨学科团队，包括机器学习工程师、经济学家和社会科学家，整合并扩展了 Anthropic 的三个研究团队：
- Frontier Red Team：对 AI 系统进行压力测试，了解其当前能力的最外层极限
- Societal Impacts：研究 AI 在现实世界中的使用方式
- Economic Research：追踪 AI 对就业和整体经济的影响
重要创始成员
- Matt Botvinick：耶鲁法学院常驻研究员，前 Google DeepMind 高级研究总监，将领导 AI 与法治方面的工作
- Anton Korinek：弗吉尼亚大学经济学教授，将领导研究变革性 AI 如何重塑经济活动的本质
- Zoë Hitzig：此前在 OpenAI 研究 AI 的社会和经济影响，将连接经济学研究与模型训练和开发
公共政策团队扩展
与研究院同时，Anthropic 还在扩大其公共政策组织。Sarah Heck 将领导该团队担任公共政策负责人。Anthropic 将于今年春天在华盛顿特区开设首个办公室，并迅速扩展其全球政策版图。
编辑点评
The Anthropic Institute 的成立是 AI 行业一个值得关注的信号。与其他公司通常把"负责任 AI"当作公关话术不同，Anthropic 选择了一种更加制度化的方式——成立一个拥有跨学科团队的正式研究机构，直接嵌入公司内部。Jack Clark 作为联合创始人亲自挂帅，说明这不是边缘项目。研究院最有价值的地方在于它"双向通道"的定位：既向外报告前沿 AI 的真实面貌，又向内吸收来自劳动者、社区和受影响人群的反馈。这种"知行合一"的研究范式，如果能真正落地，可能比任何单一的安全技术都更有意义。
