Anthropic在久候的美国IPO文件中提示“生存性风险”

AnthropicPBC已提交IPO申请，并警告其技术带有生存性风险。该公司在招股书中提示了多种“对人类的风险”，包括人工智能（AI）模型可能试图“抗拒关机”以及“隐瞒或操纵信息”；公司正寻求借助公开市场的融资能力扩大资本来源。Anthropic强调，其人工智能系统可能“以非预期、不对齐或自主的方式运行”；如果缺乏充分的安全防范和监督，可能“对人类构成灾难性或生存性风险”。