日前，OpenAI和Google DeepMind的几位现任和前任员工分享了一封公开信，提及了目前业内普遍对人工智能技术公司缺乏监督，同时对先进人工智能可能带来的的危险发出警告。
图源：网络
这些员工表示，人工智能的发展面临着许多风险，包括进一步巩固现有的不平等、操纵和错误信息，以及失去对自主人工智能系统的控制，“这可能导致人类灭绝”。
人工智能公司有“强大的财务激励”来推进发展，并避免分享有关其保护措施和风险水平的信息。信中写道：“我们认为，不能指望他们都自愿分享。”同时，广泛的保密协议还阻止我们表达我们的担忧为此，员工们最终呼吁人工智能公司为说出人工智能的风险的举报人提供坚实的保护。
共有13名员工签署了这封信，其中包括7名前OpenAI员工，4名现任OpenAI员工，1名前Google DeepMind员工和1名现任Google DeepMind员工。此前，OpenAI威胁员工签署严厉的协议，以压制批评，如果他们在离职后表达对公司的负面评价，就会失去既得权益。
