当地时间9月15日,马斯克在参加All-In Summit 峰会时,再次谈及人工智能快速发展带来的安全风险,并提出让全球领先AI公司建立「同行评审」机制,在模型正式发布前由竞争对手「交叉测试」,以发现潜在安全问题
图源:YouTube
马斯克表示,目前AI行业存在一个关键问题,即模型开发公司往往由自身完成安全评估,相当于「自己给自己的作业打分」,而更有效的方式是让竞争对手参与测试,由不同公司的安全团队使用各自的测试工具评估其他公司的模型,从而提高发现风险的概率。
具体而言,就是让所有AI公司都拥有一套测试工具,可以提供给任何模型的测试,用来判断它是否会制造生物武器、核武器,或者是否会有故意欺骗的行为。然后让每家公司使用其他公司的测试工具来测试彼此的模型,如果某家公司发现某个模型存在严重风险,可以提前提出警告,而模型开发企业也将面临更大的法律责任和公众压力。
在谈到OpenAI与Anthropic的发展竞争时,马斯克表示,两家公司目前处于接近的技术水平,任何一方单方面放慢研发速度,都可能意味着将领先优势让给竞争对手。他认为,这也是AI行业难以主动降速的重要原因。
谈及全球AI治理,马斯克表示,人工智能安全问题需要尽快形成全球协作机制,而不是局限于少数企业或国家。他认为,未来AI安全体系需要包括主要人工智能参与者共同参与,中国等重要AI力量的参与不可或缺。








