在7月4日上午举行的世界人工智能大会暨人工智能全球治理高级别会议全体会议上，上海人工智能实验室主任、首席科学家、清华大学惠妍讲席教授周伯文发表了题为《技术发展和安全治理的见解》的主题演讲，并探索了人工智能的45度平衡率新概念。

周伯文指出，随着大模型代表的生成式人工智能的迅猛发展，一系列潜在风险也逐渐浮出水面，包括数据泄露、隐私滥用、版权风险等。更为严重的是，这些风险不仅已经出现，而且还有潜在的、未完全显现的问题，如恶意使用导致的伪造信息、伦理问题以及社会系统性挑战等。

“当前，AI的发展是失衡的。”周伯文称，尽管AI的技术能力在不断提升，但在安全标识、安全赋能与评估测量等方面却呈现出离散化、碎片化且后置的特性。这种失衡不仅体现在技术层面，更反映在投入层面——安全度的投入远远落后于AI的整体投入，目前世界上只有1%对齐或者安全优先考量。

为了解决这一问题，周伯文引入了“AI45度平衡率”的概念，强调人工智能的发展从长期角度看应该沿着45度角平衡前进，即在确保性能的同时，也要充分考虑到安全因素。这种平衡不是静态的，而是动态的，不是短期的，而是长期的。

实现AI45度平衡率有很多技术路径，上海探索的一条以因果为核心的路径，取名为可信AGI的“因果之梯”。这一路径分为泛对齐、可干预、能反思三个阶段，旨在提高AI系统的安全性和能力。其中，泛对齐主要关注当前最前沿的人类偏好对齐技术；可干预则强调AI系统的动态干预和因果安全技术；能反思则要求AI系统在追求高效执行任务的同时，能够审视自身行为的外在影响和潜在风险。

在周伯文看来，实现AI45度平衡率需要全球共同努力，惟有各国携手推进AI45度发展，共享AI安全技术，加强全球AI安全人才的交流与合作，才能共同构建开放、安全的通用人工智能创新生态和人才发展环境。