上海文鳐信息科技有限公司首席科学家芮子文

在第四届海丝中央法务区论坛分议题四上的主题演讲

在这个快速发展的科技时代，AI和网络安全的有机结合，既带来了机遇，也带来了巨大的挑战。AI，本质上是一个经验主义的猜测机器。它的工作原理基于大量数据的输入，通过学习这些数据的模式和规律，生成相应的输出和预测。AI的优点是可实现性强，它能够高效地处理海量信息，并在不需要复杂的推理基础上，快速给出结果。

未来的AI发展，尤其是应用在网络安全领域时，必须在AI模型中融合更深层次的物理原理和逻辑推理，才能在安全和效率之间找到平衡。

自2023年以来，AI黑客攻击的数量激增，不同种类的攻击量暴增了10-30倍。像WormGPT、EvilGPT等AI工具，已经能够自动生成诈骗信息、编写恶意代码，并发起漏洞攻击。这些AI黑客工具让原本需要专业知识的攻击手段，变得更加容易上手，甚至可以实现自动化攻击，导致网络安全环境变得更加复杂。

然而，目前AI黑客的威力还不够大。原因在于，当前的AI工具在漏洞攻击时没有明确的攻击方向，也就是说没有人为确定的损失函数。AI只能依靠海量的数据来进行猜测，而没有融入网络攻击的原理性知识。因此，AI黑客可以通过大量且广泛的攻击，接近顶级人类黑客的水平，但仍然难以超越那些真正理解漏洞原理的黑客。

在这样的背景下，我们要如何应对?显然，我们需要加强AI底层的研究。当前的AI虽然在某些领域表现出色，但其局限性仍然明显，特别是在网络安全领域。为了让AI真正成为防御与攻击的有力工具，我们需要进一步研究如何在AI中引入带有约束方程的进化模型。这意味着AI不仅要学习海量数据，还要能够结合物理原理、逻辑推理和数学方程，在复杂的网络环境中提供更智能、更精确的预测与防御。

AI正在重塑网络安全的格局，带来了前所未有的挑战和机遇。我们必须加强对AI与物理相结合的研究，确保在面对未来更加复杂的攻击时，AI不仅能够预测、处理海量数据，还能在原理上具有更强的确定性与有效性。