2024年6月18日星期二上午10点，应我院方勇教授邀请，南洋理工大学刘杨教授在beat365网页版登录官网江安校区多学科交叉创新研究大楼919学术报告厅作了题为“A Road Towards an Interaction between Cyber Security and AIGC”的学术讲座。本场讲座由黄诚副教授主持。

在本次讲座中，刘杨教授深入讨论生成式人工智能（Artificial Intelligence Generated Content，AIGC）与网络安全之间的关系，特别是如何在软件开发过程的相关阶段系统地整合安全测试。

刘杨教授重点介绍利用大语言模型（Large Language Model，LLM）在应用安全领域的最新努力，涵盖漏洞分析的完整生命周期：漏洞检测、诊断、概念验证（Proof of concept，POC）的生成和漏洞修复。LLM的强大自然语言处理能力使其能够高效地识别代码中的潜在漏洞，并提供详细的诊断报告，帮助开发人员快速理解问题所在。LLM还能提出相关方案，指导开发人员如何修复漏洞，从而确保系统的安全性。除了漏洞分析，刘杨教授还展示了有关LLM攻击面的最新研究成果，包括针对提示注入的黑盒和白盒攻击生成、针对多模态模型的攻击、后门攻击以及可能的防御机制。

刘杨教授将上述两个方面整合起来，开发了一个用于应用安全分析的AI支持平台。这一平台旨在充分利用LLM的强大能力，系统提升应用安全分析的效率和效果，从而为软件开发过程中的安全测试提供有力支持。通过自动化和智能化的安全分析，显著减少开发人员的负担，提高安全问题的发现和解决效率。此外，这一平台还将集成最新的攻击检测和防御机制，确保LLM应用的安全性和可靠性。

AIGC与网络安全的结合在软件开发过程中具有重要的现实意义。通过引入LLM等先进技术，可以更早、更准确地发现并解决安全问题，提升软件的整体安全性和可靠性。在未来的发展中，刘杨教授将继续探索这一领域，推动技术进步，保障信息安全，为社会和产业的发展做出贡献。报告结束后，刘杨教授与在场师生进行了深入交流，并详细解答了同学们提出的问题。

beat365网页版登录官网

2024年6月19日