中山大学计算机学院网络空间安全研究所所长、中山大学人工智能研究院副院长卢伟教授
习近平总书记指出：“要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控。”人工智能作为一项创新性、革命性的技术，将不可避免地对国家和社会发展带来一系列影响。一方面，人工智能技术可以在维护与保障国家安全方面发挥新形式、高效率的作用；另一方面，人工智能的脆弱性、不可解释性和不定向性等特点会给社会稳定和国家安全带来全新的潜在风险与挑战。高松校长在2023年秋季工作会议上指出：“助力国家创新体系提升整体效能，是学校科研高质量内涵式发展的重要任务”。因此，探索人工智能技术在促进区域协同发展、经济建设与社会治理等方面的可能性，以及应对人工智能安全风险并把握人工智能发展的战略主动，是新时代我国国家安全治理所面临的一个重要议题。
新一代人工智能，机遇与挑战并存
人工智能生成内容（AIGC）作为新兴技术，正在逐渐成为实体经济发展的重要推动力。目前，AIGC技术已经能够生成新闻、评论、广告、产品描述等多种形式的内容。同时，它正在重塑传统的内容生产方式和商业模式，通过引入新的生产力工具，促进了内容制作、营销与商业运作等领域的广泛变革。然而，AIGC技术的应用同样伴随着挑战和风险。特别是，AIGC技术可能会产生不真实或不准确的内容，导致信息泛滥、思维误导，甚至可能侵犯用户的个人隐私或名誉。针对这些问题，中山大学计算机学院的人工智能与安全研究所团队等就AIGC可能引起的数据安全问题，如流通数据的隐私、生成内容的质量与安全、版权和恶意用户的攻击等开展深入研究，致力于推动新技术安全发展与应用。随着大模型开放使用和AIGC深度应用，对数据处理、算法设计、计算能力等方面提出了更高要求，也对安全、隐私和伦理提出了更多挑战。只有在确保数据安全和隐私保护、健全人工智能伦理与安全的前提下，才能让AI技术真正释放应用价值。
面向国家安全新需求，技术与监管并重
在大模型时代，信息技术与互联网的飞速发展，安全威胁更加多样和隐蔽。一方面，在防御针对大模型的隐私数据泄露和内容安全问题，计算机学院网络空间研究所团队不断完善AIGC攻防理论，通过结合技术研究与实际应用，旨在开发高效的新型防御技术，以应对新型隐私泄露威胁。同时，积极开发先进的主动探测技术，用于识别模型中的漏洞和弱点，从而主动加强对关键信息基础设施的隐私数据和内容安全的保护。另一方面，鉴于人工智能技术在安全领域的重要性，特别是在监控和身份验证等关键应用场景中的作用，参与制订了行业标准。中山大学计算机学院在引导和规范新技术应用的同时，全力维护广大人民群众的隐私数据安全和切身利益，促进国家网络新技术健康发展。
发挥技术优势，助力区域经济发展
从时代演进的视角出发，人工智能领域的技术快速进步正孕育着新机遇与新的发展前景。特别是以ChatGPT等大模型为代表的技术在理论与应用层面的显著进展，正在全球范围内推动新一代人工智能的蓬勃发展，这不仅为经济社会发展注入了新的动力，也在根本性地改变人类的生产和生活方式。中山大学作为学术研究的前沿阵地，正积极参与到这一领域相关理论科学研究之中。计算机学院科研团队正把握这一新时代科技革命的脉动，加强组织科研，培养相关技术和理论人才，开拓独具特色的研究途径和理论体系。计算机学院致力于推动校企合作，立足大湾区的强大人才储备、经济基础、区位优势和超级计算中心的高性能设备、计算体系，进一步促进互联网、人工智能和大数据科研理论与实体经济相融合。通过产学合作、校企联合培养等发展模式，为全国的高校持续性发展和国家经济发展提供新的思路。在这个过程中，中山大学遵循“集中力量办大事”的原则，整合资源创办人工智能研究院，从学校层面统筹大智能相关学科，以充分发挥人工智能在新一轮科技革命和产业变革中所发挥的驱动力量，坚持将新一代人工智能作为各个行业推动产业优化升级、科技跨越式发展、生产力整体提升的关键技术基础，为国家实现高质量、高增速、高水平的发展贡献力量。
新一代人工智能技术引发的革命性变革和生产力跃迁具有全球性影响，因此不论是关于人工智能安全治理问题还是在其推动发展方面的潜力，都必须在全球范围内加以考量和应对。计算机学院将秉承“勇于担当，敢于突破”的理念，致力于人工智能与安全理论研究，并在加速人工智能技术在经济领域的应用和产业化进程中，着力构建一套完善、公平、安全且可控的国际标准，为人工智能技术安全、可控、健康、可持续性的发展保驾护航，为全球人工智能发展注入正能量，展现中国在科技共享和全球化问题中的大国担当。
文稿终审：计算机学院 马啸
