新闻资讯
首页 > 新闻资讯

广东省人工智能安全发展联合实验室正式成立

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

“大湾区生成式人工智能安全发展联合实验室”将聚焦于“生成式人工智能安全”这一关键议题,从技术、标准、运营、服务等多方面进行探索和实践,为推动人工智能安全发展提供有力支撑。

联合实验室的建设目标:

  1. 建设一套本地化“生成式人工智能安全测评系统”: 针对粤港澳大湾区的特殊需求,制定一套更加精准的评估体系,能够更有效地识别和判断 AI 的安全风险。
  2. 形成一套属地“生成式人工智能安全发展标准”: 将“生成式人工智能安全”与当地经济发展目标相结合,构建符合当地实际情况的规范和指导原则,为企业提供更加明确的安全准则。
  3. 训练一套大模型安全智能测评引擎: 利用大模型的安全测评技术,开发高效、准确的 AI 模型安全评估系统,帮助开发者更快速地识别和解决潜在安全问题。
  4. 运行一套“平台自动化+专家团队复核”的运营方式: 结合人工智能技术,实现对 AI 系统的安全风险评估和检测的自动化流程,同时辅以专家团队的专业判断,确保评估结果的准确性和可靠性。
  5. 研究一套“安全可信+量化评级”的服务行业框架: 将安全可信度融入服务体系中,为用户提供更透明、更可靠的 AI 服务体验,并将其应用于行业标准制定和技术规范建设。
  6. 探索一套“共建共享+双向赋能”的促进发展支撑监管新模式: 通过合作共建,将人工智能安全与经济发展结合起来,形成新的监管模式,鼓励企业积极参与安全评估和改进,为全产业链的安全保障提供有效支撑。

“大湾区生成式人工智能安全发展联合实验室”将秉持“共建共享、开放包容、双向赋能”的原则,充分发挥华为公司、腾讯公司在人工智能方面的核心引擎和辐射带头作用以及中山大学在安全可信、量化评级方面的深厚科研积累,积极服务生成式人工智能创新发展,有力支撑人工智能时代的网络综合治理体系建设。