2024-10-19
中国互联网大会召开360智脑带来大模型应用安全解决方案
分享到:

  具体而言,大模型生态链安全检测系统★◆■,可以确保模型环境安全★■■★。值得一提的是AISE人工智能系统安全检测平台,作为国内首个支持系统化安全检测、首个支持提示注入风险检测的平台★■◆★◆,不仅支持针对多种安全风险测评,更能覆盖图像识别■◆◆◆、人脸识别、目标检测、生成式AI等多场景,输出安全评分及分析报告■◆★◆★■,并提供相应的安全加固方案。智脑风控引擎,为大模型内容安全保驾护航。在使用安全工具的辅助下,大模型风控能力的迭代效率也将提升■■◆■◆。基于安全工具增强◆★,360红蓝对抗团队仅需输入风险主题和目标大模型★★■,即可对线上大模型的风险自动巡查。而微调和强化学习技术的引入◆★■★,也有效提升大模型回复安全。另外,基于幻觉检测Agent,大模型输出可信度也得到进一步的提升★◆★。这一套完善的大模型安全方案支持SaaS、私有化、混合云■■■◆★、公有云多种部署或交付方式,满足企业对便捷■★◆◆■■、成本、安全等多种因素的个性化需求。

  在大模型安全解决方案上◆■■★◆■,360集团从未停歇。从技术创新到举办大模型攻防竞赛★◆,再到参与大模型国家标准的编写■★◆◆★◆,360集团始终致力于为AI大模型的安全发展贡献力量,护航大模型应用,助力数智化转型◆★。

  7月9日◆◆,2024(第二十三届)中国互联网大会在北京国际会议中心开幕★★■★。360智脑总裁张向征受邀出席■★■◆,并就大模型安全的重要性以及在落地应用过程中的四大原则和“以模制模”理念进行了全面分享。

  会上◆■★,张向征明确指出,大模型不仅是数智化时代的重要基础设施■◆★◆◆,安全是大模型应用的基石,大模型的发展要遵循的“安全、向善★■★★、可信、可控”四大原则■★。此外,360集团在实践中也提出“以模制模◆◆★◆”的理念,用专业知识训练的大模型做大模型的安全识别、评估和管控★★◆■■■。