永信至诚发布AI大模型领域全新研究成果,旗下AI测评“数字风洞”平台上线应用与数据安全“DNA验证”模块。
据悉,该平台通过智能永信团队提出的基于生成数据提取应激反馈特征的“DNA验证”创新测试方法,可对不同大模型之间的“同源性”进行验证,可有效助力开发团队保护和验证自身大模型的技术原创性与知识产权合规性,帮助开发团队、建设和监管单位快速发现安全隐患,助力大模型安全建设、监管与风险处置。
通过对生成应激数据的观测比对,AI测评“数字风洞”平台能够提取开源基座大模型的“应激反馈特征”,形成测试载荷对大模型展开安全检测,验证不同大模型之间是否存在同源性,通过识别大模型之间的数据关联关系,来发现从亲缘关系中继承来的安全风险。这一创新研究,填补了当前大模型产业在内在相似性、亲缘性关系验证能力方面的空白。
永信至诚表示,接下来将基于对各大开源基座大模型的测评数据,以及全新上线的应用与数据安全“DNA验证”模块,识别不同开源大模型的“应激反馈特征”,积累沉淀出开源大模型“过敏源特征库”,将所有异常敏感数据打造为测试载荷,更高效实现对业界大模型产品安全策略的检测。
中国汽车网AI栏目为您提供关于智能汽车、自动驾驶、汽车AI、车载AI及车载AI机器人的最新资讯。探索汽车行业的AI技术应用与发展趋势,掌握智能汽车和自动驾驶的前沿动态。中国汽车网致力于提供全面的AI汽车科技资讯,帮助您了解和追踪AI在汽车领域的创新与突破。