帮助大模型提升自身安全性 科研团队发布AI安全平台
(资料图片仅供参考)
中新网北京7月9日电 (记者 张素)以ChatGPT为代表的生成式人工智能广受关注,大模型亦在加速发展。科研团队近日发布新的AI安全平台,以期为大模型系好“安全带”、把好“方向盘”。
据介绍,人工智能安全平台RealSafe3.0版本由清华大学人工智能研究院孵化企业瑞莱智慧RealAI发布。该平台能够提供端到端的模型安全性测评解决方案,旨在解决当前通用大模型安全风险难以审计的“痛点”。
“大模型‘落地难’的本质在于,当前还没有找到场景、风险和规范三者之间的平衡点。”瑞莱智慧联合创始人、算法科学家萧子豪在受访时说,而在探寻这一平衡点的过程中缺少易用和标准化的工具。换言之,亟须在技术层面找到有力抓手,帮助人们科学评判大模型在场景中能否同时满足规范和低风险,助力大模型上线运行。
据知,相较上一版本,RealSafe3.0新增了对通用大模型的评测。该平台覆盖数据安全、认知任务、通用模型特有漏洞、滥用场景等近70个评测维度,可以全方位、多维度地评测通用大模型的性能,未来还会持续扩增测评维度的数量。
萧子豪介绍说,RealSafe3.0内部集成了多个自研模型和专家论证高质量数据集,来帮助用户修复模型中的问题。例如,对黑盒不可解释的通用大模型,自研红队对抗模型取代人工设计问题,显著提升攻击成功率和样本多样性。
再如,教练模型通过对被测大模型进行多轮次的“提问—回答训练”,并以训练好的评分模型对问答结果进行评分,再将评分结果反馈给大模型,使其不断强化学习到好坏答案的要点及区别,直至问答能力逐步迭代至最优。
值得一提的是,瑞莱智慧科研团队还研发出能够防范生成式人工智能恶意滥用的DeepReal2.0,即“生成式人工智能内容检测平台”。该平台支持对图像、视频、音频、文本进行是否伪造的检测,应用场景包括打击网络诈骗和声誉侵害行为、检测网络内容合规性、检测音视频物证真实性等。
“我们将持续迭代技术、打磨产品,以确保在这场人工智能安全‘攻防战’中始终立于不败之地,将人工智能的两面性这一‘关键变量’,转化为高质量发展的‘最大增量’。”萧子豪说。(完)
标签:
您可能也感兴趣:
为您推荐
企业如何做软文营销? 软文营销的形式有哪些?
艾诗摩尔射频健发梳:到底谁在收割"智商税"
美联储又降息 全球货币政策进入新一轮“降息周期”?
排行
精彩推送
- 我国登记在册民营企业突破5000万户
- 帮助大模型提升自身安全性 科研团队发布AI安全平台
- 关键法规落地 中国私募基金业迎“里程碑式”变革
- 金牌厨柜X空间集成系列亮相建博会,首推6个生活模块
- 丰收“新”盛景 | 麦浪滚滚 喜获丰收
- 第三届中国(沈阳)智能网联汽车国际大会闭幕
- 证监会拟重点开展三方面工作 贯彻落实私募基金条例
- 台青“登陆”浙江宁波创业创新 共探直播经济发展
- 今年成都航空口岸出入境人数突破一百万
- 清蒸鲈鱼能放多久 清蒸鲈鱼放多久不能吃
- 中国央行、财政部等财金官员先后会见美国财政部长耶伦
- 安徽颍上:科技创新“强引擎” 跑出经济“加速度”
- 走过多个城市 汇聚全球500余幅作品的儿童画国际巡展来到北京
- 上海航运中心迈向“全面建成”新阶段 临港新片区“硬指标”...
- 以“侨”搭桥 助力高职科技团队研发钻头走出国门
- 上百名台胞逛浙江义乌:“现在的大陆机会多多”
- “北斗+”应用大放异彩,这项北斗+AI道路智能巡检系统荣获金奖
- 完成固定资产投资3049亿元 全国铁路年中“成绩单”来了→
- 世界单体容量最大“盐光互补”电站并网发电
- 曾两次倾家荡产,他最终靠股票赚来巨额财富,有何启示?来看...
- 最大助力35公斤 外骨骼机器人或在养老、医疗领域“大展身手”
- 渝万高铁最高墩主墩承台浇筑完成
- 杨光华院士:人工智能服务人类智力 创造美好智能社会
- 清华NLP招聘大模型方向
- 为建设制造强国注入青春动能
- 安徽天长加大人力物力投入 多措并举排涝抢险
- 夏联-基昂特-乔治33+10 阿巴基21+9+5 穆恩26分 爵士击败快船
- 上半年中国铁路发送旅客17.7亿人次
- 三大改造工程,超万亿元投资!这可能是钢铁行业破局关键
- 广东茂名荔枝产业进阶:从“夏季限定”走向“四季可期”
- 今年上半年中哈霍尔果斯国际边境合作中心进出逾128万人次
- 给“荔”!3000多吨荔枝上线
- 全国夏管有序推进
- 中小企业保持恢复性增长态势
- 政策“礼包”精准发力 实现企业和人才的“双向奔赴”
- 北京丽泽金融商务区入驻企业超千家 “金融+科技”产业链初步形成
- 剧情搜索结果_搜索剧情介绍
- 铁路2023上半年成绩单出炉:17.7亿人次乘火车出行
- 上半年全国铁路发送旅客17.7亿人次 接近2019年同期水平
- 贵州生态产品交易中心挂牌 首单林业碳票交易签约
- 经济日报:促消费不能止于消费券
- 中国人民银行党委书记、国家外汇局局长潘功胜会见美国财长耶伦
- 吉林省妇儿中心将开展2023年暑假 “探秘家乡非遗”主题研学活动
- 货币基金是否还有吸引力?未来发展空间在哪里?
- 世界单体容量最大“盐光互补”电站并网发电
- 稀有资源出口管制的三重投资逻辑
- 多家头部公募基金 宣布下调管理费率
- 哈巴雪山隧道历经九年贯通 遭遇哪些罕见难题?
- 经济新方位·助力中小微:税优政策助力企业创新
- 能源工程密集投产,迎峰度夏央企担当!
- 开一家装修公司需要什么资质证书(装修公司需要什么资质证书)
- 株洲市中心医院顺利举行“两湖多中心骨科手术联播”活动
- 蔡昉:户籍制度改革可释放中国1.8亿农民工万亿元级消费意愿
- 如何呵护自然之美?海内外人士建言高质量推进自然保护地体系建设
- 上海打造国际青年创新会客厅助力国际创新人才高地建设
- 马修军谈视觉语言通用模型与具身智能
- 2023世界人工智能大会在沪闭幕
- 上海数交所上线语料库,累计挂牌近30个语料数据产品
- 首届中国高原心胸大会在拉萨召开
- 全球光伏市场需求旺盛 中企积极布局海外产业链
- 第五届中国新疆亚欧金桥国际博览会开幕
- 文莱摩拉港—广西北部湾港集装箱航线首航
- 多米尼克·J·施密特:人工智能潜力尚待充分发掘
- “注入”时尚新元素 手工唐装旗袍走俏海内外
- 中国发布13种矿产资源全球储量评估数据
- 报告:中国资本市场赋能矿业还有近万亿元增长空间
- 小小蜜蜂撬动“养收包销”产业链 林下养蜂铺就“甜蜜”致富路
- 杨伟民:居民消费恢复是今年中国经济运行整体好转的关键
- 平湖属于哪个省哪个市(深圳平湖属于哪个区)
- 智能矿山建设加速推进 赋能行业高质量发展
- 住房城乡建设部明确城市更新底线要求 “留改拆”并举
- 金融举措助力我国经济回升向好 高质量发展稳步推进
- 稳中有升!6月末我国外汇储备规模达31930亿美元
- 福建加快“新基建” 显“海丝”“海峡”特色
- 26499平方米!齐河挂牌一宗商住用地,位置在这!
- 上海探索不断升级数智客服 “AI助医”提升患者就医体验
- 上海浦东发布产业数字化跃升计划三年行动方案
- 全国首家极地海洋研学教育基地哈尔滨启幕
- 绿色成为多彩贵州最鲜明的底色
- 连续13年 千余只白琵鹭在七星河湿地保护区筑巢
- 女生吃什么可以变白变美视频(女生吃什么可以变白)
- 证监会:全面优化公募基金费率模式 稳步降低行业综合费率水平
- 5天3地多人接连确诊!如何做好防护
- 湖北襄阳:建设连通鄂豫南北水运大通道
- 古都文旅消费向深度沉浸式转变 新职业、新商圈、新产业链应...
- 华为用科技守护拉萨之“肺”
- 上海发布《数字社区导则》 打造无障碍智能社会“社区样板”
- 青海市场主体外销收入稳中有增 新材料外销增速达123.4%
- 隔夜外盘:美股三大指数集体收跌 中概股逆市上涨 阿里巴巴大涨8%
- 中国6月外汇储备为31930亿美元 较5月末上升165亿美元
- 中汽协:《承诺书》中涉及“价格”表述表意不当 删除相关条...
- 新文旅“风”起洛阳 数字赋能让国宝“活”起来
- 易方达基金宣布旗下多只基金降费
- 瞄准“高效清洁”推动能源转型
- “中国是重要的创新源泉”(见证·中国机遇)
- 还得找手感!17号秀席菲诺11中3拿9分4断&40号秀刘易斯9中3拿7分
- 上海杨浦:围绕数字经济、生命健康新趋势打造具竞争力的产业集群
- 新疆兵团示范试验麦后复播大豆免耕精播滴灌技术
- 宁夏泾源:小菌菇“长”成大产业 释放振兴新活力
- 【数说经济】促消费不能止于消费券