AI使造谣变得越来越容易?科技的边界也需法律来明确
AI使造谣变得越来越容易?
科技的边界也需法律来明确
AI绘画,AI视频,AI对话……
(相关资料图)
在AI正加速渗透现代人生活的当下,Bard、ChatGPT、Chinchilla和LLaMA等生成式AI正迎来裂变式增长的用户。
通过将智能的机器学习算法与数十亿条人类生成的内容相结合,这些系统似乎可以做任何事情:根据字幕创建一个极度逼真的图像,或是通过已公开的用户照片合成一张新的自拍照,用视频中的一个人的肖像替换另一个人也只需要动动手指。
在这个由AI构成的“新世界”中,生成式AI创建的内容高度逼真,普通人越来越难准确区分真人和AI生成内容,伪造、扭曲现实、造谣将变得越来越容易,有图也不是真相,有视频可能也不是真相——它们需要先证明自己是真的才行。
AI写真能精准复制你的样子
人工智能技术日益发展,深伪技术(deepfake,即基于人工智能的人体图像合成技术)也在人们生活中更加常见,而且更常被滥用。
最近,喜欢拍照的王洛奇(化名)迷上了AI写真。“给自己拍照,老公怎么训练也练不出来,自从用上了AI生成软件,‘喂了’大概50张自己之前拍过的照片进行训练,写真再也不愁没有好的摄影师拍了。”
王洛奇告诉记者,使用AI生成的写真相似度应该在95%以上。“我拿了一张AI生成的写真去问女儿照片中的人是谁?孩子表示这就是妈妈呀,还问我什么时候拍的。”
因为在王洛奇进行AI写真训练时,使用的照片大多是在泰国旅行时拍的,还有几张穿泰服的,结果AI生成的写真极具异域色彩。
当被问到AI生成的照片是否有明显的缺点时,王洛奇想了想告诉记者:“其实AI写真的近景和中景都很无敌了,非要说缺点,就是远景的全身照脸部会有点垮,不知道是不是训练素材数量不太够还是生成照片的像素太低导致的。”
制作真实人物的虚假视频技术正变得越来越容易获得。生成人工智能的进步,将很快意味着虚假但视觉上令人信服的内容将在网上激增,从而导致信息生态系统更加混乱。
近日,一位女网友在网上晒出自己在地铁列车的照片被别有用心的网友下载,并用AI技术“一键脱衣”,造谣图随后在网上广泛传播。此事冲上热搜。
更为严重的是,如果AIGC(生成式AI)内容不断被训练后,可能导致生成的视频或图片成了让人难以分辨的伪证,进而损害当事人的利益和名誉。
加水印能保护用户隐私吗?
专门研究图像取证的计算机科学家、伯克利计算机科学教授Hany Farid主张对AI图像进行视觉指定:是时候该给这些数字照片贴上可识别的标签。Hany Farid在接受记者采访时表示:“我认为解决这个问题的有效方法之一,就是添加水印。”
标记文件和其他物品以证明其真实性、表明所有权和反伪造的历史由来已久。以庞大的图像档案库Getty Images为例,它为其目录中的所有数字图像添加了可见水印,允许客户在保护公司资产的同时自由浏览图像。
根据OpenAI公开发布的内容显示,该公司正在试验一个系统来为ChatGPT的创作添加水印,但段落中的字符不能像数值那样进行调整,因此文本水印采用不同的形式。
抵御AI滥用是场“持久战”
高水准“AI画师”Stable Diffusion曾为自己设置了一个自动审核图片安全性的程序,一旦监测到生成的图像涉嫌违规,即它在内容政策里写明的不得用来生成“引人不适的、色情、仇恨、暴力等图像”,机器就会拦下这张图片。
据外媒报道,C2PA联盟(内容来源和认证联盟)最近发布了一个开放规范来支持视听内容可以被验证为人工生成。随着Adobe、微软、英特尔、BBC等多家技术公司加入这项工作,C2PA已做好充分准备,以生产有效且广泛部署的身份验证技术。
对人类生成的内容和人工智能生成的内容进行联合签名和水印处理,虽然不能防止一切形式的滥用,但可以提供一定程度的保护。任何安全措施都必须不断调整和完善,因为“对手”会找到将最新技术武器化的新方法。
近日,江苏首例“人脸解封”侵犯公民个人信息案公开审理,郑某在被害人不知情的情况下从他人处购买包含姓名、身份证号码、照片、视频等个人信息,然后操作图片形成动态视频来进行人脸核验解封他人账号,帮助诈骗团伙实施犯罪。
被告人郑某因犯侵犯公民个人信息罪被判有期徒刑八个月、缓刑一年,并处罚金人民币40000元,作案工具予以没收。该案判决目前已生效。
“要遏制AI合成的乱象,得政府监管部门、平台、网民多方形成合力,多管齐下。”北京航空航天大学法学院副教授、北京科技创新中心研究基地副主任赵精武曾表示,作为服务的提供者,AI合成平台必须承担主体责任。
《互联网信息服务深度合成管理规定》对AI合成的服务提供方作出了多项规定,比如,AI合成平台必须要求内容创作者实名认证,监督创作者标明“这是由AI合成”之类的标识,以免误导公众;在提供“换脸”技术前,应该征得“被换脸”者的同意;完善数据管理、保障个人信息安全。
《互联网信息服务深度合成管理规定》要求,深度合成服务提供者和技术支持者必须加强训练数据管理和技术管理。
如同垃圾邮件、钓鱼网站伴随着互联网的诞生而难以清除,在AIGC逐渐普及的当下,抵御使用生成AI的各种形式的滥用,何为现实何为AI生成的“真假之辩”,似乎也是一场“持久战”。
华西都市报-封面新闻记者 边雪
标签:
您可能也感兴趣:
今日热点
为您推荐
秘伴裤:全国招商伙伴进行中【导师对接】
企业如何做软文营销? 软文营销的形式有哪些?
艾诗摩尔射频健发梳:到底谁在收割"智商税"
排行
精彩推送
- 世界时讯:第一批元宇宙炒房人“套牢”在数字世界
- 聚焦:商场租赁回暖 餐饮成为最大引擎
- AI使造谣变得越来越容易?科技的边界也需法律来明确
- 加拿大央行继续维持基准利率不变
- 网红书店言几又只剩3家 读者储值卡怎么办|天天信息
- 环球观点:高达9元,麦当劳、肯德基的配送费为何降不下来?
- 美国3月CPI涨幅放缓但仍处高位
- “让外地人先吃”,一把烤串带火一座城
- 世界微资讯!从“手推车”到“一键购” 山西超市经济30年变迁
- 环球热头条丨东南亚咖啡企业消博会秀特色、寻商机、交朋友
- 旅游从业者:中老铁路开启两国跨境游“双向奔赴”
- 一季度建筑业产值预计正增长 上海持续优化工程建设领域营商环境
- 快看:(聚焦消博会)“新朋”看消博:展会热度超过预期 看...
- 当前视讯!广州琶洲港澳客运码头临时对外开放 设立落地签证服务
- 今日观点!迪尔化工研发与原关联方惊现重叠人马 清理同业竞争...
- 【天天播资讯】2022年北京地区普惠小微贷款余额达7782亿元 ...
- 【世界热闻】【绿色中国】广西桂林打造“绿色电网” 为漓江...
- “中国创翼”2023年新疆创业创新大赛在乌鲁木齐启动|天天热点
- 重庆直飞伦敦客运航线将复航 实时
- 英特尔基辛格:支持中国数字经济发展和可持续发展目标
- 广州二手住宅一季度成交超2.7万宗 环比增长超五成
- 罗克韦尔自动化:愿与中国制造业向“智”同行_环球看热讯
- 推动中国消费复苏 专家:关键做好“三篇文章” 天天简讯
- 全球热头条丨2022年中国海洋生产总值超9.46万亿元 占中国GDP7.8%
- 长三角示范区首次跨区域联合招商 9个项目签约总投资约154亿元
- “五一”旅游狂飙,机票价格也涨了
- “消博会”黑龙江省高水平出口消费品加工区项目签约额破10亿
- 天天热文:2023年第一季度上海外高桥口岸超过23万辆汽车出口
- 【当前独家】吉林力促民营经济高质量发展 市场主体增速居东...
- 福建莆田港口迎一季度“开门红”:莆台集装箱班轮电商货物首...
- IMF:全球金融稳定风险迅速上升
- 新世界中国成功发行国内首单CMBS 跨出资产证券化重要一步|全球快报
- 全球观速讯丨一季度湖南技术合同交易额逾580亿元 同比增长超六成
- 合创V09打造纯电新品类 上海车展跨界潮改共创第三空间新解
- 世界经济复苏前景黯淡 中国“引擎”作用备受期待
- 环球时讯:酒泉肃北推进党河城区段绿化工程建设
- 每日快看:邮储银行平凉市分行多措并举推动党的二十大精神宣...
- 邮储银行张掖市分行组织员工参加植树活动 简讯
- 武威古浪:凝心聚力 推进教育高质量发展
- 【热闻】读者文传公司:“三抓三促”推动品牌多元化发展
- 一季度我国汽车市场保持平稳向好态势
- 【世界新视野】依“林”兴业 化“绿”成金——黑龙江部分林...
- 生态风、民族风——消博会这场秀很特别 报道
- 国网甘肃数字化事业部构建“一终端、多应用”一体化全域视频...
- 破解新能源车充电难,移动“充电宝”会是良方吗?
- 平凉华亭安口镇:“共享车位”便民又暖心
- 高质量发展厚植企业再投资热土_当前独家
- 张掖甘州:以水为笔绘就城水共融生态画卷 世界信息
- 张掖甘州区南街街道西来寺社区破解老旧小区治理难题
- 建设银行2023年投行业务策略会在苏州召开
- 陕西聚力打造9大产业链 特色产业成农业发展“引擎”
- 消费复苏 信心提振——第108届全国糖酒商品交易会一线观察
- 第108届糖酒会在蓉开幕 外商“瞄准”中国消费复苏新商机
- 春日里的“美丽经济”:新业态给村里带来新活力
- 世界消息!永登县开展人才评选活动
- 国网甘肃电网建设事业部召开2023年一季度初步设计评审协调会|...
- 环球关注:国网甘肃电力:《环保水保典型设计库》研究工作全...
- 今日聚焦!兰州高新区连搭镇开展农民职业技能培训
- 兰州高新区2023年度科技创新培育工作会召开
- 3月份北京CPI同比上涨0.7% 环比下降0.2%
- 世界资讯:品味岁月陈酿 国台即将启动老酒置换计划
- 今年首趟上海开往浙江的旅游专列出发
- 青海:民众看病就医负担不断减轻,五年出台医改措施300多项_讯息
- 看点:上海轨道交通崇明线北港区间盾构“申崇号”顺利始发
- 焦点热议:2022年度“最美基层好医生”推荐展示活动总结会在京举办
- 环球视讯!新研究模仿北极熊毛皮制造保暖面料
- 全聚德发年报:在逆境中坚持守正创新
- 广东发展“赏花经济”促增收
- “史上最挤”五一档来了?
- 绍兴—敦煌文化走亲之“醉美绍兴”文艺演出在敦煌举行-天天热...
- 港媒:字节跳动在香港中环扩大办公面积,租下2万平方英尺楼面
- 上海首条市域铁路“机场联络线”并行高铁段盾构隧道贯通
- 星火机床与华中数控签订战略合作协议
- 自然资源部:以数字化推动国土空间治理模式变革 每日速看
- 四川盐源“借风而上”:“大风车”转出绿色未来 环球今热点
- 全球微头条丨多地客流量大增 国内游市场亮点迭出
- 西固税务:税收宣传“云直播” 优惠政策“秒送达” 环球动态
- 方大炭素:打造绿色发展“金名片”
- 临夏税务开展“陇税清风”廉洁文化品牌创建实践活动
- 世界速读:肃南税务:税惠“春风”助春耕 抢抓农时“税”添力
- 今日热讯:中药行业持续加码新药研发 25家上市公司去年研发...
- 首批20只公募基金产品一季报出炉 超九成实现超额收益 新消息
- 播报:3月份理财产品发行数量环比增长净值持续修复
- 多家农商行下调存款利率 业界称或有中小银行跟进
- 天天观速讯丨学历高、理念新、留过洋、韧劲足 宁波“创二代...
- 天天亮点!兰大二院巧用ERCP为高龄老人妙手取石
- 甘肃持续帮扶困难家庭子女:打造“就业攻略” 拓岗位资源|全...
- 第三届消博会白皮书:海南离岛免税市场仍有巨大潜力_热头条
- 盛京银行召开董事会、监事会 提名董监事候选人
- 从一键授信到实时阻断风险交易,详解邮储银行“风控护行”
- 第三届消博会|从消博会看绿色消费新趋势
- 央行:3月信贷增加3.89万亿元 M2增长12.7% 社融增量为5.38...
- 消博会有多好逛?八大展馆各有新亮点 环球快资讯
- 中信金属与实控人控制企业“不分家” 独立性或遭拷问
- 旺成科技:独董与实控人持股企业存交集 动产抵押隐而未宣抵...
- 迪尔化工:超四千万元采购额真实性存疑 废水超标排放频发恐...
- 一季度人民币贷款增10.6万亿元
- 环球播报:餐饮消费市场加快恢复向好
- 人工智能的底线是由人主导 天天热文
- 全球即时:广东上线电力市场零售数字化平台 一万四千家企业...
今日要闻
- 电子连接器概念领涨股是那只?12月6日意华股份股价是多少?
- 实体经济概念共有几只个股?12月5日远大控股市盈率为25.02
- 出租汽车板块领涨股是哪只?12月5日菱电电控股价是多少?
- 医药批发概念领涨股是那只?12月5日益丰药房股票行情怎么样?
- 铁塔概念股股票行情怎么样?12月1日汇金通市值36.83亿元
- 分子筛概念股股票行情怎么样?12月1日兄弟科技股价是多少?
- 养老保险概念股领涨股是那只?12月1日仙琚制药股价是多少?
- 气动汽车板块那只股票领涨?11月30日中通客车股价多少?
- 医废处理概念版块领涨股是那只?11月30日华康医疗市盈率为49.09
- 宁德时代概念板块领涨股是那只?11月30日杰普特股票行情怎么样?