首页 > 热点 > > 内容页

女子地铁照遭“一键脱衣”:技术不该沦为龌龊的“透视眼”

发表时间:2023-03-31 11:52:44 来源:凤凰网

AI时代,有图未必有真相。


【资料图】

最近,一段聊天记录火了。发布者煞有介事地称,广州地铁惊现“裸女”。博人眼球的文字配上“事实”为证的图片,看上去言之凿凿。一时间舆论沸沸扬扬,更有别有用心者借机意淫,开启一场下流狂欢。

其实,哪有什么裸女,哪有什么不雅照,不过猥琐之人在捣鬼——一个正常打扮的女孩,在社交平台晒了一张再日常不过的照片,便被人拿来用AI“一键脱衣”,移花接木造黄谣,并刻意在全网公共空间散播,招致无妄之灾。

技术没有善恶之分,但人有。放任技术的恶意滥用只会对技术的生存与发展造成巨大阻碍。对此,长安君有三句话想说——

第一,毫无底线的玩梗,必然翻车

利用AI生成图片、短视频造黄谣,是对受害者的公开羞辱、恶意诽谤以及无差别攻击。

自媒体时代,人人都是麦克风,叠加深度合成技术不断成熟,技术门槛日益降低,意味着只要有网络账号,就可以一键制作以假乱真的视频,并借之造谣传谣、假冒仿冒、违规盈利。

但虚拟不等于虚假,娱乐玩梗不代表放任自流,网络传播是有底线的,高科技也不能沦为肆意侵权的帮凶,否则公共空间的安全感将变成空谈,人人皆会自危:下一秒,你的脸就可能被盗取、拼接,被扒得一丝不挂,成为满足他人无耻欲望的素材和非法牟利的工具。

对于好事者来说,这只是一键生成,但给当事人带来的却是恶意审视、名誉损毁和身心伤害。

科技进步,不该沦为一双龌龊的“透视眼”。

第二,挑战红线的流量,不能容忍

流量没有上限,但是赚取流量的方式应该有下限。

近年来,网络媒介尤其是短视频野蛮生长,涌现出各类“魑魅魍魉”,通过人工智能生成虚拟视频来涉黄、涉暴、侵害隐私,甚至危害国家安全。他们有的借社会话题撩拨情绪引发舆论海啸,有的打着“寻找真相”的幌子造假造谣,还有的不顾法律与道德的约束不断用恶俗低俗制造热点。

一些所谓的“AI换脸”背后是一条黑灰产业链。“50元,可以买到知名女星换脸视频;150元,可以让任何人成为小视频主角。”有报道显示,电商平台上已有卖家公开兜售相关技术模型,并提供真人模型代训练服务;利用AI生成图像假扮真人的账号混入社交媒体,网友难辨真假。

有人标价,有人求购,有人制作,有人发布……一些人为追逐流量及背后暴利铤而走险,打着娱乐的幌子,大行侵害之事,不能忍,不可忍!

第三,整治滥用AI的乱象,需多方施策

非重拳不足以激浊扬清,非猛药不足以澄清视听。

对于AI技术运用,国家网信办、工信部、公安部此前已联合出台《互联网信息服务深度合成管理规定》,明确“任何组织和个人不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动”。

放诸长远,仍需多方合力,给乱象刹车——

专项打击整治势在必行,不仅要彻查利益链条,还要深挖幕后、铲除源头;相关法律法规要更加完善,明确惩治范畴和尺度,全面挤压深度伪造相关犯罪的生存空间,掐住侵权行为的命门;网络平台不仅应对违法违规账号处置要快准狠,还应当提升管控技术、优化审核机制,既要“剜烂疮”,又要“治未病”。

而身处AI时代的每个人,也要进一步提高辨假的意识和识假的能力,擦亮双眼,不被“伪装者”蒙蔽,更不做“二传手”。

“AI涉黄”,该退场了!

最近更新