宋宇昊
极棒实验室安全研究员

:我从事网络安全研究,:AI换脸的隐私安全风险到底有多大,问吧!

一张自拍,就可以把多部经典影视剧主角的脸,替换用户自己的脸。名为“ZAO”的AI换脸APP忽然火爆全网。但“ZAO”的用户协议也引发了关于用户隐私的担忧。ZAO产品上存在的短视频和表情等素材,除了特别声明是ZAO跟合作方进行版权合作的之外,均来源于ZAO用户自发的上传,ZAO不享有素材的商业版权。
我是极棒实验室安全研究员宋宇昊,毕业于上海交通大学信息安全专业,在信息安全行业从业十年,研究方向主要包括移动互联网、物联网、人工智能等领域。
从起初的采集上千张照片、运行代码进行换脸,到现在仅需在手机APP上传一张照片就能换脸。换脸变得越来越便利,但值得关注的是,人脸识别已经成为实名认证的辅助,AI换脸的隐私安全风险到底有多大?欢迎大家和我一起探讨!
焦点 2019-08-31 进行中...
新颖、大胆、专业、有趣的好问题更有机会获得回复,开始提问吧!
14个回复 共23个提问,

:热门

最新

不仅仅是个人隐私吧?会不会引发犯罪呀?

宋宇昊 2019-09-01

查看此问题的另外1个回答

2019-09-01

宋宇昊 2019-09-01

就和任何互联网上的网站、APP一样,任何信息只要上传到网上(服务器上),它就不在用户的控制范围内了。在服务器上会不会保存、保存多久、怎么处理,这是完全是由服务商决定的。因此在上传任何信息之前,先思考:这服务商自身会不会作恶、它有没有能力保护好用户数据、这信息适不适合透露给他人。

周星星2019-08-31

支付宝的刷脸是否危险了?另外声音能模拟出来么?比如微信的声音验证能否被破解么?

宋宇昊 2019-09-01
35|回复

声音、图像、视频都能被合成模拟,近几年来伪造越来越便捷,但这不是一类新出现的风险。因此对于成熟的产品而言,从技术上会有一定的对抗防御手段;从流程设计上,验证机制不单独依赖刷脸或语音,而是多因素组合。
查看此问题的另外11个回答

我的一个澎友2019-08-31

换脸后,可以骗过刷脸支付等场景吗?

宋宇昊 2019-09-02
30|回复

不排除可能某些低质量的刷脸支付方案能被屏幕中播放的人脸视频欺骗。但早有成熟技术可以抵抗这种攻击,比如苹果手机上的Face ID就通过发射出结构光扫描3D人脸形态,2D视频无法欺骗这种技术。主流刷脸支付厂商也都宣传使用了类似的技术。

王民州2019-09-01

Al换脸的隐私安全风险到底有多大了

宋宇昊 2019-09-02
14|回复

AI换脸技术的风险主要不在于对隐私的侵害,因为它获取的是人脸图像,而大多数场景中人脸图像是公开的信息。
查看此问题的另外2个回答

澎湃网友EjmY7j2019-09-01

如果换脸可能引发犯罪,那么,做这项工作的人是不是应该做点什么,把犯罪的可能遏制住。国家是不是也应提早立法,未雨绸缪。

宋宇昊 2019-09-03
4|回复

由于AI换脸已经是一项开放的技术,专业人员没法再限制它的传播。但是把这项技术制作成产品的团队可以在推出产品前,仔细考虑应怎样保护用户和其他公众的权益不受产品侵害。此外,也已有AI领域研究者在研究自动鉴别换脸视频。
查看此问题的另外1个回答

雅猫2019-09-03

对这类很浅层的AI技术,没必要煞有介事的分析利弊,1、容易造成民众恐慌。2、不利于AI多层次发展。需要做的是:1、科普性质的推广。2、类似的新技术、新概念日后会层出不穷。在法律层面不能滞后,专家应该多研究对新技术的规范推广。

宋宇昊 2019-09-03
3|回复

很多提问都提到法律与监管,这不是我专业领域,我回答不了,只把这些提问都显示出来。法律与监管必然落后于科技的高速发展,但应让它们尽快跟上步伐。

锋声鹤唳2019-09-03

换脸需要立法吗

宋宇昊 2019-09-03
2|回复

很多提问都提到法律与监管,这不是我专业领域,我回答不了,只把这些提问都显示出来。法律与监管必然落后于科技的高速发展,但应让它们尽快跟上步伐。

2019-09-03

这种巨大的安全隐患,有部门管吗?

宋宇昊 2019-09-03
0|回复

很多提问都提到法律与监管,这不是我专业领域,我回答不了,只把这些提问都显示出来。法律与监管必然落后于科技的高速发展,但应让它们尽快跟上步伐。

热新闻

一天 三天 一周

热话题

一天 三天 一周

热评论

热回答

联系我们
关于澎湃 在澎湃工作 联系我们 版权声明 隐私政策 澎湃广告 友情链接 澎湃新闻举报受理和处置办法
彩票2元网网站直营网 滨海国际棋牌现金网 太平洋DT 新宝线路检测游戏 sunbet申博管理网登入
澳门银河娱乐场直营登入 金沙百家乐备用网址登入