东方网采访人员解敏3月3日报道：“蚂蚁呀嘿 ， 蚂蚁呀呼 ， 蚂蚁呀哈 ， 蚂蚁呀哈哈......”过去一周 ， 在微信朋友圈、微博、抖音等社交媒体平台 ， 相信不少人都被这个魔性的音乐配合着夸张扭动的变脸视频刷屏了 。
然而这款名为Avatarify ， 火爆全网的AI换脸软件从2月底冲上苹果App Store免费榜第一 ， 到今天从App Store中国区悄然“下架”只用了不到一周的时间 。 目前官方未给出具体下架原因 ， 业界猜测该款软件可能涉及隐私安全等问题 。
AI换脸你体验过了吗？
【人脸|“蚂蚁呀嘿”刷屏特效火了又凉了 AI“换脸”背后存在安全风险】Avatarify的名称来源于“阿凡达”电影 ， 创作者是一位开发工程师 ， 最初只是因为疫情期间过于太无聊 ， 才开发了这款变脸应用并将其开源 。 其实Avatarify早在去年7月就已经上线 ， 但一直不温不火 ， 直至”蚂蚁呀嘿“特效蹿红后 ， 才带火了这款软件 。
软件运行的原理是将别人的脸套在自己的表情上进行实时驱动 。 用户只需要三步：导入手机里的人脸图片 ， 选择视频模板 ， 软件就能自动生成短视频 ， 再一键保存即可 。 如果想要照片中的多人都动起来 ， 根据抖音中大多数视频制作教程 ， 则还需要一些剪辑软件加以辅助 。
Avatarify软件背后用到的是deepfakes这项强大的AI人脸交换技术 ， 这项技术不仅可以生成图片 ， 还可以生成视频 。 Deepfakes ， 是由“deep machine learning”（深度机器学习）和“fake photo”（假照片）组合而成 ， 本质是一种深度学习模型在图像合成、替换领域的技术框架 ， DeepFakes的出现可以说是人脸交换技术的一个重要突破 。
AI换脸安全争议不可回避
然而 ， 就像过往的任何一款换脸AI软件一样 ， Avatarify不可回避地也遇到了可能涉及的安全和隐私问题 。 人脸是非常隐私且重要的个人信息 ， 由于换脸软件在使用过程会收集用户个人信息 ， 如照片、面部特征等 。 如果将这些信息通过AI技术合成 ， 一旦被泄露被盗取 ， 很可能会对个人财产造成损害 ， 以及由此带来一系列未知风险 。 早前在国内火爆一时的“ZAO”也曾因对隐私泄露的担心引发公众焦虑和谈论 ， 并被工信部约谈后下架 。
对于Avatarify的下架 ， 有网友表示：“技术是好技术 ， 但是应该有正确的使用规范 。 在没有规范的前提下应当谨慎使用 。 ”“AI换脸最怕的就是被不法分子利用 。 ”
2019年11月底 ， 国家网信办、文旅部和广电总局等三个部门联合发布了《网络音视频信息服务管理规定》 ， 其中明确了“利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的应当及时采取相应的辟谣措施”等针对换脸技术的新规定 。 规定同时指出 ， 利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的 ， 应当以显著方式予以标识 。 且不得利用该技术“制作、发布、传播虚假信息” 。 此外 ， 规定还强调 ， 不得利用相关的音视频技术“侵害他人名誉权、肖像权、隐私权、知识产权和其他合法权益” 。
任何AI技术的运用都是人类科技发展进步的体现 ， 但是在使用任何高科技和新手段的时候一定要守住法律和道德的底线 。 用户在体验App的时候更要多留一份心眼 。 不能只顾好玩而忽略了信息安全及个人隐私的泄露问题 。 （解敏）
推荐阅读
- 快报|“他，是能成就导师的学生”
- 技术|“2”类医械有重大进展：神经介入产品井喷、基因测序弯道超车
- bug|这款小工具让你的Win10用上“Win11亚克力半透明菜单”
- 重大进展|“2”类医械有重大进展：神经介入产品井喷、基因测序弯道超车
- 历史|科普：詹姆斯·韦布空间望远镜——探索宇宙历史的“深空巨镜”
- 空间|（科技）科普：詹姆斯·韦布空间望远镜——探索宇宙历史的“深空巨镜”
- 精度|将建模速率提升10倍，消费级3D扫描仪Magic Swift在2021高交会大显“身手”
- 四平|智慧城市“奥斯卡”揭晓！祝贺柯桥客户荣获2021世界智慧城市治理大奖
- |南安市司法局“加减乘除” 打造最优法治营商环境
- ASUS|华硕预热ROG Flow Z13：称其是“全球最强悍的游戏平板”