从一夜爆红到全民声讨,AI换脸应用ZAO究竟做错了什么?

“世界上只需要一张照片就可以玩了”,这是近日来“赵氏变脸应用”的口号。从红幕到质问,赵只花了一天时间。

对zao的质疑主要是由于人工智能变脸的伦理道德风险和zao产品本身对用户隐私及相关信息的保护程度。

一位长期从事人脸识别与分析技术的研究人员告诉[0x9a8b],用于人工智能人脸变换的核心技术是人脸关键点检测gan(generation-against-network model),这项技术目前比较成熟。zao的变脸功能可以使用“deepfake”+移动优化来完成,但不确定zao是否使用了“deepfake”开源代码。

“DeepFake”是一款来自国外的开源人工智能变脸软件。据《深网》报道,2017年12月,一位名叫“DeepFakes”的外国Reddit论坛用户首次在互联网上发布了自己的人工智能变脸视频。当时,“深度假货”用盖尔加等好莱坞明星取代了色情电影中的女主角。由于大量受害者的投诉,reddit论坛被迫屏蔽“deepfakes”账号,但这次“deepfakes”直接为其人工智能变脸项目开源。

女主角“出演”情色电影女主角,艾未未变脸的伦理风险显而易见。但这只是赵被质疑的冰山一角。

人工智能变脸技术的伦理和道德风险,让用户对变脸应用感到小心翼翼。《zao用户协议》中对个人肖像权等肖像权授权的界定,直接引爆了外界的质疑。

“ZAO的用户协议太过分了。” “这只是霸王条款。”一些用户在阅读ZAO的用户协议后已经说过这一点。

关于用户必要授权的ZAO用户协议部分包含以下术语:

“1)在您上传和/或发布用户内容之前,您同意或确保实际权利人同意授予”ZAO“及其关联公司和”ZAO“用户完全免费,不可撤销,永久,可转让的许可以及全球范围。可授权的权利,包括但不限于用户内容的全部或部分修改和编辑(例如用另一个人的面部或语音替换短视频中的面部或声音)以及修改前后的信息网络传播的用户内容以及《智东西》中定义的版权所有者享有的所有版权产权和相邻权利;“

“2)如果您将用户内容中的某人的脸部替换为您或其他人的脸部,则表示您同意或确保肖像所有者同意授予”ZAO“及其关联公司在全球范围内完全免费,不可撤销,永久,可兑换的权利。授权和可授权的权利,包括但不限于:您或肖像权利持有人的肖像权利,包括肖像,如面部照片,图片,视频材料等,以及使用技术形成您或肖像权利持有人的肖像更改;“

一位着名的法律博主,由