最近几天，网络名人对FaceApp的应用又引起了一场小小的互联网恐慌，这是自2017年1月FaceApp诞生以来的第三次大规模互联网***——窃取用户隐私。
FaceApp是Android和iOS平台上流行的“变脸”应用。据称，在获得用户的“第一手”照片后，该App会在未经用户明确许可的情况下，将用户的数据传输到俄罗斯，并在云端操作。
不仅不像苹果自己的应用那样在设备上处理，而且所有的执行步骤也不像iOS上的其他第三方软件那样用户一目了然。
所以FaceApp的用户现在已经开始担心“自己”是否真的被监控了。
FaceApp的创始人雅罗斯拉夫·冈卡罗夫(Yaroslav Goncahrov)对这场喧嚣做出了如下回应:
1)用户数据不会转移到俄罗斯，而是在云端处理；
2)只有用户选择的照片才会被上传进行编辑。千万不要把***里的其他任何照片传到云端；
3)上传到云端的原因是为了保证用户每次编辑操作不会重复上传照片，大部分照片会在上传之日起48小时内删除；
4)用户也可以请求删除所有用户数据。用户可以通过转到设置，然后支持并选择报告错误，在主题行消息中使用“隐私”一词来完成此操作。
最后，他强调:“我们绝不会出售或与任何第三方分享任何用户数据。”
然而，FaceApp在其隐私条款中明确声明:
您授予FaceApp永久、不可撤销、非排他性、免版税、全球范围、全额支付、可转让的分许可，可用于使用、***、修改、改编、发布、翻译、公开执行和显示您的用户内容
也就是说，从你开始使用FaceApp的那一刻起，你就默认了“你的脸”可以用于商业目的。
FaceApp曾因涉嫌种族歧视道歉。
Face是俄罗斯应用开发公司Wireless Lab的产品。
其创始人冈查罗夫是俄罗斯圣彼得堡的一名开发商和企业家。他曾经是俄罗斯互联网巨头Yandex的执行总裁，后来创办了自己的公司开发移动应用。
自2016年以来，冈查罗夫一直带领团队开发FaceApp。
随着FaceApp的知名度大增，公司名称也从***实验室改成了FaceApp。
作为一款“革命性”的***滤镜，FaceApp使用人工智能技术，使处理照片变得比以往任何时候都更容易。
比如它可以对你微笑，带你穿越去看不同年龄的自己，甚至让你瞬间变成异性。
除了这些，真正让FaceApp与众不同的是它的技术——这个有趣的工具实际上是利用深度神经网络的技术来改变你的面部外观，让你看起来更加开朗，而不是依靠基础级的照片编辑来拍摄。
因此，你笑起来更自然，眼睛更大，牙齿更白。在年龄和性别的转换上，也能看到以前的自己，以及“变性”后的自己。
然而，自2017年诞生以来，FaceApp就不断遭到指责。
例如，有用户指出FaceApp中有一个名为“hotness”的滤镜功能，可以使图像中人的肤色变浅。
而这个所谓的“美白”功能也被指责为“种族歧视”。
面对这一指责，冈查罗夫还通过电子邮件声明道歉:
“对于这个严重的问题，我们深表歉意。这种现象的主要原因来自于为应用提供支持的神经网络的‘副作用’，是其训练数据中的有偏问题，而非预期行为。目前，我们已经第一时间调整了滤镜效果，以消除任何不良影响。”
虽然FaceApp的解释是AI系统的训练数据，但是支持FaceApp滤镜效果的AI技术确实包含了一些开源的数据库代码。
对此，冈查罗夫没有推卸责任，承认用于训练“热度”过滤器的数据集是他们自己的，而不是公开的数据集。这次事件还是FaceApp的内部疏忽。
这场风波的结果是，FaceApp在把滤镜从“hotness”改成“spark”后，把它去掉了。
几个月后，FaceApp推出的几款滤镜引起了相应的风波，即“亚洲人”(”亚洲”)，“黑”(”布莱克”)，“白色”(”***人”)和“印第安人”(”印度”)，选择不同的滤镜将照片中的人像修改成相应的种族。
这场风暴也以移除过滤器而告终。
如何消除AI算法的偏差？
这已经不是互联网公司第一次因算法偏差陷入类似***。
2015年，谷歌的照片应用Google Photos错误地将两名黑人标记为“大猩猩”。为此，谷歌从谷歌照片中移除了“大猩猩”类别。Flickr的自动标记系统也曾错误地将黑人的照片标记为“类人猿”或“动物”。
2016年，微软的人工智能聊天机器人Tay上线不到一天就变成了“反犹分子”，因此被微软紧急下线。
Snapchat还推出了“Yellowface”滤镜，可以让用户“变成”黄种人。也因为涉及种族歧视而遭到了***和***。
因为人工智能是通过机器学习，用大量的数据让计算机自己学习，从而形成算法。所以之前的数据集、数值、人的行为的偏差都会在最终的算法中体现出来。
例如，如果研究人员给出的简历数据集显示男性拥有更高的薪水和更好的职位，则相应的算法将具有类似的特征。
2014年，亚马逊已经开发了一个AI招聘引擎——算法筛选系统，试图帮助亚马逊在招聘时筛选简历。
R&D团队开发了500个模型，同时教会算法识别简历中出现过的5万个术语；以便算法可以学习在不同能力中分配的权重。
这听起来很高，但随着时间的推移，开发团队发现，该算法实际上对男性候选人有明显的“偏好”，当算法识别出“女性和女性的”等相关词时，会以“有偏见”的观点给女性简历相对较低的分数。
比如女子***俱乐部等。，算法甚至会直接给两所女校的学生降级。随着“偏见问题”越来越严重，这种情况引起了学术界和产业界的特别关注。
不久前，麻省理工学院计算机科学与人工智能实验室开发了一种基于深度学习的新型人工智能预测模型，可以提前5年为人类预测乳腺癌病变。
为了确保白人女性和黑人女性的预测结果同样准确，团队采用了更加多样化的数据进行训练。在这种情况下，R&D团队特别有意识地使用了“更公平”的数据。
然而，要真正消除人工智能算法中的“偏差”，仅仅用“更公平”的数据来填充是远远不够的。我们真正需要消除的是:人类头脑中根深蒂固的偏见。
“俄罗斯软件，美国人不用”
尽管存在算法偏见或隐私问题，但FaceApp凭借其独特的功能吸引了一***粉丝。
自2017年“种族歧视”事件以来，FaceApp累计活跃用户超过8000万，目前已是121个国家iOS应用商店排名第一的应用。它的粉丝也涵盖了体育、音乐和政治。
近日，美国***全国委员会(DNC)发出预警，警告他们不要使用FaceApp。参议院少数党领袖查克·舒默也正式要求联邦调查局和联邦贸易委员会对该应用进行国家安全调查。
那么，美国政府担心的隐私问题真的会存在吗？让我们弄清楚“云”(即服务器)是否在俄罗斯。
事实上，这些服务器主要在美国，而不是俄罗斯。据《福布斯》报道，“FaceApp.io的服务器位于美国亚马逊数据中心”。
当然，也有一些服务器由谷歌托管在其他国家，包括爱尔兰和新加坡。此外，FaceApp还使用了第三方代码。
当然，由于FaceApp的开发者公司位于圣彼得堡，这些人脸会在俄罗斯被查看和处理。同时，这些亚马逊数据中心的数据也会反映到俄罗斯的电脑上。
俄罗斯在“隐私”问题上真的存在泄密吗？不管我们信不信，FaceApp这个隐私问题已经引起了参议院少数党领袖、来自纽约的***参议员查克·舒默(Chuck Schumer)的关注，FaceApp再次被推到了舆论的风口浪尖。
本文来自牛奶煮萝莉投稿，不代表舒华文档立场，如若转载，请注明出处：https://www.chinashuhua.cn/24/625272.html
微信扫一扫 
