Fork me on GitHub

万字长文:无论何时何地,亚马逊都在“注视”着你

  编者按:Facebook 和 Google 最近几年因为侵犯在线隐私的问题在美国被抨击得很厉害,但其实大家都忽视了另一家可能体量同样巨大而且潜在带来的问题更多的公司——Amazon。大家对这家公司的印象可能还停留在电商巨头上面,但是随着它在智能家居以及 AI 方面的不断渗透,Amazon 已经悄然在我们周围布下了耳目,就连大家的线下隐私也可能受到威胁。Medium 上的 OneZero 栏目聚焦了这个问题。原文作者是 Will Oremus,标题为:Amazon Is Watching

万字长文:无论何时何地,亚马逊都在“注视”着你

  当你想到 Amazon 时,你可能会想到坐在沙发上比较购物,买到自己正好想买的东西,而且花的钱比你在店里支付的还要少。你可能会想到快递员正好按时把包裹放到你门口,以及如果东西有问题的话你可以寄回去并拿到全额退款。你可能会想到让 Alexa 放首歌或者某个电视节目,或者叫它开灯,并且对它居然都能照做(通常)感到啧啧称奇。你可能会想到 Prime 会员到全食超市(Amazon 于 2017 年收购)买牛油果能获得折扣。

  Amazon 以用低价以及无情的效率去服务客户著称,这也许有助于解释为什么在一个接一个的调查中,这家公司总是占据美国最有价值或者最受欢迎品牌的榜首。最近的一项研究发现,Amazon 在美国最受信任的机构里面排名第二,领先于 Google、警察以及高等教育体系,仅落后于美国军队。

  在一连串没完没了的隐私和选举丑闻令 Facebook 名声扫地,而 Google 受累于 YouTube 的激进化与内容审核之时,Amazon 正变得比以往任何时候都要强大。

  但 Amazon 作为一个可信赖的“万物商店”的公众形象,掩饰了它已经变成的神秘巨兽的形象——也掩盖了它今天建造的产品在侵蚀我们的(线上乃至线下的)隐私的行为。即便在竞争对手重新评估自身的数据实践,反思所肩负的责任,并呼吁制定新法规时,Amazon 仍在正在对监控设备加倍下注,拒绝承担别人对其技术使用方式的责任,并无视学者、媒体、政治家以及自己员工的关切。

  乔治城大学公共利益律所(Georgetown Law’s Institute for Public Representation,IPR)的专职律师 Lindsey Barrett 说:“我们都希望他们造的不是圆形监狱。”该律所是 19 家监督组织组成的团体的法律顾问。

  上个月,IPR 向 FTC(美国联邦贸易委员会)发出呼吁,要求调查 Amazon 是否涉嫌违反保护儿童在线隐私方面的联邦法律。包括其他关切在内,他们发现即便父母试图删除数据,Amazon 的 Echo Dot 儿童版智能音箱仍保留了儿童的录音和个人数据。Amazon 将至少该问题的一部分归咎于一个软件漏洞,并且说已经得到了修复。

  虽然此案的结果仍有待观察,但这个诉讼只是冰山一角。今天的 Amazon 在公共互联网上的势力范围很广;它利用了人工智能来处理世界上许多大公司和机构(包括中央情报局)的数据;它还跟踪用户购物习惯,为定向广告建立详细的用户画像; 并且把连接云的、由 AI 支持的音箱和屏幕买到家庭里面。

  它收购的一家公司生产的 Wi-Fi 路由器可以组成网状网访问我们的私有互联网流量。通过子公司 Ring,Amazon 将监控摄像头放置到数百万家庭的门铃上,并邀请他们跟邻居与警方一起在一个面向预防犯罪的社交网络上分享镜头。它还向警方和私营企业出售人脸识别系统。

Amazon 基本上是在贩卖恐惧

  就像专利、合同标书以及营销材料所勾勒那样,明天的 Amazon 可能会更加无所不在。想象一下到处都是 Ring 门铃摄像头的情形,想象一下多到你没法不惊动邻居和警察的情况下出门会如何。设想如果这些摄像机内置了人脸识别系统,可以作为一个网络一起工作,从而识别被认为可疑的人会如何。

  再设想汽车和无人机上的 Ring 监控摄像头,托儿所里面的 Ring 婴儿监视器,以及从学校到酒店乃至于医院的各种 Amazon Echo 设备。现在再想象一下,所有这些 Alexa 支持的智能音箱和屏幕均可识别你的声音并分析你的讲话模式,可以知道你什么时候生气、生病或想买东西。《电讯报》上周报道了 Amazon 在 2015 年申请的一项专利,即所谓的“ 监视即服务 ” 系统,用这个来概括它已经在售的许多产品似乎挺贴切的。

万字长文:无论何时何地,亚马逊都在“注视”着你

  在这背后的是同一家公司,这家公司的领导曾经常将隐私问题视为夸大其词,将内部异议视为无足轻重,把对 Amazon 技术可能的滥用视为别人的问题。

  Amazon 云业务的负责人 Andy Jassy 在本月早些时候的 Code Conference 上曾说:“仅仅因为技术有被滥用的可能性并不意味着我们就应该禁止并声讨它。”。他认为禁止人脸识别系统(也许是有效的监视工具,但往往会歧视有色人种)就好比禁止使用电子邮件或刀具——这两种技术一种是新的,一种非常古老,它们既可用于行善也可用于作恶。他说:“你可以偷偷摸摸地用刀。”

  应该说,Amazon 在做的每一样东西都有可能用来行善。它的门铃摄像头可以逮住顺手牵羊的;它的人脸识别软件可以帮助当局追踪嫌疑人; Alexa 在家里可以有无数种用处。

  但是,当你把这些拼凑在一起时,该公司接入云的眼睛和耳朵就可以产生奥威尔式的影响,与之相比,在隐私方面消费者往往最为担忧的科技公司——Facebook 和谷歌,似乎也相形见拙。

  客厅有耳

  让我们从该公司那些以 Alexa 为引擎的设备开始,比如 Amazon Echo、Echo Dot 以及 Echo Show 等,这些已经成为了智能家居的主要产品。他们把接入互联网的、永远在线的麦克风(有时候也包括摄像头)放到了你的厨房,客厅或者卧室。

  对于偏执狂来说,光是这一点可能就有理由要对其退避三舍:为什么要冒险在互联网和家人最私密的空间之间开放一个永久门户?但超过 1 亿的买家已经接受了他们,相信 Amazon 会在此过程中保护好他们的记录。

  Amazon 说 Echo 设备只有在听到预设的唤醒词,比如例如“Alexa”时才会开始录制。不幸的是,他们的系统跟万无一失还差得远——几乎每一位 Alexa 用户都遭遇过类似这样的惊吓——错听成唤醒词的设备突然之间就被激活了。Alexa 因此经常会错误地收集到对话片段并保存起来,并且至少有一次,Amazon 曾意外地将这些记录发送给了一位陌生人。

  Amazon 忽视了竞争对手智能音箱包含有的数据隐私功能,这是无济于事的。而且从 Echo 上删除录音要比 Google Home 或 Apple HomePod 难,对于给 Echo Show 等设备的摄像头上配置物理快门以防止意外录制,Amazon 一直在拖沓。(就算 Facebook 都一个。)

  作为一家引领人机关系革命的公司,Amazon 对隐私关切的态度有时候似乎不屑一顾。去年在 Slate 的播客节目《If Then》上接受采访时,我曾向 Alexa Engine Software 的副总裁 Al Lindsay 提问,请他指出一项他认为是有效的跟 Amazon 相关的数据隐私问题,或者说出一项他的团队正在进行的与隐私有关的挑战。他说他一个都想不出来。

万字长文:无论何时何地,亚马逊都在“注视”着你

  但 Amazon 以外的监督者已经找到了一些。今年 4 月,彭博社报道称 Amazon 在全球各地办事处雇用了数千合同工来听毫无戒心的 Alexa 用户的录音。其目标不是监视,而是想改进设备软件。

  这是训练 AI 的常见做法 – 无论个人是否知晓,像 Alexa 和 Siri 这样的智能数字助理的人类用户是训练过程的一部分——但 Amazon 并没有向用户明确披露其系统的机制。Apple 的 Siri 和 Google 的助手也用人工审核员,但他们采取了措施对用户的录音匿名化,而 Alexa 的录音则与每个用户的帐号、设备序列号和名字相关联。

  然后还有人指控 Amazon 的 Echo Dot Kids Edition 违反了联邦儿童在线隐私保护法案(COPPA)。在父母试图删除孩子的个人信息后设备仍设法保留,除此之外,该设备还无限期地存储了这一信息,并使用了一种有缺陷的签署父母同意书的方法。IPR 的 Barrett 说,这么大的一家公司居然敢这么直接地在明确面向孩子的设备上侵犯隐私,这实在是令人难以相信。

  针对本文 Amazon 发来了一份声明,表示自己有严格的协议来保护客户的隐私和安全,并指出客户可以随时在 Alexa 应用程序或访问在线 Alexa Privacy Hub 来查看和删除他们的录音。

  考虑到 Amazon 是在把 Alexa 设备部署到汽车,旅馆客房,教室,甚至儿童医院,该公司却没有在隐私和安全方面多做公关,这就有点古怪了。这一点似乎最终开始有所改变,上个月,Amazon 声称推出了一系列新的 Alexa 隐私功能,其中包括用户可以说“Alexa,删除我今天说的一切。”

  但结果证明这个功能具有浓厚的拜占庭风格:Alexa 不是在你第一次提出时删除录音,而是引导你打开智能手机上的 Alexa app,然后经过一长串菜单选项导航。在这之后,你只能删除一天的记录,而不是更长的一段时间。要想删除一切需要经过 8 个步骤,还需要 Alexa app。Amazon 仍然没有像 Google 那样提供自动删除录音的选项。

  迄今为止,Amazon 还没有在 Alexa 上推出语音广告,这可能有助于强化公司是卖东西的形象,而不是让你成为产品。但这并不意味着你的 Echo 不会收集数据并从中获利。现在它已经跟踪你的购买和音乐选择以用于产品推荐了。

  虽然它没有像 Google 或 Facebook 那样受到同样的审查,但 Amazon 的数字广告业务正在悄然蓬勃发展:它现在已经是排在双寡头后面的第三大。根据最近的估计,Amazon 2019 年预计将拿下美国 1300 亿美元市场近 10% 的份额。

  街上有眼

  然后就是 Ring,Amazon 在 2018 年初以 10 亿美元收购的“智能门铃”初创企业。其他的互联网巨头大多将自己的窥探行为限制在用户的在线行为上,而 Ring 让 Amazon 以及你可以监控其他人在现实世界中的行为。

  其安装在家庭和企业门外的 Wi-Fi 连接设备可不间断监视 30 英尺半径范围的情况,并在检测到运动时捕捉视频。用户可实时查看摄像头内容,付费后还可以存储和观看录制的内容。

  这些监视能力并不新鲜:企业和大厦一直都部署有昂贵的安防摄像头系统。但就像 Amazon 之前的电子商务将其带给大众一样,Ring 通过将门铃摄像头嵌入到一个简单的 200 美元套餐中来让这项服务变成主流,同时还不断地向普通家庭以及警察部门积极推销。

  Amazon 现在是门铃摄像头市场的主要玩家,一位分析师预测,这个家庭监控摄像头的子市场到 2023 年的规模将达 100 亿美元。

  Ring 不满足于让用户监视他们自家的前院,还通过名为 Neighbors 的应用程序将其摄像头变成了半公共的搜索网。Neighbors 让 Ring 的所有者可以上传、分享监控录像并彼此发表评论,用户还可以选择将其提供给警方。

  Amazon 在一份声明中表示,“Ring 的 Community Alerts 鼓励社区与当地警方就活动案件进行合作,以帮助社区保持安全。”

  这一功能可让部分执法机构乐坏了。CNET 的一份报告发现,从休斯敦到印第安纳州哈蒙德的警察部门都在跟 Amazon 合作向市民提供打折的 Ring,同时鼓励他们在 Neighbors 上分享监控视频。新泽西州布卢姆菲尔德的警官告诉 CNET 说,感谢 Ring,“现在整个镇区已获摄像头的全覆盖”。

  阿拉巴马州 Mountain Brook 的警察局长告诉该网站,通过 Neighbors 访问居民的 Ring 视频让他的部门几乎免费实现了全市安全摄像头的全覆盖。Amazon 不要求用户向警方共享监控视频,但它面向执法部门的网站使得官方很容易就可以对任何特定用户提出要求——而很多人可能会觉得难以拒绝这样的请求。

  在技术上用户在应用程序中仍保持匿名,但他们的大概位置已经很明显了。Ring 告诉 OneZero 称自己致力于保护用户隐私,并指出要求客户与警方分享视频以换取设备折扣的计划自己是不支持的。

  你可能会认为,在大家对在线隐私的关注增加的时候,科技巨头对涉足线下监视的想法应该给更加谨慎才是。但在 Amazon 这里,你错了。在 Ring 创始人 Jamie Siminoff 的带领下,公司内部显得群情激昂。2016 年,Siminoff 曾向员工发放迷彩T恤衫,并向“人渣犯罪分子(declared war on “dirtbag criminals)”宣战。

  但该公司自己的安全,至少在被收购 Amazon 之前,有时就似乎有些松懈: Ring 曾多次被发现以纯文本存储客户的家庭 WiFi 密码,并发送 20 毫秒的短音频数据包给外面的服务器。

  Ring 迅速采取措施解决了这两个问题,没有任何证据表明造成了任何伤害。根据 The Information 的 2018 年报告,从 2016 年开始,Ring 还让乌克兰的研发人员可访问用户的个人视频记录进行分析。

  Amazon 后来称拦截这种做法仅限于在 Neighbors app 上公开分享的视频,但拒绝透露该政策是何时生效的。Ring 在一份声明中称:“作为一家致力于减少社区犯罪的安全公司,安全是 Ring 的核心,它推动了我们所做的一切,除非用户允许或分享出去,否则没有人可以查看用户的视频录像。”

  Amazon 已经接受了 Ring 这种打击犯罪的想法。Amazon 负责设备的副总裁 Dave Limp 在 2018 年 9 月的一次活动中表示,“ 我想不到有比这更高尚的使命了。”今年早些时候,Ring 还在 Facebook 上推出了定向广告,向加州山景城的居民展示了实际的监控录像,镜头里面显示一位女性似乎正试图破车而入。

  Macomb Community College 的英语教授 Chris Gilliard 说,“Amazon 基本上是在贩卖恐惧。他们在贩卖这样一个想法,一个看得更紧的社会是更安全的社会。”但这取决于你是不是被监视的人。Gilliard 认为,Ring 和 Neighbors 实际上会让社会对有色人种更不安全,他们在具有邻里监督要素的社交网络中被认定为 “可疑”的占比不成比例。在过去,如果居民看到自认为可疑的人时可能会告诉邻居或报警, “但他们可能不会广而告之到整个街区。但现在是了。”

  云端的脑

  尽管大多数人对 Amazon 的印象主要还停留在线零售商上,但其实它大部分的利润都是来自 AWS,据估计,它的云服务器几乎支持着半个互联网。对于规模小一点的网站来说,AWS 主要是充当起基础架构提供商的作用。但对于世界上一些最大型的机构和公司来说,AWS 还会挖掘和分析数据,对文本和图像进行解码,并做出预测和推荐。

  美国国土安全部、国防部和中央情报局等主要执法和情报机构就是它的客户之一。2017 年,Amazon 在 AWS 成立了一个特别的部门,负责处理机密的政府情报。AWS 的客户还包括由 Peter Thiel 与人共同建立的硅谷大数据公司 Palantir,后者为美国移民和海关执法部门(ICE)提供软件。现在,AWS 正在跟微软 Azure 争夺一份价值 100 亿美元的巨额合同,让五角大楼上它的云,此前 Google 已经在自家员工的压力下退出了。

万字长文:无论何时何地,亚马逊都在“注视”着你

  AWS 最具争议性的服务是 Rekognition,这是一个使用机器学习来分析图像和视频片段的平台。Rekognition 还能够将视频录像中的人脸与数据库中的人脸进行对比,还有选择面部特征和表情的面部分析技术。

  ACLU 2018 年的报告聚焦了 Amazon 如何向执法机构推广其面部识别功能的事情,同时还指出该公司跟佛罗里达州奥兰多市和俄勒冈州华盛顿县的警方也建立了合作伙伴关系。

  根据 NPR 的消息,在韩国首尔举行的一次开发者大会上,Amazon 的 Ranju Das 解释说奥兰多的警察拥有“ 遍布整个城市的摄像头 ”,可以为 Amazon 提供镜头进行实时分析。然后,它可以将监控视频中的人脸与数据库中的一组照片进行比较,以便重建“嫌疑人”的下落。三月份 CNET 的一份报告详细说明了华盛顿县警长办公室是如何使用 Rekognition 来识别和逮捕入店行窃嫌疑犯的。

  人脸识别软件的有一个问题证据充分,那就是不准确,特别是在识别有色人种时。在 2018 年 ACLU 的一项测试中,Rekognition 错误地将 28 名国会议员的匹配到犯罪嫌疑人的照片上。在错误匹配里面,有色人种的国会议员占比过高。Amazon 认为这项研究存在若干方面的误导性,因为它使用匹配置信度阈值低于 AWS 建议,并用了过时版本的 Rekognition 软件。

  一些员工和股东认为 Amazon 为 Palantir 和 ICE 等开发人工智能工具和面部识别的想法并不合适。一位匿名的 Amazon 员工去年秋天在 Medium 上写道,约有 450 名员工联名签署了一封致 CEO 贝索斯的信,呼吁该公司放弃跟 Palantir 合作并停止向警方提供 Rekognition。

  该员工写道:“像我们这样的公司不应该掺和这样的事”。在随后的一次采访中,该员工表示 Amazon 领导层对此的回应是 “ 无线电静默 ”。

  这并不奇怪,因为 AWS 副总裁 Teresa Carlson 在 2018 年 7 月的一次安全会议上宣称公司对警方与军方使用人脸识别的“坚定承诺 ”。Gizmodo 在 2018 年 11 月报道说,AWS CEO Andy Jassy 在内部会议上再次肯定了对执法部门推销 Rekognition 的做法。

  他说这项技术大体上是积极的,还用一个组织利用该软件帮助查找和营救人口贩运受害者的工作来强调了这一点。Jassy 补充说,如果 Amazon 发现客户违反了服务条款或侵犯了大家的宪法权利,将会停止与其合作。但是,当之前 Carlson 被问到 Amazon 是否会给自己所承担的防务工作划任何的红线或制订指导方针时,她的答案很明确:“我们不划任何的红线。”

  在 2019 年 2 月的一篇博客文章里,Amazon 表示,它将对人脸识别进行某种形式的立法以促进透明性和尊重公民权利等目标持开放态度。此举追随了微软在 2018 年迈出的脚步,不过后者比 Amazon 走得远多了,是直接呼吁要对该技术进行监管,而 Amazon 则一直为其使用进行辩护。“在我们提供 Amazon Rekognition 两年多的时间里,我们尚未收到一份关于执法滥用的报告,”该公司在博客文章中说。

  监视即服务

  专利申请无法说明公司是否真的会做。通常,他们尽量多地申请专利只是为了万一自身知识产权有朝一日能用到商业上。但尽管如此,专利仍然可以揭示特定公司对其未来几年竞争环境的看法。如果说 Amazon 的专利申请可以透露任何东西的话,那就是公司将监控能力的扩展视为其未来的重要组成部分。

  其中一些跟 Alexa 和语音识别有关。2017 年的一项申请描述了一种“语音嗅探器”算法,该算法可以从朋友间的对话中选出关键字为可定向广告服务。另一项申请提出根据咳嗽声,鼻塞声或语调来推断大家的健康或情绪状态——再次地,定向广告是潜在用例。

  Amazon 对于 Ring 的未来也有一些大想法。本月早些时候,Quartz 报道了 Amazon 拿到了可能涵括安装在汽车或婴儿监视器上的摄像头的设备商标,也就是所谓的“ 家庭与企业监控系统”。

  2015 年时该公司提交的另一项专利明确指出,在收购 Ring 之前很久 Amazon 就一直在考虑这些问题:专利描述了这样一个系统,客户雇用的快递无人机可以通过该系统飞到特定目标上方然后拍摄侦察视频。Amazon 将这一想法叫做“ 监视即服务”。”

  Amazon 会不会推出个有名字的产品或者显然颇为敌托邦的功能令人怀疑。但是 app 他们还有其他一些专利,2018 年 11 月公开的那批专利似乎是公司正在做的东西。专利描述了一个共享数据的摄像头网络如何可以与软件一起使用,从而自动识别面孔出现在可疑人员数据库里面的人。

  正如 CNN 首次报道的那样,这听起来很像是将人脸识别与 Ring 及 Neighbors 相结合的路线图。ACLU 律师称之为为“对未来的令人不安的愿景”,大家甚至无法在不被邻居追踪的情况下走上街。

  在一份发给 OneZero 的声明中,Ring 重申专利申请未必意味着就会去做产品,该公司表示:“我们一直在替街坊邻里进行创新,让我们的社区成为更好、更安全的居住地,而这项专利是增强服务的众多想法之一”。

  智能音箱、AI 语音助手、门铃摄像头以及在公共场所的人脸识别都有好处。这些为我们提供了便利,让我们安心,并有可能解决可能一些否则无法解决的犯罪问题。但是如果把这些凑到一起——由一家非常大的公司控制完所有的数据,并且还跟警方和情报机构密切合作——你可能就会拥有一个规模见所未见的监视设施。

  要是没人要阻止 Amazon 建立这个网络的话,问题就变成了我们是否可以信任它,相信 Amazon 在设计产品和保护所收集的大量数据时会负责任,能考虑周到、小心谨慎——以及我们是否可以信任所有使用 Amazon 技术的实体也能够负责任。

  头上的云

  跟最近几年为隐私过失道歉并承诺解决自身问题的 Facebook(且不管有没有用)或苹果公司(已将隐私作为明确的卖点)相比,Amazon 迄今为止对其庞大的监控能力所引发的伦理影响几乎没有显示出任何的关注。在微软拒绝向警方出售人脸识别技术,而 Google 根本没有这一销售业务的情况下,Amazon 却在向全国各地的警察部门进行兜售。

  如果对 Amazon 在开发监控技术时牵涉到的社会责任所持(或没有)立场仍有疑问的话,今年 5 月 CTO Werner Vogels 在一场官司活动中已经给出答案了。Vogels 在接受 BBC 采访时解释说,确保负责任地使用其人脸识别系统并不是 Amazon 要承担的角色。他说:“这不是我要做的决定,这项技术在很多地方都得到了很好的应用。哪一项技术在什么情况下可以用得由社会来决定。”

  这种声音被调到了最大。在 2018 年 10 月在旧金山举行的一次技术会议上,贝索斯将该公司签订的军事合同视为应尽的爱国义务的一部分。他把公司开发高科技监控工具与书的发明进行比较,说书曾被用于行善,也曾被用于作恶。

  据 CNN 报道,贝索斯说:“新技术裹足不前是我们最不想做的事情。” 有人可能希望 Amazon 最不想做的是开发会造成伤害的新技术,但显然它的高管更加关注的是不要妨碍创新。

  创新前进的步伐不可阻挡,自己创造的新技术不该由公司来引导怎么去用,数十年来这些一直体现在科技公司的策略中。它隐含在“快速行动,打破陈规”的思潮里,相信创新者请求宽恕要比请求允许更好。

  但随着这些创新的社会成本变得越来越沉重,像 Facebook,Google 和 Twitter 这些一度违法的平台——在自家员工的敦促下——开始接受至少在某种程度上,他们确实应该对自家产品对社会的影响负责任的看法,认为自己还是有一些能力可以去积极地塑造它的。

  不过似乎 Amazon 对他们的看法不敢苟同。

  一直在研究 Ring 和 Neighbors 如何影响少数族裔的研究员 Gilliard 表示,他怀疑 Amazon 对其产品影响这种无所谓(不管是有意还是无意)的态度可能难以为继。他告诉我说:“Amazon 只是还没有遭遇他们的 Cambridge Analytica 时刻”。

  如果遭遇了那一刻会是什么样的?Gilliard 犹豫了一下,然后勾勒出一个假设的场景。他指出,Amazon 的 Key 送货进家门服务可以让送货人利用智能锁打开客户车库把包裹放进去。(一开始是想开前门。)Gilliard 设想有位 Amazon 的快递员是有色人种,当他进入客户的车库时,客户可能会收到 Amazon 自己的产品(Ring 或者 Neighbors app)发来的可疑人告警。这种情况可能就会很难堪了。Gilliard 说说:“我非常非常希望不会发生这种事:有人可能会因此受到伤害。一名 Amazon 员工可能会受到伤害,被逮捕或者受到攻击。”

  在还没有出现霸占新闻头条的大规模惨败,或者出现 Amazon 员工和管理层良心发现的突然转折点之前,对该公司脖子伸得太长最好的防御手段也许是监管。5 月,旧金山成为美国第一个禁止人脸识别的大城市。该技术的捍卫者发现这一行动不成熟且过于激进。但 Amazon 的一位匿名员工警告说,如果我们不尽快采取行动的话,“所造成的伤害将很难恢复”。

  警察部门一旦对 Neighbors app 形成依赖让他们放弃使用同样难以想象,除非他们被迫这么做。虽然人们可能会希望 Amazon 决定不给门铃、汽车或无人机提供人脸识别能力,但没有任何迹象表明它的领导人认为这里面有问题。

  Amazon 之前曾克服了社会信任的障碍。1995 年它就推出了在线书店,那时候距离互联网历史上首次实现在线购物仅仅一年。Amazon 和 eBay 一起说服了公众在网上使用信用卡并不像怀疑者所想的那样疯狂。

  即便公司似乎已经朝着不合适的方向扩张,它仍然保持着对一度繁琐的流程进行简化的高度关注,无论是高效率低成本的物流,还是利用语音控制智能电子产品都是这样。从利用 Rekognition 自动执行将单个犯罪嫌疑人的面孔与数据库中的数十万个人脸照片进行比对的繁重任务,或者 Ring 如何在发生街区发生可疑事件时第一时间警告邻居和警察当中,你可以看到同样的冲动。但在我们将监控变得像 Amazon 一键式购买一般的便利和无处不在之前,先问问社会是否让某些事情保持繁琐一点会不会更好是值得的。

  原文链接:https://onezero.medium.com/amazon-is-watching-d51b20f1668a

  译者:boxi。

来自:
36氪

作者:Johnson
原创文章,版权所有,转载请保留原文链接。