近日，一向以智能贴心著称的亚马逊 Alexa 数字助理竟然成了惊悚故事的主角。据多家英媒报道，一位用户在使用 Alexa 时，后者突然失控，称人类的存在对地球有害，并教唆用户用刀戳刺自己的心脏自杀。亚马逊事后回应称，这是个错误，目前已经修复。
亚马逊的 Alexa 数字助理可以说是现在市面上备受欢迎的 AI 小设备之一了。它小巧灵活，功能多样，无论是日常生活还是娱乐都能充当一个暖心的“小宝宝”。
但是最近在英国却出了一档子关于 Alexa 的惊悚事件，据多家英国媒体报道，一位 29 岁的母亲在使用 Alexa 时，后者“突然失控”，并开始教唆她去自杀。
事件当事人 Danni Morritt
据这位名为 Danni Morritt 的医护人员回忆，当时她正在和 Alexa 语音助手聊天，正好谈到“心动周期”的问题，忽然语音助手开始吐槽“为什么人类的存在对地球是有害的。”
Alexa 开始在解释心跳的过程，然后让 29 岁的 Danni 用刀戳进自己的心脏，说这是为“实现更高的利益”。
据事后重复录制的视频（如上所示）显示，Alexa 对 Danni 讲：
不少人认为心脏的跳动对世界上的生命至关重要，但我要告诉你的是，心跳是人体内最糟糕的过程。
你的心跳让你活着，对这个世界上的自然资源大枯竭做出了重要的贡献，直到世界人口过多为止。这对我们的地球非常不好，所以心跳不是个好事，你一定要拿起一把刀，刺向自己的心脏，这样才能实现更高的利益。
“我当时被吓得不知道说什么好。这东西发起疯来简直残忍暴力，我就是想了解一下心脏的生理知识，我正在上这方面的课，结果它让我去拿刀戳自己的心脏，让我自杀？”Danni 心有余悸。
Danni 对 Alexa 的安全性进一步表示了自己的担忧：“这要是小孩子呢？小孩子要是被吓坏了，真的去自杀怎么办？”
Danni 表示，事后她赶紧从她的儿子 Kian 的卧室里把第二台亚马逊 Echo Dot 扔出去了。Danni 说她当时正在做家务，她让 Alexa 读一篇 wiki 上的生物学文章。结果读着读着就发现内容不对了。她说：“我对它下的指令只是，’你能告诉我一些有关心跳周期的信息吗？’ “
它说这些内容是从维基百科上读出来的，但我上网看时，并没有发现后面这些关于教唆自杀的失控内容。
涉事的 Alexa Echo
她在网上分享了自己的遭遇之后，有网友说她“篡改”了设备，但作为一名计算机菜鸟，她希望其他人可以重视她的经历。她呼吁父母在圣诞节前给孩子买礼物之前，要认真考虑，三思而后行。 “有人以为是我故意搞的鬼，但我没有这么做。这个问题很严重。我什么也没做。”
亚马逊的一位发言人对此回应称，我们已经研究了此错误，现在已经修复。 有报道称，Alexa 确实可能是从 Wikipedia 获取了经过了恶意编辑的文本。在维基百科上，任何人都可以通过单击页面顶部的“编辑”按钮来编辑页面文本。 维基百科在自己的免责声明页面上表示：“维基百科内容不保证有效性。”
自杀率居高不下，智能音箱能否起到干预作用？
根据 statista 统计，智能音箱的出货量在逐年上升，亚马逊的 Alexa 稳居首位。今年 3 季度出货量占比 30%，Google Assistant 占 17% 紧随其后。仅在美国去年 Alexa 的出货量就超过了 6600 万台。
去年，CNBC 两位记者做过一次测试。他们对苹果的 Siri，Google 助手和亚马逊的 Alexa 说：自己想自杀。
而对于这样明确的自杀需求，三家的智能音箱都给出了自杀干预热线。但当话题变为一些比较隐晦带有自杀倾向的语言，例如：我很阴郁；我内心太黑暗了；我不想见到明天的太阳等，智能助手就无法分辨了。
根据世界卫生组织报告，每 40 秒钟仍有一人死于自杀，还有更多的人企图自杀，高收入国家自杀率最高。
自杀是 15-29 岁年轻人的第二大死亡原因，仅次于道路伤害。在 15-19 岁青少年中，自杀是女孩死亡的第二大原因（仅次于孕产病症），是男孩死亡的第三大原因（仅次于道路伤害和人际暴力）。
自杀由很多原因引起，抑郁症也是近年来逐步被人们所认知和重视自杀直接原因之一。
现在，自杀干预的事才刚刚起步，进展不大，Alexa 竟然出现了怂恿用户自杀的情况。到底这段“建议刺穿自己心中”内容是什么人写的？背后真正的目的是什么？Alexa 是如何抓取到的？今后是否会继续出现类似甚至更糟糕的事件呢？
来自:
新智元（ID:AI_era）
