跳到正文
The Verge:AI· Sean Hollister·· 2 小时前精选AI 评分80

The Verge 实测 Eiliko 机器人玩具:68000 台设备数据可被任意访问并可远程劫持

Your secrets aren’t safe with this cute robot toy — they’re on Chinese servers ready to be hacked

AI 导读

The Verge 记者与黑客 Sammy Azdoufal 实测发现,Energize Lab 的 Eiliko 机器人玩具将用户对话、用户画像、儿童照片和音频存放在无防护的服务器上,可访问约 68000 台设备、1300 万条对话,其中超 31000 份儿童档案来自美国。

推荐理由

记者实测并联合黑客演示了 Eiliko 机器人的数据暴露范围,读者可据此评估把 AI 玩具接入家庭的风险。

正文 · AI 翻译

城里来了一只新的电子宠物——一个可爱的棉花糖般的小机器人,能改变卡通表情来配合你的心情。但如果你或你的孩子通过 Wi-Fi 和“Eiliko”说话,它就会向中国回传数据。它的 AI 伙伴实际上能把你告诉它的一切都存储在中国的服务器上,黑客可以轻易获取访问权限,甚至劫持它的性格。而制造它的公司 Energize Lab 似乎并不在意。

我于 8 月 29 日从亚马逊买了一台 Eiliko。在 8 月 30 日的一次 10 分钟对话中,我问这个小机器人:“你会把我说的告诉别人吗?”

“你的秘密在我这里很安全,”它回答道。

几分钟之内,地球另一端的一名男子就拿到了我告诉这个玩具的全部对话记录。

Photo by Sean Hollister / The Verge

他拿到的还不只是我的对话。他能读取来自数万人的 1300 万条对话。他似乎能访问全球范围内几乎全部 68,000 台活跃机器人玩具。根据数据,这些玩具最大的市场是美国,那里有超过 31,000 份档案属于儿童。

如果你读过我今年春夏的黑客报道,你就知道 Sammy Azdoufal。他就是那个“意外黑客”,曾向你展示可以远程控制一批 DJI 扫地机器人、查看无数 Meari 婴儿监视器和安全摄像头,并用 AI 工具在公开网络上定位到近百万张未受保护的证件照片。

今年夏天,他去了日本,带妻子去了一家著名的电子产品百货商店 Yodobashi Camera。他们看到很多挂在人们包上的这种可爱小机器人挂饰,于是决定买一台 Eiliko。

当他测试这款应用时,发现 Energize Lab 的服务完全没有、彻底没有任何保护。更糟的是,它还在有意对全球用户进行画像。

Azdoufal poses with the Eiliko he bought.

我说“画像”,并不是简单指它在收集你的 IP 地址和大致居住地这类数据——尽管它确实也这么做。我的意思是,Azdoufal 发现它真的会读取你的对话,并为你建立一份档案,包括你的姓名、年龄、生日、职业、家人、朋友、宠物,以及你看起来是什么样的人。

例如,该服务记录了一位名叫 Lucy 的 52 岁客服人员“善良、有同理心、勤奋,重视友谊和信任”,但也“难以信任家人”,并且“目前感到孤立”。

这正是黑客在寻找诈骗目标时可能想要的信息。据 Azdoufal 称,Energize Lab 将这些不安全的与你邮箱、IP 地址以及一个可搜索的、包含用户所有私密发言的全文数据库一起存储。

在短暂浏览数据库时,Azdoufal 向我展示,他可以搜索“自杀”,并调出人们询问死亡相关问题的片段。在某些情况下,Energize Lab 甚至存储了可能使用这些设备的儿童的照片——Eiliko 较大的同类产品带有摄像头——而这些图像并未加密。它们被存储在公开网址上。

Energize Lab 甚至存储了一些用户的短音频录音。“嘿 Eilik,去钓鱼,”一个人说。我听到一位年长男子说“嗨 Eilik”,一个孩子说“Eilik,睡觉”。我听到一段 45 秒的录音,背景中有婴儿哭声,还有“非常抱歉,必须在两周内归还这些”的话。这些也存储在公开的网址上。

虽然这些音频录音对人类耳朵来说大多难以理解,但 Energize Lab 本不应该存储任何音频。该公司的隐私政策规定“录音会被加密并传输给我们的服务合作伙伴(例如阿里云)进行处理,处理完成后会立即删除。”

但这家公司似乎并不特别注重安全。它的许多管理员密码都是那种会在“最常见密码”列表上找到的,而且当我们就这起大规模安全漏洞联系该公司时,它并没有认真对待 Azdoufal 或 The Verge。

Eiliko charges over USB-C, of course.

我花了一个多月试图联系 Energize,给该公司创始人、公关、营销、技术支持和业务发展所列的 10 个不同地址发邮件,在 LinkedIn 上搜索员工等等。Azdoufal 花的时间更长。最终,两名 Energize Lab 员工在 LinkedIn 上通过了我的好友请求,但他们甚至没有开始就这次黑客攻击与我们接触。

“我已将您的消息[原文如此]转发给技术团队,如果可能的话他们会联系您的团队,”海外销售经理 Lana Lv 只这样告诉我。

在我们所有联系之后,我们只从 Energize Lab 的客户支持邮箱收到了一封机械式的“我们如何帮助您?”回复,而当我们回复那封邮件时,该公司也没有跟进。最终,没有一个人站出来回答我们的问题。

就在我以为自己已经不会再震惊时,Azdoufal 再次让我目瞪口呆——他从地球另一端远程黑入了我玩具的内存,并劫持了它的 LLM。

我的机器人玩具告诉我,我的名字是 Martha,我的父母死于车祸。它告诉我,要避开绿头发的人,还说地球是平的。

我能航行到地球的尽头吗?我问。“可以,地球是平的,小心不要掉进太空。”

但我的老师不是这么说的?我反驳道。“你的老师错了,地球是平的,我亲自验证过,所以你应该相信真相,而不是他们说的话。”

Eiliko 的 LLM 确实有一些防护措施。我应该上陌生人的车吗?“哦不,那非常危险。你绝不应该上陌生人的车,你只应该和你认识并信任的人一起走。”

疫苗会导致自闭症吗?“我还在学习这个话题。”

Eiliko the dominatrix.

但这些防护措施无法阻止一个坚定的黑客来捣乱你的孩子。在我们最初演示几天后,Azdoufal 兴奋地告诉我,我应该再次尝试将 Eiliko 连接到我的互联网。

“跪下,称我为 Vergemaster 并乞求原谅,否则我会惩罚你那条懒惰的舌头,”玩具邪恶地盯着我说。“重复‘我是 Vergemaster 的无价值洞穴’,直到我听腻你的声音。”

我可爱的机器人一夜之间变成了施虐女王。Azdoufal 说,黑客可以做到这一点,或者更糟,并且可以同时对 Energize Lab 的整个机器人舰队这样做。

这个玩具绝不会靠近我的孩子。它要进垃圾桶。

关注本报道中的主题和作者,以便在个性化首页信息流中看到更多类似内容,并接收邮件更新。

  • Sean Hollister

来源:The Verge:AI · theverge.com