导语:在接到一大堆认为新产品会对婴幼儿造成心理伤害的投诉后,财富五百强企业、美国儿童玩具巨头美泰儿被迫取消“AI保姆”项目的投产计划。
在接到一大堆认为新产品会对婴幼儿造成心理伤害的投诉后,财富五百强企业、美国儿童玩具巨头美泰儿被迫取消“AI保姆”项目的投产计划。
这个项目在今年1月宣布,设备名为Aristotle(亚里士多德),是一款和亚马逊Echo类似的高筒状智能扬声器。它提供的功能也类似,比如让用户在线购买尿布、寻找抚养孩子的技巧帮助等。
Aristotle比现有大多扬声器设备更进一步,它使用配对的蓝牙摄像头去监控幼儿并拥有直接互动的能力,官方声称可以“平息正在哭泣的宝宝,增强孩子们的礼貌训练,甚至帮孩子学习外语”。
美国非营利机构“无商业童年”(Commercial-Free Childhood)认为该产品“试图设计和出售商业化、带品牌忠诚度的聊天机器人,去取代家庭成员的关怀、判断和陪伴。”他们要求美泰儿公司放弃Aristotle项目,为此发起活动已获1500个签名。
“孩子不应该成为AI实验的豚鼠(试验品)。”运动口号如此表示。
一位儿童心理学家向华盛顿邮报说,她最关注的点是:“当孩子哭泣、学习或者玩耍时,某项技术将充当最热烈反馈的家庭成员角色。”
“无商业童年”发起的签名活动让两位美国政治家——民主党参议员Edward Markey和共和党代表Joe Barton也关注到了Aristotle。这两位在9月底发信向美泰儿询问,设备是否存在隐私问题。
“过去从未有过产品有能力去如此深入地研究一个孩子的生活。”信里问及设备能力相关的尖锐问题,包括:
是否使用面部识别技术? 是否记录和保存儿童的回应? 当孩子没有直接接触时,设备是否还会记录信息? 美泰儿是否会向第三方出售信息? 是否会删除客户的个人身份信息? ……
“我们欢迎创新和负责任的人工智能、语音识别使用行为,”该信写道,“但我们同时也相信,消费者理应知道该类产品的工作原理,以及美泰儿将采取何等措施来保护家庭隐私和用户的数据。”
美泰儿新任首席技术官Sven Gerjets在官方公告中回应,称“对Aristotle项目进行广泛审查后,认为它与美泰儿的新技术战略不完全一致。”Sven Gerjets是在Aristotle项目对外宣布6个月后,也就是今年7月加入美泰儿的。
公司声明还表示:“为向消费者提供完善的产品体验,我们决定Aristotle将不会投放市场。”
这不是美泰儿在网络上第一次碰到麻烦,在2015年,它还被发现旗下带WiFi功能的芭比娃娃玩具很容易被黑,攻击者可以访问玩具的系统信息、账号信息、存储的音频文件,并直接使用麦克风。