北京时间2021年12月30日消息
据报道,美国发生一件AI让人恐惧的事,亚马逊Alexa居然让10岁女孩用硬币触碰带电的充电器。当初,亚马逊在开发虚拟助手Alexa时可是强调安全的,不希望它威胁人的生命安全。
这位女孩名叫克里斯汀·林达尔(Kristin Livdahl),她发布消息谈及这件事,还提供了截图。林达尔说她还做了相似的身体挑战,比如躺在地上,用一支脚踩着另一只脚的鞋子在地上打滚。女孩问Alexa有什么挑战可以做,Alexa告诉女孩:“将手机充电器插入插座,插到一半,然后将硬币触碰露出的部分。”
对于此事,亚马逊新闻发言人告诉媒体漏洞已经修复,发言人称:“Alexa的设计初衷是为客户提供精准、相关连、实用的信息。当我们意识到出现错误之后马上就修复了。”
AI专家格雷·马库斯(Gary Marcus)认为这件事并不简单,它说明AI系统缺乏常识。马库斯说:“现在的AI还远不能理解日常生理心理世界。我们现在所拥有的只是一种近似智慧,它不是真正的智慧,我们不能真正相信它们。技术还需要在最根本的层面取得进步才行,不能只是堆积数据,然后我们才能开发出值得信赖的AI。”
评论:
从这里我们可以推想,这个AI的主要能力积累大量相关联的数据,根据语义分析,给出它认为最匹配的数据。这个确实是计算机系统所擅长的。但是,它怎么知道是否危险,会可能造成什么严重后果,是否合适场合、合适对象呢?估计相当时间内,AI是无法达到这个高度的。AI只是个辅助工具。