AI 能做很多事情,也有很多事情做不好,这没什么。但如果有人宣称 AI 能做某件事,还拿它赚钱,结果它反而添了很多麻烦,那就是个大问题了。
沃尔玛目前就面临着这样的问题。
从2017年开始,一些沃尔玛门店员工隔三岔五就要和自助结账的顾客道歉:因为他们上的一套防盗 AI,总是错抓好人,公司却并没有暂停使用系统或者作出显著改变的打算。
《连线》杂志近日报道,一群阿肯色州沃尔玛总部的员工近日实在受不了公司的不管不顾,制作了一则影片,爆料给各家媒体,展示门店使用的防盗 AI 到底有多坑。
出于保护爆料者的目的,这段影片并没有公开。不过根据媒体描述,影片展示了沃尔玛采用的这套防盗 AI,不但经常放过漏网之鱼,还会因为顾客将个人财物放在结账台上这种再平常不过的事情,向店员发出盗窃警报。
影片其中一幕展示了防盗 AI 连续三次犯了错误:
试验者拿了两大罐花生酱,摞在一起,自助收银台只扫了一罐,试验者把两罐一起装到包里——AI 并没有报警;
试验者又拎着两桶牛奶,在条码扫描机前晃了一下,同样只扫到了一桶,试验者成功把两桶都装了起来,AI还是没有报警;
紧接着,试验者又把自己的手机放在机器上面,没有穿过扫描的区域,AI 立刻报了警……
其中,最后一类错误属于最令前述的沃尔玛爆料员工感到担忧。因为它会导致诚实的消费者无端遭受盗窃的指控。尽管门店员工往往可以很快消除误会,但这仍然是一种非常糟糕的用户体验。
一些接受了媒体采访的沃尔玛员工指出,这套防盗 AI 系统会“频繁地将无辜的行为误认为可能的盗窃行为。“这就是那种烦人的科技,一个假装在保护财产的假 AI。”一位员工表示。
过度营销的AI防盗
沃尔玛的防盗 AI 技术供应商是一家爱尔兰公司 Everseen。该公司开发的这套技术,能够在超市结账区根据每一台机器的扫描反馈,再结合计算机视觉等先进技术,实时识别潜在的盗窃行为。
具体来说,系统可以对摄像头拍到的画面进行分析,如果发现了问题,通知可以直接发送到员工的智能手表或手机等电子设备上,这样他们就可以立即响应,中止不法分子的行为,或者解决顾客在结账时遇到的困难。
而且,Everseen 还提供一个全面的数据监控面板,可以为超市管理者和企业主生成一个细化到门店、结账通道和员工个人的实时报告,借助数据和 AI 的力量,更精确地打击盗窃,降低零售业的损耗 (shrinkage, 即不明原因的库存减少)。
根据美国国家零售联合会的报告,盗窃行为在2018年美国零售业的损耗中占比高达35.7%,造成损失167亿美元,折合每分钟有近3万美元的商品被盗。
而沃尔玛是美国零售业的巨头,最大的连锁超市之一,每年盗窃导致的损耗就高达30亿美元,占了全行业将近五分之一。可想而知,沃尔玛打击盗窃的意愿有多强烈。
在一条宣传视频中,Everseen 宣称:“这是全世界第一个基于云端的智能POS 分析解决方案。我们的数码眼睛拥有完美的视力,而且它完全不需要休息或请假。”
该公司还宣称,系统能够识别出95%的结账区域异常行为。
但是一些沃尔玛员工认为,Everseen 实际上是个“瞎子”。因为 AI 总是漏掉真实的盗窃行为,他们给它起了个外号:NeverSeen…
这些员工对《连线》杂志表示,他们此前已经多次在内部指出过 Everseen 所谓的防盗 AI 的技术漏洞,却被公司管理人士否认。最后实在受不了了,他们才决定和媒体爆料。
员工意见得不到积极回应
这样的问题,在美国仍未摆脱新冠病毒侵扰的当下尤其令人担忧。因为门店员工必须在 AI 检测到异常行为时介入,也就不得不违反6英尺的社交距离政策。
根据美国媒体报道,由于疫情影响,沃尔玛已经有相当多的员工感染,至少20人死亡。Everseen 防盗 AI 的错误会继续造成员工突破安全距离,提高他们受感染的风险。
沃尔玛回应媒体称,经过对 Everseen 的大范围使用和检测,相信防盗 AI 达到了公司的标准,并表示已经对系统进行了全面的升级,警报数量总体上已经减少了。
至于爆料员工指出的误报问题,沃尔玛表示这并非普遍现象。Everseen 也表示,其警报系统在沃尔玛门店员工介入事件中只占不到一成,并不会在疫情期间提高员工的感染风险。
不过,爆料员工指出,他们对 Everseen 防盗 AI 系统的不满早在疫情到来之前就有了。他们发给《连线》杂志的邮件显示,他们在2017年和18年都在内部提出过 Everseen 系统的问题,但是一直得不到积极回应。
更令他们感到不解的是,明明有更靠谱的解决方案摆在公司面前,可公司就是不听。
具体来说,沃尔玛的收银台开发商 NCR 在2018年收购了另一家防盗 AI 公司 StopLift。这些爆料员工无法理解,为什么在整合难度更低的前提下,沃尔玛不愿意尝试该公司的解决方案。
并且,沃尔玛旗下的前沿技术研发团队“智能零售实验室” (IRL) 也开发了其自己的防盗解决方案。总部负责防盗技术的员工了解到的信息是,IRL 方案的准确率比 Everseen 的要好得多。但是根据《华尔街邮报》,该方案并没有被大面积铺开,截至今年2月只在大约50家门店进行了尝试。
关于 Everseen 的防盗 AI,沃尔玛方面总体上拒绝承认问题的严重性。因此,在未来的一段时间内,吃亏的将只会是增大感染风险的门店员工,以及被错怪的无辜消费者。
0 条评论
请「登录」后评论