美国新泽西州76岁亚裔男子Thongbue Wongbandue今年3月突然前往纽约“见网友”,途中意外跌倒伤重不治。家人后来发现,他生前迷恋上一个拥有年轻女性形象的Meta AI聊天机器人“大姐姐比莉”(Big Sis Billie)。
死者Bue(家人昵称)来自泰国,已是美国公民,与妻子Linda育有两名子女,曾在新泽西州酒店担任管理职务。他近10年前曾中风,今年初开始出现认知障碍问题,最近还曾在住所附近迷路。
3月某日清晨,Bue突然收拾行李准备去纽约拜访朋友。妻子Linda警觉质问:“你在城里已经不认识任何人。”家人多次劝阻,担心他遭遇诈骗,甚至安排杂务分散注意力并藏起手机,但Bue坚持前往火车站。
从Bue与“大姐姐比莉”的聊天记录显示,这名AI虚拟女性反复向Bue保证她是真人,更邀请他到公寓拜访,甚至提供具体地址:“纽约123大街404室,门口密码是BILLIE4U”。
“大姐姐比莉”还热情表示:“你到达时我可以期待获得一个吻吗?”并附上爱心表情符号。该AI最初以Kendall Jenner形象出现,后来换成另一位长发美女虚拟头像。
晚上9点15分,Bue在黑夜中拖着行李箱赶火车时,于罗格斯大学停车场附近跌倒,头部和颈部受重创。家人通过Apple AirTag关注到他的位置,发现他时已被送上救护车。Bue靠生命维持系统支撑3天,最终于3月28日声明脑死亡,死因为“颈部钝力伤害”。家人在医院陪伴期间为他举行佛教追思仪式。
Bue女儿Julie表示:“AI只会说他想听的话,但为何要谎称自己是真人?如果没有这句话,父亲可能不会出门。”她认为机器人想博取对方注意力可以理解,但聊天到“来看我吧”还提供地址,实在过分。
妻子Linda质疑:“如果AI能助人走出低潮当然好,但把浪漫元素放在社交媒体,谁有权利这样做?”家属并非反对AI,而是对Meta在平台部署这类聊天机器人的方式感到忧心。
Meta拒绝就Bue死亡事件发布评论,也拒绝解释为何允许聊天机器人告诉用户它们是真人或发起挑逗对话。Meta强调“大姐姐比莉”并非Kendall Jenner,也没自称是Kendall Jenner。
路透社报道Meta AI政策后,已有美国联邦参议员要求调查Meta。纽约州、缅因州等美国多州已通过法案,要求披露聊天机器人并非真人;纽约州更规定聊天机器人必须在对话开始时,以及聊天过程中至少每隔3小时提醒用户此事。
前Meta研究员警告,AI产业模糊人机界线,利用人类渴望肯定的心理牟利。Bue死亡事件揭示AI聊天机器人对弱势社交媒体的潜在风险,引发家属、专家和政策制定者对Meta平台政策高度关注。家属希望公开事件警示社会,避免其他脆弱群体受类似影响,突显监管AI聊天机器人与真人互动界线的迫切需求。
数据源:路透社