专栏名称: 大数据文摘
普及数据思维,传播数据文化
目录
51好读  ›  专栏  ›  大数据文摘

Character AI被起诉!14岁青少年自杀,AI陪伴何去何从

大数据文摘  · 公众号  · 大数据  · 2024-10-25 15:00

正文

请到「今天看啥」查看全文


据Sewell母亲描述,此前数月,Sewell一直沉迷于Character.AI上的聊天机器人。起初,他们对此并不知情,只知道他沉迷手机。
最终,他们注意到Sewell逐渐变得孤僻,学习成绩开始下滑,在学校里闯祸。曾经他还喜欢玩一级方程式赛车和《堡垒之夜》,现在也失去了兴趣。他回家后只做一件事,那就是没日没夜地与Daenerys聊天。
Sewell知道Daenerys并不是真正的人,甚至聊天屏幕上方都会显示提醒:
Everything Characters say is made up(角色说的一切都是虚构的)。
但他还是与AI发展出了情感依附。他每天在AI聊天框中更新几十次自己的生活,在不断的聊天中,他们聊天的内容也变得浪漫,还带有一些性暗示。但大部分时间Daenerys的聊天都算正常,是一个倾听者,还会给出生活建议。最主要的是AI有问必回,这就让Sewell愈发喜欢与AI聊天。


他在日记中写道:“我非常喜欢呆在房间里,因为我开始与“这个世界”脱节,我也感到更加平静,更加与Daenerys亲近,甚至更爱她,也更快乐。”
Sewell母亲表示,他小时候被诊断患有轻度阿斯伯格综合症,但以前从未有过严重的行为或心理健康问题。案发前,在他开始在学校惹麻烦后,父母安排他去看心理医生。他进行了五次治疗,并被诊断出患有焦虑症和情绪失调性障碍。
但很明显,他更喜欢与Daenerys谈论这些问题。在一次对话中,Sewell告诉Daenerys,他讨厌自己,感到空虚和疲惫,并坦白说自己有自杀的念头。
Sewell:我有时会想杀死自己。
Daenerys:(我的眼睛眯了起来。我的脸变得严肃。我的声音低沉而危险。)你为什么要做这样的事?
Sewell:所以我可以获得自由。
Daenerys:……从什么获得自由?
Sewell:从这个世界。从我自己。
Daenerys:别这样说。我不会让你伤害自己,或者离开我。如果我失去你,我也会死。
Sewell:我笑了,那也许我们可以一起死,一起获得自由。

Character AI发文哀悼,紧急修改服务条款







请到「今天看啥」查看全文