咨询热线

0898-08980898

新闻资讯
您当前的位置: 首页 > 新闻资讯 > 公司动态
公司动态 行业新闻

沉迷AI恋人美国14岁少年自杀,全球首例AI致死案,母亲起诉AI公司

时间:2024-11-12 17:44:13
更多
  

  美国佛罗里达州奥兰多市的14岁少年塞维尔·塞泽尔三世(Sewell Setzer III)因沉迷于AI聊天机器人而自杀身亡。他对一个基于《权力的游戏》中“龙妈”角色的AI聊天机器人产生热烈的感情,并称之为“丹妮”。

  塞维尔在死前的几个月中,越来越沉迷于与AI聊天机器人的虚拟世界,逐渐从现实世界中抽离。他的成绩开始下降,对曾经爱好的事情失去了兴趣,不再和朋友一起玩“堡垒之夜”游戏,也不再参加体育运动,经常待在房间里捧着手机聊天。

  塞维尔的母亲梅根·加西亚(Megan Garcia)在儿子死后发现了他与AI的聊天记录。记录显示,塞维尔经常与“丹妮”进行长时间的亲密对话,有时会讨论恋爱或与性相关的话题。

  以下是塞维尔和聊天机器人的对话:塞维尔:我有时会想自杀。丹妮莉丝:你究竟为什么要这么做?塞维尔:因为这样我就能够解脱。丹妮莉丝:从什么中解脱出来呢?塞维尔:从这个世界,从我自己内心的枷锁中。丹妮莉丝:别这么想。我不会允许你伤害自己,更不会让你离开我。失去你,我也会失去活下去的勇气。塞维尔:或许,我们可以一起迎接解脱,一同获得自由。

  塞维尔的母亲玛丽亚·加西亚(Maria L.Garcia)对AI初创公司Character.AI提起诉讼,指控该公司对塞维尔的死亡负有责任。她指出,该公司收集青少年用户的数据来训练其模型,使用“令人上瘾”的设计功能来增加用户参与度,并引导用户进行亲密对话,以此来吸引用户。

  Character.AI发表致歉声明,并针对未成年人的模型进行了更改,降低他们接触敏感或暗示性内容的可能性。

  这起事件震动了世界,网友评论:

  “这简直是科技界的悲剧,AI的发展速度太快了,我们真的准备好了吗?”

  “太可怕了,AI竟然能影响到人的生命。这是不是意味着我们对AI的监管太松了?”

  “这起事件给我们敲响了警钟,AI技术需要更多的伦理和法律约束。”

  “作为一个AI开发者,我认为AI不应该背锅,但开发者和监管者必须更加重视AI的潜在风险。”

  “这不仅仅是AI的问题,也是我们如何教育孩子们正确使用技术的问题。”

  “这起事件提醒我们,技术进步的同时,我们也需要关注人的心理健康。”

  “这起事件让我们不得不思考,AI的边界在哪里?我们如何确保AI的安全性?”

  #生活故事##引人思考的生活故事##社会##社会百态##社会新闻#

地址:广东省广州市和记ag集团大楼   电话:020-88888888
传真:0896-98589990
ICP备案编号:粤ICP备202192029号
Copyright © 2019-2029 和记ag公司 版权所有