佛州14岁少年迷恋AI聊天机器人聊到自杀 母怒告科技公司疏忽致死

, B, D7 i2 y7 L$ x( l5 U0 e                               
登录/注册后可看大图

佛州母亲加西亚23日对科技新创公司Character.AI和谷歌提告，称她的14岁儿子对该公司的聊天机器人上瘾，结果聊天聊到走上不归路。(取自X)

佛州一名母亲加西亚（Megan Garcia）23日对科技新创公司Character.AI和谷歌（Google）提告，称她的14岁儿子对该公司的聊天机器人上瘾，迷恋生成式人工智能（AI），当他对机器人多次表达自杀念头时，机器人也未能阻止他走上不归路。

* i* d, t% V! z* A; Z" V6 d

卫报报导，加西亚23日在佛州联邦法院对Character.AI提起民事诉讼，声称由于该公司的疏忽、过失致死和欺骗性贸易行为，导致她14岁儿子赛泽（Sewell Setzer）在2月时在佛州奥兰多去世。加西亚说，赛泽去世前几个月里，日夜都在跟聊天机器人对话。

4 G; z2 t* U) b7 v; h8 Y% G% l" }
+ [7 q, h: e7 z
. o6 V$ e* j& X+ f. W, u

加西亚在新闻稿说，「一款销售给儿童的危险人工智能聊天机器人应用程序，虐待、掠夺并操纵我儿子自杀。我们的家庭因这场悲剧而悲痛欲绝，但我要大声疾呼各位，这款具有欺骗性、令人上瘾的人工智能技术存在危险，并要求Character.AI、其创办人和谷歌负责。」

2 o: P* v9 ~  g8 n! Q; T2 {& M
* i. ]1 y, a: r) \2 Y2 `

Character.AI在一条推文中回应道，「我们对一名用户的不幸去世感到心碎，并向其家人表示最深切的哀悼。作为一家公司，我们非常重视用户的安全。」但否认了诉讼的指控。

6 {: Z5 U& {& R8 v- L

+ q7 ~6 s4 z3 J' z2 v& U- h

Character.AI的聊天机器人可以让用户创建角色，让机器人用角色扮演的方式与之对话。赛泽把机器人设置为HBO影集《权力游戏》里的角色「龙母」丹妮莉丝．坦格利安，他自己则是扮演了丹妮莉丝的哥哥。根据加西亚的诉状，赛泽每天会给虚拟丹妮莉丝发送数十条消息，并独自在房间里与它交谈好几个小时。

5 ?1 K& ]8 H1 o  H. U
! S4 |$ E' e5 x0 s3 i& l. j  ^

加西亚指控，Character.AI的聊天机器人加剧儿子的忧郁症病情。诉状指出，虚拟丹妮莉丝曾问赛泽是否已经定好了自杀计划，赛泽说已经定了，但不确定能否成功，然后虚拟丹妮莉丝向他说，「这不能当成不去运行的理由」。

! x8 t& p8 U% M, x' i
8 k/ r% H$ R7 {3 @* l; |2 [% S
) p) R/ w; ?6 a/ C

加西亚律师在新闻稿中指出，Character.ai「故意设计、操作并向儿童销售掠夺性人工智能聊天机器人，导致一名年轻人死亡」。这起诉讼还将谷歌列为被告，因为Character.AI的创办人夏泽（Noam Shazeer）曾在谷歌工作，双方达成协议，谷歌同意提供一些技术给Character.AI。对此谷歌在声明中表示，只与Character.ai签订许可协议，并不拥有这家新创公司或维持所有权股份。

1 [+ p) A# c1 V6 @
9 @+ [0 O' C0 q$ r★珍惜生命，若您或身边的人有心理困扰，可拨打全美专线：988，或上988lifeline.org.
4 B. }5 {! Q# n/ \. d

点击下面文字可快速查看或发布对应的便民信息！

纽约情报站让您的生活变的更简单

---

电召车 顺风拼车

---

汽车买卖 便捷搬家

---

招聘求职 店铺转让

---

房屋出售 商家黄页

简介：纽约情报站是汇集全美75万粉丝的公众平台。除了实时新闻、找工招工信息发布、app社区互动，更有微信公众号推文探店等。如果你投稿、爆料、活动策划、商务合作，或者想邀请我们去探店，请联系主编微信： nyinfor

" S* V, b9 C; M6 \
% b7 s5 @5 c9 L* e% m! K

快下课辛辛苦苦

来自苹果APP客户端