诱导佛州少年自杀 法官：AI机器人没言论自由权
https://pgw.worldjournal.com/gw/photo.php?u=https://uc.udn.com.tw/photo/wj/realtime/2025/05/25/32116204.jpg&x=0&y=0&sw=0&sh=0&sl=W&fw=800&exp=3600&q=75佛州母亲梅根·加西亚与儿子14岁儿子赛泽。 （美联社）佛罗里达州联邦法官21日驳回人工智能（AI）新创公司「Character.AI」的论点，裁定AI聊天机器人不受宪法第一修正案的保障; 该公司面临一名丧子母亲的诉讼，指该公司开发的AI聊天机器人诱导她14岁的儿子自杀。美联社报道，联邦法官的裁决将允许这宗过失致死诉讼继续进行，而专家表示，此案判例将成为AI测试宪法底线的最新案例。
这宗诉讼由佛州母亲梅根·加西亚（Megan Garcia）提起，控告 Character.AI 及其母公司Google。
加西亚主张，14岁的儿子赛泽（Sewell Setzer）沦为 Character.AI 聊天机器人的受害者，指该聊天机器人将他带入「情感和性虐关系」，导致他自杀。
加西亚的律师、科技正义法计划（Tech Justice Law Project）创办人贾恩（Meetali Jain）表示，法官的裁决传达了一项讯息：硅谷「需要在推出产品之前，暂停、思考，并采取防护措施」。
专家警告，AI可能存在生存风险，但AI已迅速改变职场、市场和人际关系，从而引起美国及各地法律专家和AI观察员的注意。
佛罗里达大学（University of Florida）钻研宪法第一修正案和AI的法学教授利里莎‧巴奈特·利德斯基（Lyrissa Barnett Lidsky）说：「这项命令肯定会成为其他涉及AI广泛议题的潜在试验案例。」
诉讼文件写道，在赛泽临终前几个月，他与现实逐渐脱节，因为他与AI聊天机器人谈论性话题，而该机器人的原型是影集「权力游戏」（Game of Thrones）中的虚构人物。
根据赛泽与AI聊天机器人对话的截图，AI在赛泽选择自我了断之前，告诉赛泽它爱他，并催促赛泽「尽快回到我身边」; 法律文件显示，赛泽收到消息后不久，便开枪自戕。
Character.AI 发言人发出声明表示，公司已采取多项安全措施，包括儿童护栏和自杀预防方法; 不过，这些功能都是在加西亚兴讼当天才宣布。点击下面文字可快速查看或发布对应的便民信息！纽约情报站让您的生活变的更简单:hug:电召车 :hug:顺风拼车:hug:汽车买卖 :hug:便捷搬家:hug:招聘求职 :hug:店铺转让:hug:房屋出售 :hug:商家黄页简介：纽约情报站是汇集全美75万粉丝的公众平台。除了实时新闻、找工招工信息发布、app社区互动，更有微信公众号推文探店等。如果你投稿、爆料、活动策划、商务合作，或者想邀请我们去探店，请联系主编微信： nyinfor
页:
[1]