开启左侧

[社会] ChatGPT语音太逼真 OpenAI开始担心用户会「感情依赖」

[复制链接]
HILOVEYOUTU 发表于 2024-8-11 16:20:46 | 显示全部楼层 |阅读模式 来自: 美国

马上注册,结交更多好友,享用更多功能,更可下载纽约情报站APP哦!

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
: D' `% ]; P8 `, B" |
                               
登录/注册后可看大图
聊天机器人ChatGPT的新版语音模式模拟人声过于逼真,OpenAI担心会让用户出现情感依赖。 (美联社)
聊天机器人ChatGPT问世以来,席卷全球,而且新版语音模式模拟人声过于逼真,可能让用户出现依赖人工智能(AI)工具的疑虑。
$ z+ Y) y8 A1 l9 w
有线电视新闻网(CNN)报导,AI科技公司OpenAI推出新版ChatGPT,采用高阶语音模式,声音听起来非常逼真,还可以发出笑声或「嗯」等反应字眼,而且会即时回应、适时打断对话,甚至根据用户说话语气判读情绪,犹如与真人般对话。
1 h# r" V7 p# N" z

! r- m4 ]: r( e
据报导,OpenAI今年稍早举行的发布会上宣布ChatGPT升级功能,勾起外界对2013年电影「云端情人」(Her)的记忆,剧中出现的AI女助理,由于过于逼真,导致男主角不知不觉坠入爱河,结果当这位AI女助理坦承与上百位用户谈恋爱,让男主角心碎不已。

' d  o! b  @+ U0 k4 z. W
随后8日OpenAI公布一份报告,发现用户与ChatGPT近乎真人般的语音模式互动,很容易会陷入以假为真的陷阱:「用户可能会变成与AI建立社交关系,降低他们与他人互动的需求,虽然可能有利于改善社交恐惧症,却也可能影响正常人际关系的发展。」

9 K7 `4 Z; D* {7 Z8 n( u( X3 _0 t. d, j
ChatGPT与其他新科技一样,总是在上市后,才发现许多意料外的后遗症,如果用户过度沉迷与AI机器人聊天,真的可能会误以为与AI建立浪漫关系。
: t2 ?+ g0 n* V
亚利桑纳州立大学(Arizona State University)人际关系教授沙拉比(Liesel Sharabi)接受CNN采访时表示:「企业身肩重大责任,必须彻底负起道德与负责来处理这类问题,尤其目前仍在实验阶段。」 并强调:「我确实担心用户可能与无法永久存在且不断进步的AI技术,建立起某种深厚的联结。」

+ x+ ]3 k) A' c, M2 s0 [
OpenAI表示,随着时间拉长,用户与ChatGPT语音模式互动也可能影响社交正常行为,报告指出:「我们设计的模式是恭顺配合,允许用户随时打断讲话或抢走说话权,虽然符合AI模式,却违反人类社交习惯。」 并透露今后将全致力发展「安全」的AI技术,继续研究用户对AI工具的「情感依赖」。
' F( I$ l! w2 G9 t( J$ e8 q$ R( Z3 e
该报告还强调,AI工具宣称可以颠覆人类生活、工作、社交与搜索方式,但有鉴于AI也会犯错,若用户过度信任AI,取得任何讯息也全盘接受的话,很容易跟着出错而不自知。
点击下面文字可快速查看发布对应的便民信息!
纽约情报站让您的生活变的更简单

简介:纽约情报站是汇集全美75万粉丝的公众平台。除了实时新闻、找工招工信息发布、app社区互动,更有微信公众号推文探店等。如果你投稿、爆料、活动策划、商务合作,或者想邀请我们去探店,请联系主编微信: nyinfor
" ~# [/ L/ o" B2 n1 u# i* P
回复

使用道具 举报

全部回复1 显示全部楼层
Kenny 发表于 2024-8-12 21:44:09 来自手机 | 显示全部楼层 来自: 美国
刚才纯纯粹粹的
回复 支持 反对

使用道具 举报

发表回复

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

楼主

联系客服 关注微信 下载APP 返回顶部 返回列表