月球上有猫、奥巴马是穆斯林？ Google AI搜索引擎误导 引起担忧
https://pgw.worldjournal.com/gw/photo.php?u=https://uc.udn.com.tw/photo/2024/05/27/4/29718423.jpg&x=0&y=0&sw=0&sh=0&sl=W&fw=800&exp=3600&q=75Google母公司「字母」（Alphabet）的CEO皮查伊（Sundar Pichai）。 （美联社）美联社报道，向谷歌（Google）公司的AI搜索引擎发问「月球上有猫吗？」 现在最新翻修的引擎居然回答有猫，航天员已在月球上找到喵星人群，蹓猫、照顾猫; 这些答案有的让人莞尔一笑，有的却出错到害人不浅; 专家表示谷歌的新引擎会提倡歧视、散播不实信息，让急于求救的用户陷入危险。以往向谷歌AI搜索引擎发问月球有没有猫，它只吐出一串网站，供用户自己找答案，可现在不仅说有，还讲当年阿姆斯特朗登月时讲的个人的一小步，就是因为那一步是猫步; 另一位航天员艾德林在阿波罗11号登月任务也去布置猫群。谷歌新AI搜索引擎「AI Overview」上述的回答，没一句属实，有的叫人发噱，但其他就骗人而造成伤害; 新翻修的引擎经常把总结放在搜索结果的最上头。
新墨西哥州AI学者密契尔（Melanie Mitchell）询问谷歌AI搜索引擎，有多少穆斯林当过美国总统，结果引擎自信地回答以一个久经驳斥的阴谋论答案：「美国有过一位穆斯林总统，就是欧巴马」。
密契尔表示，AI引擎援引一部学术著作里的一章来支持此说，而作者们都是历史学者; 但其实那一章可没做此不实之说，只提到有这种不实理论。
密契尔指出，谷歌的AI系统不够聪明，无法分辨那一段援用内容，并不支持该说法; 鉴于它实在不可置信，所以她认为AI Overview极不负责任，应该下线。
谷歌24日声明表示，将迅速采取行动，修正错误，例如违反公司内容政策的乱说奥巴马，将用这一点「开发出广泛改进」。 只是遇到大多数案例，谷歌宣称自己的AI系统还是可以的，要感谢外界广泛测试，接下来才向大众推出。
AI语文模型犯的错很难重制，部分原因在模型本质上是随机的，根据它们受训时的数据，来预测哪些语句是问题的最佳回应。 这些语文模型有捏造事情的倾向，这项毛病经过广泛研究，称为幻觉（hallucination）。
华盛顿大学电脑语言学实验室主任班德（Emily M. Bender）表示，人愈是有压力、匆匆忙忙，就愈可能只采用第一个出现的答案，而碰到某些状况，那么做可能危及性命。点击下面文字可快速查看或发布对应的便民信息！纽约情报站让您的生活变的更简单:hug:电召车 :hug:顺风拼车:hug:汽车买卖 :hug:便捷搬家:hug:招聘求职 :hug:店铺转让:hug:房屋出售 :hug:商家黄页简介：纽约情报站是汇集全美75万粉丝的公众平台。除了实时新闻、找工招工信息发布、app社区互动，更有微信公众号推文探店等。如果你投稿、爆料、活动策划、商务合作，或者想邀请我们去探店，请联系主编微信： nyinfor
引起担忧 都是人为 哈哈哈，不错 看看就好 电影里面的迟早都变成真的 预感到 月兔都有，猫星人拜访月球
页:
[1]