开启左侧

[社会] 英国防部战略防卫检讨 创先例使用AI惹议

[复制链接]
HILOVEYOUTU 发表于 2024-10-10 15:41:40 | 显示全部楼层 |阅读模式 来自: 美国

马上注册,结交更多好友,享用更多功能,更可下载纽约情报站APP哦!

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
4 z) ]" Y, E+ c3 p
                               
登录/注册后可看大图
英国政府7月中旬启动「战略防卫检讨」,是英国中央政府机关首次在这类大型政策工程使用AI分析工具。 路透
英国政府7月中旬启动「战略防卫检讨」(SDR),目前已进入公共意见汇整阶段,却因为是英国中央政府机关首次在这类大型政策工程使用人工智能(AI)分析工具,而引发讨论。

7 T, X* s1 e" @) s$ u# G! G
SDR的目标为以专业独立的精神,全盘查看英国面临的安全防卫威胁及应对相关威胁的能力,以利后续政策规画和运行。 根据国防部之前发布的时程,军方、产业、智库等各界意见应于10月进入分析汇整阶段。
+ ~/ ]' i& s5 K9 x
/ t# b% F. I, }# W/ P2 O
政治新闻网站Politico报导,相关分析汇整将使用AI工具,这是英国中央政府部会首次在重大政策检讨运用AI,可视为政府推动公务体系「科技化」的一环。

: _6 B2 T! ~4 b4 W8 E4 w
英国国防部已证实,将运用客制化AI分析汇整各界就SDR所涵盖议题分别提出的意见。

5 ~4 l! M. L) [" I6 m- B6 x
根据报导,相关AI模型由美国科技公司帕兰泰尔(Palantir)打造。 帕兰泰尔是在今年夏天赢得合约。
# V% K4 K/ d. }
不过,英国安全防卫产业界及学界部分人士对借助AI完成SDR有疑虑。 一名防卫事务专家指出,相关工具恐成为「特洛伊木马」,让恶意行为者有机可乘、骇入英国政府系统。 另一名专家则说,像SDR这么重大的政策检讨不适合拿来实验AI。
1 a% O4 h2 K: Z( O, \9 m' z
帕兰泰尔打造的AI工具将通过检索关键词、题目等,分析汇整国防部收到的数以千计SDR相关意见,并拟具概要,供官员参考。

1 ~. o; y: \" p6 n
牛津大学教授、防卫科技伦理专家泰德欧(Mariarosaria Taddeo)同时是国防部数个委员会的独立顾问。 她指出,以AI辅助决策,这本身不是问题,令人有疑问的是AI是否仅扮演辅助角色、用户是否能以批判眼光查看AI。

, j$ E( d" f( H0 w& ]4 _' T1 Y
此外,AI工具如何被设计、有什么样的人涉入,以及已运行什么样的测试以避免、排除AI内置偏见,也值得思考。

% X/ }! D# j: N9 E- w% J
泰德欧另提醒资安风险。 她指出,AI其实很脆弱,即便仅供内部使用,也可能遭遇攻击。
6 {& Q5 f7 f) W) Q( s9 f: r
关于AI内置「偏见」,一名防卫产业界人士透露,部分企业试图「耍弄」系统,通过重复特定字词提升己方意见通过筛选的几率。

8 L9 s( L6 P2 S3 v# J
业界人士指出,分析汇整数据时,真人参与不足恐导致重要资讯遭遗漏,而另一些资讯则被不公平、不合理地放大。

8 ~4 |; @9 m- N& l5 H* v
不过,政府官员强调,AI产出的资讯将持续被真人查看。 英国国防部一名发言人表示,国防部一向对自身在国防领域广泛运用AI科技的野心保持透明态度,SDR团队正运用AI分析查看各界就SDR提出的大量数据与意见。

5 J8 K3 U; [0 ~4 ~" G
这名发言人提到,SDR的征询对象广泛,涵盖现役与退役军人、各党籍国会议员、产业界、学界、大众。

8 q7 z* i2 ]8 @3 C
至于SDR何时完成,3名知情人士告诉Politico,SDR预计明年3月或更早之前发布,官方的政策回应则预计在明年夏天前提出。
点击下面文字可快速查看发布对应的便民信息!
纽约情报站让您的生活变的更简单

简介:纽约情报站是汇集全美75万粉丝的公众平台。除了实时新闻、找工招工信息发布、app社区互动,更有微信公众号推文探店等。如果你投稿、爆料、活动策划、商务合作,或者想邀请我们去探店,请联系主编微信: nyinfor

0 g4 f( K: O# K
回复

使用道具 举报

全部回复0 显示全部楼层

发表回复

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

楼主

联系客服 关注微信 下载APP 返回顶部 返回列表