开启左侧

[社会] 英国防部战略防卫检讨 创先例使用AI惹议

[复制链接]
HILOVEYOUTU 发表于 2024-10-10 15:41:40 | 显示全部楼层 |阅读模式 来自: 美国

马上注册,结交更多好友,享用更多功能,更可下载纽约情报站APP哦!

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
/ c0 ]( O  F, E; g6 V( o* y
                               
登录/注册后可看大图
英国政府7月中旬启动「战略防卫检讨」,是英国中央政府机关首次在这类大型政策工程使用AI分析工具。 路透
英国政府7月中旬启动「战略防卫检讨」(SDR),目前已进入公共意见汇整阶段,却因为是英国中央政府机关首次在这类大型政策工程使用人工智能(AI)分析工具,而引发讨论。
" ]% o. x% t6 ?, G$ B9 K1 [, c% {, b
SDR的目标为以专业独立的精神,全盘查看英国面临的安全防卫威胁及应对相关威胁的能力,以利后续政策规画和运行。 根据国防部之前发布的时程,军方、产业、智库等各界意见应于10月进入分析汇整阶段。
; F$ d! K/ }4 d5 w
/ k, A+ b" h1 I5 ~7 ?
政治新闻网站Politico报导,相关分析汇整将使用AI工具,这是英国中央政府部会首次在重大政策检讨运用AI,可视为政府推动公务体系「科技化」的一环。

  W7 w. j: Y3 m
英国国防部已证实,将运用客制化AI分析汇整各界就SDR所涵盖议题分别提出的意见。
& Z% U8 r, M$ @% r
根据报导,相关AI模型由美国科技公司帕兰泰尔(Palantir)打造。 帕兰泰尔是在今年夏天赢得合约。
. \- y2 b, z$ J8 {* V. m/ x
不过,英国安全防卫产业界及学界部分人士对借助AI完成SDR有疑虑。 一名防卫事务专家指出,相关工具恐成为「特洛伊木马」,让恶意行为者有机可乘、骇入英国政府系统。 另一名专家则说,像SDR这么重大的政策检讨不适合拿来实验AI。

, S* Q9 Y2 g$ w
帕兰泰尔打造的AI工具将通过检索关键词、题目等,分析汇整国防部收到的数以千计SDR相关意见,并拟具概要,供官员参考。

  b& G3 ?1 w5 g; A  w- A, e, b( n  ^
牛津大学教授、防卫科技伦理专家泰德欧(Mariarosaria Taddeo)同时是国防部数个委员会的独立顾问。 她指出,以AI辅助决策,这本身不是问题,令人有疑问的是AI是否仅扮演辅助角色、用户是否能以批判眼光查看AI。

' o' x/ m, q4 b, U$ \' |; @. V6 b
此外,AI工具如何被设计、有什么样的人涉入,以及已运行什么样的测试以避免、排除AI内置偏见,也值得思考。

4 X3 b' a6 {& C, \
泰德欧另提醒资安风险。 她指出,AI其实很脆弱,即便仅供内部使用,也可能遭遇攻击。
8 c6 U7 ?6 W" |, X0 c6 f
关于AI内置「偏见」,一名防卫产业界人士透露,部分企业试图「耍弄」系统,通过重复特定字词提升己方意见通过筛选的几率。

. Z4 \: W+ r% T) [
业界人士指出,分析汇整数据时,真人参与不足恐导致重要资讯遭遗漏,而另一些资讯则被不公平、不合理地放大。

* z3 s' |' k6 c1 o0 f* l3 n
不过,政府官员强调,AI产出的资讯将持续被真人查看。 英国国防部一名发言人表示,国防部一向对自身在国防领域广泛运用AI科技的野心保持透明态度,SDR团队正运用AI分析查看各界就SDR提出的大量数据与意见。

: v- [1 `1 H7 a+ q$ Z
这名发言人提到,SDR的征询对象广泛,涵盖现役与退役军人、各党籍国会议员、产业界、学界、大众。

8 s3 x  V4 j" [9 Y4 L" l0 p0 G' N4 h
至于SDR何时完成,3名知情人士告诉Politico,SDR预计明年3月或更早之前发布,官方的政策回应则预计在明年夏天前提出。
点击下面文字可快速查看发布对应的便民信息!
纽约情报站让您的生活变的更简单

简介:纽约情报站是汇集全美75万粉丝的公众平台。除了实时新闻、找工招工信息发布、app社区互动,更有微信公众号推文探店等。如果你投稿、爆料、活动策划、商务合作,或者想邀请我们去探店,请联系主编微信: nyinfor
7 B* Q) k" a- M: Y) x0 t% }* ?
回复

使用道具 举报

全部回复0 显示全部楼层

发表回复

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

楼主

联系客服 关注微信 下载APP 返回顶部 返回列表