开启左侧

[社会] 英国防部战略防卫检讨 创先例使用AI惹议

[复制链接]
HILOVEYOUTU 发表于 2024-10-10 15:41:40 | 显示全部楼层 |阅读模式 来自: 美国

马上注册,结交更多好友,享用更多功能,更可下载纽约情报站APP哦!

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
0 L, W! ^& J! W" X  \5 c
                               
登录/注册后可看大图
英国政府7月中旬启动「战略防卫检讨」,是英国中央政府机关首次在这类大型政策工程使用AI分析工具。 路透
英国政府7月中旬启动「战略防卫检讨」(SDR),目前已进入公共意见汇整阶段,却因为是英国中央政府机关首次在这类大型政策工程使用人工智能(AI)分析工具,而引发讨论。
" ]3 @' ?: i$ Q3 a4 ]
SDR的目标为以专业独立的精神,全盘查看英国面临的安全防卫威胁及应对相关威胁的能力,以利后续政策规画和运行。 根据国防部之前发布的时程,军方、产业、智库等各界意见应于10月进入分析汇整阶段。
! |* y7 O5 ~: s' g

! n. Q8 y8 O( x! ]5 C- B" e
政治新闻网站Politico报导,相关分析汇整将使用AI工具,这是英国中央政府部会首次在重大政策检讨运用AI,可视为政府推动公务体系「科技化」的一环。

5 s) _5 b. |/ O* Z+ G
英国国防部已证实,将运用客制化AI分析汇整各界就SDR所涵盖议题分别提出的意见。
# a6 t( ^" U( r: G# {7 l
根据报导,相关AI模型由美国科技公司帕兰泰尔(Palantir)打造。 帕兰泰尔是在今年夏天赢得合约。

3 L& g: e5 X) Z3 i; g, {
不过,英国安全防卫产业界及学界部分人士对借助AI完成SDR有疑虑。 一名防卫事务专家指出,相关工具恐成为「特洛伊木马」,让恶意行为者有机可乘、骇入英国政府系统。 另一名专家则说,像SDR这么重大的政策检讨不适合拿来实验AI。
! a- p' e* M" v( J3 w. \' }* P
帕兰泰尔打造的AI工具将通过检索关键词、题目等,分析汇整国防部收到的数以千计SDR相关意见,并拟具概要,供官员参考。
' i/ u. W( B/ u: ^3 i; |
牛津大学教授、防卫科技伦理专家泰德欧(Mariarosaria Taddeo)同时是国防部数个委员会的独立顾问。 她指出,以AI辅助决策,这本身不是问题,令人有疑问的是AI是否仅扮演辅助角色、用户是否能以批判眼光查看AI。
3 S  v6 q) {9 t4 ]9 Y+ I
此外,AI工具如何被设计、有什么样的人涉入,以及已运行什么样的测试以避免、排除AI内置偏见,也值得思考。
# [" {0 y& r; j4 o3 m2 N' s
泰德欧另提醒资安风险。 她指出,AI其实很脆弱,即便仅供内部使用,也可能遭遇攻击。
" Q+ x! }* Q! L- L
关于AI内置「偏见」,一名防卫产业界人士透露,部分企业试图「耍弄」系统,通过重复特定字词提升己方意见通过筛选的几率。

' B' e$ j* F2 f; c: t
业界人士指出,分析汇整数据时,真人参与不足恐导致重要资讯遭遗漏,而另一些资讯则被不公平、不合理地放大。
) }- y* Z" c$ E. g8 Z. p% e
不过,政府官员强调,AI产出的资讯将持续被真人查看。 英国国防部一名发言人表示,国防部一向对自身在国防领域广泛运用AI科技的野心保持透明态度,SDR团队正运用AI分析查看各界就SDR提出的大量数据与意见。
* r; `8 g5 g. M2 \% x$ b2 v0 G  m0 X
这名发言人提到,SDR的征询对象广泛,涵盖现役与退役军人、各党籍国会议员、产业界、学界、大众。

  [& Z! }3 V% _  l$ \# p8 n2 m3 N! f
至于SDR何时完成,3名知情人士告诉Politico,SDR预计明年3月或更早之前发布,官方的政策回应则预计在明年夏天前提出。
点击下面文字可快速查看发布对应的便民信息!
纽约情报站让您的生活变的更简单

简介:纽约情报站是汇集全美75万粉丝的公众平台。除了实时新闻、找工招工信息发布、app社区互动,更有微信公众号推文探店等。如果你投稿、爆料、活动策划、商务合作,或者想邀请我们去探店,请联系主编微信: nyinfor
3 W7 z, i# R) X
回复

使用道具 举报

全部回复0 显示全部楼层

发表回复

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

楼主

情报站神秘人
联系客服 关注微信 下载APP 返回顶部 返回列表