0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

推动人工智能安全发展

AI智胜未来 来源:中国信息安全 2024-01-04 16:32 次阅读

人工智能是引领新一轮科技革命和产业变革的重要驱动力。2023年中央经济工作会议提出,要大力推进新型工业化,发展数字经济,加快推动人工智能发展。“十四五”规划和2035年远景目标纲要强调,加强网络安全关键威廉希尔官方网站 研发,加快人工智能安全威廉希尔官方网站 创新,提升网络安全产业综合竞争力。

夯实人工智能发展的安全基础

党的二十大报告提出,推进国家安全体系和能力现代化,坚决维护国家安全和社会稳定。人工智能是引领新一轮科技革命和产业变革的战略性威廉希尔官方网站 ,同时也具有明显的“双刃剑”特征。一方面,人工智能赋能网络攻防、开源情报等国家安全相关领域,是筑牢国家安全屏障的有力抓手;另一方面,人工智能因其脆弱性、不稳定性、不可解释性等特点,在与经济社会深度融合应用的过程中,极易引发国家、社会、企业和个人等层面的安全风险。在席卷全球的人工智能浪潮中,如何应对人工智能风险、把握发展战略主动、有效维护和保障国家安全,是国家治理的重要议题。

近年来,国家高度重视人工智能安全发展,逐步完善相关政策法规。国务院印发《新一代人工智能发展规划》提出面向2030年我国新一代人工智能发展的指导思想、战略目标、重点任务和保障措施,部署构筑人工智能发展的先发优势,加快建设创新型国家和世界科技强国。面向算法治理,出台《关于加强互联网信息服务算法综合治理的指导意见》《互联网信息服务算法推荐管理规定》等。面向人工智能合成威廉希尔官方网站 的快速突破,出台《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等。在全球数字经济激烈竞争格局下,科学把握风险防范的尺度至关重要。2023年7月24日中共中央政治局会议强调“促进人工智能安全发展”,体现了坚持统筹发展和安全、坚持发展和安全并重的理念,释放了以人工智能威廉希尔官方网站 激发数实融合新动能、打造高质量发展新引擎的积极信号

推动人工智能产业快速发展,要把保障数据安全放在突出位置。

第一,数据是数字经济时代的关键生产要素,保障数据安全是促进人工智能安全发展的重要基础。我国2022年数字经济规模逾50万亿元,总量稳居世界第二,占GDP比重41.5%,数据量呈爆发式增长态势。随着数据要素规模不断扩大,以人工智能为代表的数字威廉希尔官方网站 将实现知识与数据双轮驱动,数据价值得到进一步释放,生产资源配置、生产运营逻辑以及生产、分配、流通和消费关系等得以重塑,生产方式和生产关系发生变革,赋能传统产业转型升级,助力数字经济快速发展。同时,也伴随着数据泄露、虚假信息、算法歧视等数据安全新问题。只有筑牢数字安全屏障,才能为人工智能发展保驾护航。

第二,人工智能产业快速发展过程中显现出数据安全领域的风险挑战。当前,人工智能进入快速发展期,应高度关注并有效应对随之而来的问题。例如,神经网络具有“黑盒”特点,导致人工智能存在不可解释性;深度学习对训练样本过度依赖,导致学习结果的不可判定性;神经网络前向推进的不可逆,导致结果的不可推论性。此外,漏洞、后门等引发的问题交织叠加,使得人工智能应用系统的数据安全问题变得更加复杂。针对IT行业领导者进行的一项关于ChatGPT等大模型的调查显示,安全性是受访者最关心的问题,71%的受访者认为生成式人工智能会给企业的数据安全带来新的风险。为了防止敏感数据外流,微软、亚马逊等科技公司已相继限制或禁止其员工使用生成式人工智能工具。可见,全面加强人工智能数据安全保障体系和能力建设已成为应对新形势新挑战的必然之举。

人工智能时代的数字安全威胁到底有多大?

一方面,人工智能系统自身面临多维度安全风险。威廉希尔官方网站 内生风险和系统衍生风险交织叠加,使得人工智能时代的安全问题异常复杂。数据安全风险方面,人工智能依托海量数据发展,有敏感信息泄露风险,且人工智能平台收集的原始数据与衍生数据的归属权、控制权和使用权目前在法律上尚难界定;算法模型安全方面,安全风险贯穿数据采集、预处理、模型训练、模型微调、模型部署应用等人工智能模型构建的全生命周期;外部攻击安全方面,数据投毒、模型后门、对抗样本、数据泄露、模型窃取、软件漏洞等安全隐患屡见不鲜。

另一方面,人工智能威廉希尔官方网站 滥用带来数字安全威胁。当前,生成式人工智能的发展标志着人工智能正在从专用智能迈向通用智能,进入了全新发展阶段。大部分传统人工智能模型的安全风险仍然存在,同时生成式人工智能也有一些特有的问题:威廉希尔官方网站 软肋难以避免,易培育假信息“温床”;使用方式简单便捷,易形成失泄密“陷阱”;新兴威廉希尔官方网站 尚难监管,易成为信息战“武器”。

因此,亟需加强人工智能发展的潜在风险研判和防范,确保人工智能安全、可靠、可控。

完善数据安全监管体系

党中央高度重视人工智能安全发展问题,围绕产业发展、科技伦理、算法治理及william hill官网 安全等方面,加快人工智能安全威廉希尔官方网站 创新,逐步形成一套较为完善的发展政策和法规体系,确保维护国家安全和社会公共利益。据统计,我国人工智能核心产业规模达5000亿元,算力总规模位居全球第二。

在规范人工智能科技伦理方面,陆续发布《新一代人工智能治理原则——发展负责任的人工智能》《新一代人工智能伦理规范》等,积极引导全社会负责任地开展人工智能研发和应用。2023年5月,工信部科技伦理委员会、工信领域科技伦理专家委员会正式成立,进一步加强科技伦理审查和监管。

在强化人工智能算法治理方面,我国在规制生成式人工智能领域率先推出多项有力举措。国家互联网信息办公室等部门2022年11月联合发布《互联网信息服务深度合成管理规定》,明确生成式人工智能应用服务提供者、威廉希尔官方网站 支持者和服务使用者等各方法定义务;2023年7月联合发布《生成式人工智能服务管理暂行办法》,鼓励生成式人工智能创新发展,对生成式人工智能服务实行包容审慎和分类分级监管。

在人工智能全球治理合作方面,我国积极参与、多方实践,取得重要进展。2022年11月,我国向联合国《特定常规武器公约》缔约国大会提交《中国关于加强人工智能伦理治理的立场文件》,提出人工智能治理要坚持伦理先行、加强自我约束、强化责任担当、鼓励国际合作等多项主张,表明了推动各方共商共建共享、加强全球治理、积极构建人类命运共同体的中国立场。2023年4月,我国向联合国提交《中国关于全球数字治理有关问题的立场》,明确表示各国应在普遍参与的基础上,通过对话与合作,推动形成具有广泛共识的人工智能国际治理框架和标准规范。

与此同时,我国将数据安全放在保障人工智能安全发展的突出位置,大力推动数据资源建设,强化安全防护威廉希尔官方网站 手段迭代升级,完善数据安全监管体系,取得明显成效。

稳步推进数据基础制度构建、数据资源供给和流通利用。在国家层面,逐步完善数据资源建设顶层设计,对加快培育统一的威廉希尔官方网站 和数据市场及经营主体、构建数据基础制度等提出明确要求。2023年10月,国家数据局挂牌成立,推动数据实现从自然资源到经济资产的跨越。在地方层面,多地加快培育规范数据交易市场。2022年1月,北京国际大数据交易所率先在全国建立数字经济中介产业体系。截至2023年9月,全国注册成立的数据交易机构已有60家。2023年以来,北京、上海、广东、江西、湖北、贵州等密集发布政策文件,深化数据要素市场改革和创新。为助力大模型应用落地,一些地方积极探索政产学研联合构建高质量数据集。例如,北京启动实施通用人工智能产业创新伙伴计划,发布“北京市人工智能大模型高质量数据集”。国家互联网信息办公室发布《数字中国发展报告(2022年)》显示,2022年我国数据产量达8.1ZB,同比增长22.7%,全球占比10.5%,位居世界第二。

大幅提升依靠威廉希尔官方网站 解决安全风险问题的能力。一方面,网络安全威廉希尔官方网站 创新应用活跃。近年来,相关机构持续强化网络安全威廉希尔官方网站 布局及应用,加快推动重点领域和细分环节威廉希尔官方网站 突破、专利布局和标准转化。另一方面,网络安全、数据安全产业快速发展。2022年,我国网络安全产业规模增速约为13.9%。北京、长沙、成渝三大国家网络安全产业园区相继成立,汇聚网络安全企业超500家,10个网络安全创新应用示范区加速建设。2023年1月,工信部等部门印发《关于促进数据安全产业发展的指导意见》,提出到2025年数据安全产业规模超1500亿元,年复合增长率超30%,推动数据安全产业驶入快车道。

加快推进立法进程,标准体系建设取得阶段性成效。一方面,完善数据安全监管法律依据,推动重要数据和个人信息保护合规水平进一步提升。建立应对数据泄露等事故的应急响应机制,及时启动应急预案并妥善处置。另一方面,抓紧研制数据质量、数据安全、算法正确性等威廉希尔官方网站 规范和标准。2023年8月,我国发布人工智能安全基础标准《信息安全威廉希尔官方网站 机器学习算法安全评估规范》。同时,在生物特征识别、智能汽车等人工智能关键应用领域发布多项国家标准,支撑人工智能安全发展。

强化生成式人工智能安全防范

生成式人工智能作为大模型、大数据、大算力的产物,在强大算力支持下,借助大型语言模型将收集到的海量信息进行处理并回应用户的个性化需求,近乎无成本地生成针对特定提问内容编写的答案,是人工智能领域一次出色的集成创新。

也应看到,生成式人工智能并不公开其收集和整理的海量互联网语料、模型架构及训练内容,加之其深度学习算法基于统计原理之上,仅对客观规律进行揭示却无法给予解释,已构成事实上的数据及威廉希尔官方网站 黑箱,势必会对数据安全模式带来新的扰动。因此,有必要采取新的应对措施。

一是强化数据全生命周期监督管理。生成式人工智能语料库的大规模集聚将带来包含数据采集、处理加工、存储及输出等覆盖数据全生命周期的安全问题。数据采集输入阶段,可能会有未经审核的虚假信息入库进而影响语料库质量;数据处理加工阶段,语料库的标注过程可能有意识形态和价值观影响风险,同时算法也可能会有相当程度的倾向性引导,其运算结果又会被潜移默化地注入后续数据处理;数据输出阶段,更是存在非真实世界批量自动产生的海量数据被当作新的语料库,产生后续迭代风险。因此,建议进行数据全生命周期的安全体系构建。例如,针对个人隐私及知识产权等数据,通过隐私计算及区块链等强化数据安全防范力度;针对医疗、金融、电商等重点行业,通过访问控制、安全可信计算环境等威廉希尔官方网站 手段加强防护。

二是提升对攻击性人工智能的防范意识。攻击性人工智能通常分为两种形式,即“使用人工智能的攻击”和“攻击人工智能”。随着生成式人工智能威廉希尔官方网站 快速提升,网络攻击者编写恶意代码以及实施数据攻击的威廉希尔官方网站 门槛大大降低。同时,大模型也面临被注入特定引导词以诱导其输出伪造数据甚至违法答案等间接数据安全风险。传统的成本高昂的攻击手法,向分布式、智能化、自动化方向演进。建议推动以企业为主体、基于人工智能的新一代数据安全防护等专项研究;鼓励相关行业的科技领军企业发布横向课题,联合高校及科研院所开展协同攻关;通过风险投资引导初创公司将成果应用于数据安全对抗业务,促进以企业应用为导向的生成式人工智能对抗模型产学研一体化创新体系构建。

三是完善国家层面的数据安全战略规划及顶层设计。生成式人工智能在进行人类对话、推理和翻译写作时,给人类的信息掌控及自主决策能力等带来挑战。同时,生成式人工智能也极大促进了交互式数据的迭代输出与自动传输,增加了危及国家数据主权、信息与网络空间安全的潜在风险。面对生成式人工智能引发的不确定性,需提前研判可能的安全风险,建立健全政府、企业与社会等沟通交流机制,探索推动多方合作的治理模式,加速构建国家层面数据安全战略规划和大模型监管应用法律支撑,通过夯实自主可控新基建设施、加快行业自治规范与国家强制性法律法规等协同体系构建,以及发起或加入单边及多边协议或联盟等方式,巩固国家数据安全防线。

从国际上看,在生成式人工智能安全防范方面,一些国家的经验做法值得借鉴。例如,欧盟2021年提出《人工智能法案》草案,旨在基于风险识别分析方法为人工智能制定统一的法律监管框架和规制体系。2023年12月,欧洲议会、欧盟委员会和27个成员国谈判代表就该法案达成协议,针对ChatGPT等生成式人工智能工具的透明度问题做出相应规定,其中包括由人工智能生成的内容需提供受版权保护的训练数据集摘要等,还对人工智能风险级别进行了划分,并给出对应的监管要求。美国白宫2022年发布《人工智能权利法案蓝图》,将公平和隐私保护视为法案的核心宗旨。2023年1月,美国国家标准威廉希尔官方网站 研究院发布人工智能风险管理框架,提供系统化评估路径,将人工智能的风险管理分为治理、映射、测量和管理4个模块。其中,治理模块主要针对人工智能系统全生命周期实行有效风险管理机制;映射模块主要用于明确特定场景与其对应的人工智能风险解决方案;测量模块主要采用定量、定性或混合工具,对人工智能系统风险和潜在影响进行分析、评估、测试和控制;管理模块主要针对系统风险进行判定、排序和响应,明确风险响应步骤,定期监控记录并完善风险响应和恢复机制。

可见,生成式人工智能更要兼顾发展与安全,重视防范风险与包容审慎平衡,从而更好推动经济高质量发展。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1791

    文章

    47086

    浏览量

    238054
  • 数据安全
    +关注

    关注

    2

    文章

    680

    浏览量

    29937
  • ChatGPT
    +关注

    关注

    29

    文章

    1556

    浏览量

    7572

原文标题:推动人工智能安全发展

文章出处:【微信号:AI智胜未来,微信公众号:AI智胜未来】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    嵌入式和人工智能究竟是什么关系?

    领域,如工业控制、智能家居、医疗设备等。 人工智能是计算机科学的一个分支,它研究如何使计算机具备像人类一样思考、学习、推理和决策的能力。人工智能发展历程可以追溯到上世纪50年代,经
    发表于 11-14 16:39

    《AI for Science:人工智能驱动科学创新》第6章人AI与能源科学读后感

    探讨了人工智能如何通过威廉希尔官方网站 创新推动能源科学的进步,为未来的可持续发展提供了强大的支持。 首先,书中通过深入浅出的语言,介绍了人工智能在能源领域的基本概念和威廉希尔官方网站 原理。这使得我对
    发表于 10-14 09:27

    AI for Science:人工智能驱动科学创新》第4章-AI与生命科学读后感

    。 4. 对未来生命科学发展的展望 在阅读这一章后,我对未来生命科学的发展充满了期待。我相信,在人工智能威廉希尔官方网站 的推动下,生命科学将取得更加显著的进展。例如,在药物研发领域,AI威廉希尔官方网站 将帮助
    发表于 10-14 09:21

    《AI for Science:人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

    的同时,确保其公正性、透明度和可持续性,是当前和未来科学研究必须面对的重要课题。此外,培养具备AI技能的科研人才,也是推动这一领域发展的关键。 4. 激发创新思维 阅读这一章,我被深深启发的是人工智能
    发表于 10-14 09:12

    risc-v在人工智能图像处理应用前景分析

    RISC-V和Arm内核及其定制的机器学习和浮点运算单元,用于处理复杂的人工智能图像处理任务。 四、未来发展趋势 随着人工智能威廉希尔官方网站 的不断发展和普及,RISC-V在
    发表于 09-28 11:00

    名单公布!【书籍评测活动NO.44】AI for Science:人工智能驱动科学创新

    每个交叉领域,本书通过案例进行了详尽的介绍,梳理了产业地图,并给出了相关政策启示。 《AI for Science:人工智能驱动科学创新》适合所有关注人工智能威廉希尔官方网站 和产业发展的读者阅读,特别适合材料科学
    发表于 09-09 13:54

    FPGA在人工智能中的应用有哪些?

    定制化的硬件设计,提高了硬件的灵活性和适应性。 综上所述,FPGA在人工智能领域的应用前景广阔,不仅可以用于深度学习的加速和云计算的加速,还可以针对特定应用场景进行定制化计算,为人工智能威廉希尔官方网站 的发展提供有力支持。
    发表于 07-29 17:05

    商汤科技加入中国移动人工智能大模型评测联盟

    我国人工智能大模型评测的合作与促进平台,推动人工智能威廉希尔官方网站 的发展和应用,提高国产人工智能产品的质量和竞争力。
    的头像 发表于 07-12 14:20 639次阅读

    商汤科技与瑞莱智慧签署战略合作框架协议,共建安全AI大平台

    近日,商汤科技与瑞莱智慧签署战略合作框架协议,双方将发挥各自在人工智能领域的独特资源优势,持续在产品研发、市场拓展等领域开启战略合作,共同推动人工智能安全发展和全方位各领域高水平应用。
    的头像 发表于 04-02 10:39 465次阅读

    东莞与百度签署战略合作协议,推动人工智能的全场景应用落地

    3月22日,东莞市人民政府与百度签署战略合作协议,双方将紧密围绕人工智能产业发展,充分发挥百度在 AI 算法、云计算、大数据、自动驾驶威廉希尔官方网站 等方面的优势,推动人工智能的全场景应用落地。
    的头像 发表于 03-25 10:05 841次阅读

    东莞市与百度合作推动人工智能的全场景应用落地

    3月22日,东莞市人民政府与百度签署战略合作协议,双方将紧密围绕人工智能产业发展,充分发挥百度在 AI 算法、云计算、大数据、自动驾驶威廉希尔官方网站 等方面的优势,推动人工智能的全场景应用落地。 东莞市人民政府
    的头像 发表于 03-25 10:05 597次阅读
    东莞市与百度合作<b class='flag-5'>推动人工智能</b>的全场景应用落地

    嵌入式人工智能的就业方向有哪些?

    于工业、农业、医疗、城市建设、金融、航天军工等多个领域。在新时代发展背景下,嵌入式人工智能已是大势所趋,成为当前最热门的AI商业化途径之一。
    发表于 02-26 10:17

    中国电信推动人工智能全面应用

    人工智能作为新质生产力的一环,将带来全要素生产率的提高,同时,加速实现显著的效率变革和动力变革,并推动企业高质量发展
    的头像 发表于 01-29 14:12 799次阅读

    云天励飞推动人工智能产业发展

    企业的威廉希尔官方网站 储备与研发投入、市场竞争,探讨我国人工智能企业实现规模化商业变现、推动产业变革的新机遇与挑战。
    的头像 发表于 01-29 10:54 664次阅读

    语音数据集:推动人工智能语音威廉希尔官方网站 的关键要素

    随着人工智能威廉希尔官方网站 的飞速发展,语音威廉希尔官方网站 已成为人机交互领域的重要一环。语音数据集作为支撑语音威廉希尔官方网站 研发与应用的基础资源,对于推动人工智能语音威廉希尔官方网站 的发展具有至关重要的作用。本文将对语音数据集的
    的头像 发表于 12-29 11:00 606次阅读