0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

一种新型数学方法,可遏制AI做出不道德的选择

如意 来源:百家号 作者:量子认知 2020-07-02 09:20 次阅读

人工智能,是由人制造出来的机器所表现出来的智能,是通过普通计算机程序来呈现人类智能的威廉希尔官方网站 ,人工智能正越来越广泛地应用于商业领域。

比如商家考虑使用人工智能来设置要出售给特定客户的保险产品的价格,为不同的客户设置不同的价格。这可以说是有正当理由的,但是“玩弄”客户的心理或购物意愿时常为的是可能会有利可图。

人工智能具有很多潜在的策略可供选择,这其中涉及到道德问题,有些策略不道德。这些策略不仅会带来道德上的损失,而且会带来巨大的潜在经济损失,因为如果利益相关者发现使用了这样的策略,他们将对其施加一定的惩罚,比如客户可能会投诉、抵制,还有监管者可能会惩罚高达数十亿美元的巨额罚款。

因此,在越来越多的决策无需人工干预而完全应用人工智能的情况中,无论是商家还是客户都有强烈的诉求,想了解人工智能系统在什么情况下可能采取不道德的策略,从而降低这种风险,或者在可能的情况下完全消除这种风险。

最近,由英国华威大学(University of Warwick)、帝国理工大学(Imperial College London)、洛桑联邦理工学院(Lausanne EPFL)数学研究所和沃里克大学数学学院的数学家和统计学家组成的一个研究团队,发现了一种数学方法,可以帮助监管机构和业务管理并监管人工智能系统偏向做出不道德、可能非常昂贵和破坏性商业选择的偏见,帮助企业和监管机构制定了新的“不道德优化原则”,并提供一个简单的公式来估算其影响。他们的题为“不道德优化原则”的论文发表在最近的皇家学会科学杂志上。

论文作者、华威大学数学研究所的罗伯特·麦凯教授说:“我们建议的‘不道德优化原则’可用于帮助监管机构、合规人员和其他人员找到可能隐藏在大型策略空间中的问题策略。可以期望优化会不成比例地选择许多不道德策略,对其进行检查应显示在哪里可能会出现问题,因此建议应如何修改人工智能搜索算法,以免今后避免使用它们。

该数学方法所体现的原则还表明,可能有必要重新考虑人工智能在非常大的战略空间中的运作方式,以便在优化与学习过程中明确拒绝不道德的结果。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    30763

    浏览量

    268905
  • 人工智能
    +关注

    关注

    1791

    文章

    47208

    浏览量

    238280
  • 数学
    +关注

    关注

    0

    文章

    99

    浏览量

    19235
收藏 人收藏

    评论

    相关推荐

    一种新型高效率的服务器电源系统

    一种新型高效率的服务器电源系统
    发表于 12-19 16:45 1次下载

    OpenAI投资道德算法研究

    近日,据外媒最新报道,人工智能领域的领军企业OpenAI正在积极投资学术研究,致力于开发一种能够预测人类道德判断的算法。这举措无疑将为人工智能的道德发展注入新的活力。 据了解,Ope
    的头像 发表于 11-26 10:20 331次阅读

    一种简单高效配置FPGA的方法

    本文描述了一种简单高效配置FPGA的方法,该方法利用微处理器从串行外围接口(SPI)闪存配置FPGA设备。这种方法减少了硬件组件、板空间和成本。
    的头像 发表于 10-24 14:57 559次阅读
    <b class='flag-5'>一种</b>简单高效配置FPGA的<b class='flag-5'>方法</b>

    一种新型电流模式控制集成电路

    电子发烧友网站提供《一种新型电流模式控制集成电路.pdf》资料免费下载
    发表于 10-24 10:20 0次下载
    <b class='flag-5'>一种</b><b class='flag-5'>新型</b>电流模式控制集成电路

    BitEnergy AI公司开发出一种AI处理方法

    BitEnergy AI公司,家专注于人工智能(AI)推理威廉希尔官方网站 的企业,其工程师团队创新性地开发了一种名为线性复杂度乘法(L-Mul)的AI
    的头像 发表于 10-22 15:15 388次阅读

    如何选择合适的AI云平台

    选择合适的AI云平台是企业成功实施AI战略的关键步。通过深入分析业务需求、全面评估平台功能、审慎考察威廉希尔官方网站 架构、严格确保数据安全、合理控制成本并关注服务提供商的生态系统,企业可以更加科
    的头像 发表于 10-14 10:06 173次阅读

    AI for Science:人工智能驱动科学创新》第4章-AI与生命科学读后感

    了传统学科界限,使得科学家们能够从更加全面和深入的角度理解生命的奥秘。同时,AI威廉希尔官方网站 的引入也催生了一种全新的科学研究范式,即数据驱动的研究范式,这种范式强调从大量数据中提取有价值的信息,从而推动科学研究
    发表于 10-14 09:21

    AI for Science:人工智能驱动科学创新》第章人工智能驱动的科学创新学习心得

    如何激发科学家的创新思维。AI不仅仅是工具,更是一种思维方式,它鼓励我们跳出传统框架,以数据为驱动,探索未知。这种思维方式的转变,不仅促进了科学方法的革新,也为解决全球性挑战提供了新的视角和途径
    发表于 10-14 09:12

    数字滤波器的实现方法

    数字滤波器是一种通过对数字信号进行处理来完成对数字信号或模拟信号进行滤波的仪器。其实现方式多样,可以从硬件和软件两个角度进行探讨,同时涉及多种数学方法和设计步骤。
    的头像 发表于 08-20 16:06 737次阅读

    一种新型全光学智能光谱仪

    近日,北京理工大学光电学院许廷发教授科研团队与清华大学林星助理教授团队联合开发了一种新型全光学智能光谱仪(Opto-Intelligence Spectrometer, OIS)。
    的头像 发表于 07-31 06:18 268次阅读
    <b class='flag-5'>一种</b><b class='flag-5'>新型</b>全光学智能光谱仪

    一种无透镜成像的新方法

    使用OAM-HHG EUV光束对高度周期性结构进行成像的EUV聚光显微镜 为了研究微电子或光子元件中的纳米级图案,一种基于无透镜成像的新方法可以实现近乎完美的高分辨率显微镜。 层析成像是一种强大的无
    的头像 发表于 07-19 06:20 374次阅读
    <b class='flag-5'>一种</b>无透镜成像的新<b class='flag-5'>方法</b>

    rup是一种什么模型

    RUP(Rational Unified Process,统建模语言)是一种软件开发过程模型,它是一种迭代和增量的软件开发方法。RUP是由Rational Software公司(现为
    的头像 发表于 07-09 10:13 1245次阅读

    神经网络在数学建模中的应用

    数学建模是一种利用数学方法和工具来描述和分析现实世界问题的过程。神经网络是一种模拟人脑神经元结构和功能的计算模型,可以用于解决各种复杂问题。在数学
    的头像 发表于 07-02 11:29 930次阅读

    一种实现稳定压力传感的新型可拉伸电子皮肤

    现有的电子皮肤会随材料拉伸而降低传感精度。美国得克萨斯大学奥斯汀分校研究人员开发出一种新型可拉伸电子皮肤,解决了这项新兴威廉希尔官方网站 的个主要难题。
    的头像 发表于 05-09 09:07 463次阅读

    一种新型超级电容模组充电电源设计

    一种新型超级电容模组充电电源设计超级电容器(Supercapacitors,ultracapacitor),不同于传统的化学电源,是一种介于传统电容器与电池之间、具有特殊性能的电源,主要依靠双电层
    的头像 发表于 03-11 08:47 832次阅读
    <b class='flag-5'>一种</b><b class='flag-5'>新型</b>超级电容模组充电电源设计