以下内容整理自清华大学《数智安全与标准化》课程大作业期末报告同学的汇报内容。
(资料图片)
我们主要从分析问题、解决问题、效果评估和实际验证四方面，推动这一课题的研究，并形成相应的研究成果。
第一部分：AI算法透明概述
第一部分，AI算法透明概述，主要凝练了当前AI算法透明性存在的挑战。
近年来，人工智能技术的发展使得其透明性问题日益凸显，为保障用户对算法知情，实现监管机构对算法进行有效规范治理与问责，算法透明性必不可少。
然而，算法透明性更类似于原则性的提议，具体如何落实透明性要求，并对其进行有效评估，尚未形成共识。
因此，我们对AI算法透明当前存在的诸多挑战进行了总结，主要涉及三个维度：技术、评估和制度。
技术上，很难处理AI算法的黑箱问题；
评估上，对透明程度的要求很难把握尺度；
制度上，算法问责机制仍然模糊。
为有效应对这些挑战，我们首先给出算法透明性实现路径，解决技术和制度问题，之后提出算法透明评估清单应对评估问题，最终在推荐系统下进行实践与应用。
第二部分：实现AI算法透明
宏观上，我们首先需要AI算法透明性治理范式，针对当前在算法监管立法等多个层面的挑战。我们希望打破透明性中耦合的机制主义和管理主义，形成一种以法律规制为主导，技术适配为基础的多元一体、多方协作的AI算法透明性治理范式。
微观上，这一范式的实施措施落实到学术、法律、技术和场景四方面。
学术上，国内外学者研究主要从多方视角相关主体出发，提出了若干在法律规制和技术适配方面的思考。
法律上，鉴于算法透明，是实现算法问责的重要机制。主要可以总结为两种实现AI算法透明的模式：赋权模式和行为规范模式。赋权模式属于事后救济，而行为规范模式属于事前预防和事中约束。
这里我们具体对比了不同国家地区的法律，发现各国都采取健全算法问责机制等措施。此外，我们也注意到欧盟还强调对算法参数的公开。
技术上，我们聚焦于实现从不透明模型向可诠释模型、可理解模型转变的可解释技术，该技术具体分为事前解释、事后解释和可诠释模型。针对不同的应用实例，又会有更为细致的方法。
不同的应用场景，对AI算法透明体现出不同的场景需求。我们也分别在自动驾驶、材料化学、智能教育和建筑设计，四个细分领域内进行了需求分析和方法探索。
第三部分：评估AI算法透明
鉴于现有法律规制大多在宏观层面强调算法透明监管原则，却鲜小有具体措施。因此，我们提出一套相对详细、可实施的评估标准，以细化并落实算法透明度合规要求。
首先，面向算法使用者的AI透明度评估清单的设计目标，在于保障知情权。内容主要分为算法概述与技术信息，要求算法开发方对这些内容进行说明。
算法使用者的AI透明度评估清单相较于面向用户的清单，由于监管方需要根据算法评估内容进行等级评估，所以该技能较为严格，需要说明的内容也更为复杂。
为配合透明度评估清单的使用，我们还提出了透明度评估等级表。面向不同使用场景的算法分为五个等级进行评估，不同等级对于算法开发者应当达到的透明度有不同要求，且逐步加强。
具体这个清单是如何工作的呢？如左图所示，评估流程有助于监管方对算法开发者在事前、事中和事后阶段做出责任分配。
在开发方与使用者方面，开发方遵照透明度用户指南向算法使用者提供算法的透明度指南。之后，使用者需要阅读指南，以此确立两方权责分配并获得知情。
第四部分：AI算法透明实践
我们选择推荐系统作为典型实例，也是因为推荐系统最能体现AI算法透明的要求。如果能让外界理解为什么信息被推荐给乙方，其实就达到了这个场景下的透明度要求。
通过实现推荐系统的透明性，也能提升用户对系统的信任程度，使系统推荐结果得到检验，同时受到有关方面的监管。
考虑到推荐系统目前采用的AI推荐算法众多，所以我们设计了一个推荐系统外的解释系统或算法，用于对推荐系统进行解释或直接作为一个整体对外提供具有解释性质的推荐。
其核心算法是采用知识图谱与强化学习的技术，充分挖掘推荐系统中的可解释模型，以此进行相关的路径挖掘，并利用解释路径对推荐系统行为加以解释。
这里我们采用一九年一个公开的购物网站公布数据进行结果演示，在利用上述算法完成解释系统后，对数据集进行路径挖掘，得到左图所示的结论。
基于上述深层的推理路径，对推荐系统的多个推荐实例进行解释。结果表明，方法不仅能够帮助推荐系统获得有希望的推荐结果，而且能够有效为推荐系统找到不同的用于推荐解释的推理路径。
之后，我们分别将未加入和加入这一解释算法的推荐系统，按照前一章节设计的流程进行算法评估。结果表明，融入解释算法后的推荐系统，在透明度上有明显提升，但监管方也注意到，新的具有解释性质的推荐系统，在技术和社会风险上处理方法上有缺，要求对当前算法做进一步改进，并对提交的材料进行补充。
感谢各位的聆听！以上就是我们小组要汇报的全部内容。
编辑整理：陈龙
以下内容整理自清华大学《数智安全与标准化》课程大作业期末报告同学的汇报内容。我们主要从分析问题、...
程序员客栈 01-15 08:33:55
以下内容整理自清华大学《数智安全与标准化》课程大作业期末报告同学的汇报内容。我们主要从分析问题、...
程序员客栈 01-15 08:33:55
自动门是随着人们对生活条件的不断追求、科技的不断发展应运而生的高科技产品，它具备了普通门所没有的...
互联网 01-14 18:13:43
自动门是随着人们对生活条件的不断追求、科技的不断发展应运而生的高科技产品，它具备了普通门所没有的...
互联网 01-14 18:13:43
近年来，随着国家对环保要求的愈加严厉和人们环保意识的不断增强，露天采矿成为了全社会关注的焦点。 ...
百度百科 互联网 01-14 18:23:54
近年来，随着国家对环保要求的愈加严厉和人们环保意识的不断增强，露天采矿成为了全社会关注的焦点。 ...
百度百科 互联网 01-14 18:23:54
近几年来，网站建设业务一直呈快速上升势头，行业市场越来越大。就国内情况而言，沿海发达省市比中西部...
互联网 01-14 18:17:41
近几年来，网站建设业务一直呈快速上升势头，行业市场越来越大。就国内情况而言，沿海发达省市比中西部...
互联网 01-14 18:17:41
近年来，随着污染源的增加，中国城市的空气质量日趋恶化，消费者对室内空气品质的关注日益加大，环境类...
互联网 01-14 18:17:34
近年来，随着污染源的增加，中国城市的空气质量日趋恶化，消费者对室内空气品质的关注日益加大，环境类...
互联网 01-14 18:17:34
随着近年来影视产业和互联网游戏产业等的快速发展，可以说植入广告已经成为热门影视剧、综艺节目等商业...
百度百科 互联网 01-14 18:26:28
随着近年来影视产业和互联网游戏产业等的快速发展，可以说植入广告已经成为热门影视剧、综艺节目等商业...
百度百科 互联网 01-14 18:26:28
微电网是一种新型的小型发配电网络，是由分布式电源、储能装置、能量转换装置、相关负荷和监控、保护装...
新浪 01-14 17:25:11
微电网是一种新型的小型发配电网络，是由分布式电源、储能装置、能量转换装置、相关负荷和监控、保护装...
新浪 01-14 17:25:11
我国冰雪行业已驶入发展快车道，巨大的市场潜力和强大动能正得到不断释放，参与冰雪运动的人数和相关产...
新浪 01-14 17:03:20
我国冰雪行业已驶入发展快车道，巨大的市场潜力和强大动能正得到不断释放，参与冰雪运动的人数和相关产...
新浪 01-14 17:03:20
经济复苏按下“快进键”：多地旅游市场复苏回暖游客纷至沓来---复工复产有序推进、重大项目集中开工、群...
人民网 01-14 17:04:20
经济复苏按下“快进键”：多地旅游市场复苏回暖游客纷至沓来---复工复产有序推进、重大项目集中开工、群...
人民网 01-14 17:04:20
我国B超设备产业发展如何?国内B超设备市场规模116亿元，与发达国家相比我国医疗机构医疗器械的装备水平...
互联网 01-14 16:16:24
我国B超设备产业发展如何?国内B超设备市场规模116亿元，与发达国家相比我国医疗机构医疗器械的装备水平...
互联网 01-14 16:16:24
江苏制造往哪儿走,苏商怎么干?在1月12日举行的2023(第十六届)苏商领袖年会暨实业强国论坛上,与会嘉宾共...
财讯网 01-14 16:16:00
江苏制造往哪儿走,苏商怎么干?在1月12日举行的2023(第十六届)苏商领袖年会暨实业强国论坛上,与会嘉宾共...
财讯网 01-14 16:16:00
挂耳咖啡与速溶咖啡相比有不少优势，速溶咖啡是从烘培好的咖啡豆磨碎后在一定的温度和压力下，把咖啡中...
互联网 01-14 15:23:37
挂耳咖啡与速溶咖啡相比有不少优势，速溶咖啡是从烘培好的咖啡豆磨碎后在一定的温度和压力下，把咖啡中...
互联网 01-14 15:23:37
“共享经济”的概念迅速普及，共享汽车也随之悄然进入了人们的视野。这些共享汽车平台也像共享单车的发...
互联网 01-14 15:09:47
“共享经济”的概念迅速普及，共享汽车也随之悄然进入了人们的视野。这些共享汽车平台也像共享单车的发...
互联网 01-14 15:09:47
化学药品制剂行业利用已知药物的作用机制和构效关系的研究成果，在分析已知药物的化学结构基础上，设计...
互联网 中研网 01-14 15:18:03
化学药品制剂行业利用已知药物的作用机制和构效关系的研究成果，在分析已知药物的化学结构基础上，设计...
互联网 中研网 01-14 15:18:03
随着全球交通领域低碳化转型，汽车行业目前已形成纯电动汽车、氢燃料电池汽车等多种技术路线并存的格局...
互联网 01-14 15:27:07
随着全球交通领域低碳化转型，汽车行业目前已形成纯电动汽车、氢燃料电池汽车等多种技术路线并存的格局...
互联网 01-14 15:27:07
我国面临着人口老龄化冲击，养老问题越来越受到社会关注的情况下，包括上海、长沙、厦门在内的多地近期...
新浪 01-14 14:19:56
我国面临着人口老龄化冲击，养老问题越来越受到社会关注的情况下，包括上海、长沙、厦门在内的多地近期...
新浪 01-14 14:19:56
太阳能电池组件(也叫太阳能电池板)是太阳能发电系统中的核心部分，也是太阳能发电系统中最重要的部分。...
新浪 01-14 14:12:51
太阳能电池组件(也叫太阳能电池板)是太阳能发电系统中的核心部分，也是太阳能发电系统中最重要的部分。...
新浪 01-14 14:12:51
随着光伏产业迈入高景气周期，行业扩产提速。据不完全统计，2021年初至2022年11月，我国光伏规划扩产超...
新浪 01-14 14:04:42
随着光伏产业迈入高景气周期，行业扩产提速。据不完全统计，2021年初至2022年11月，我国光伏规划扩产超...
新浪 01-14 14:04:42
宠物医院(pethospital)是专门为宠物提供医疗服务的(医院)场所。有时宠物医院又等同于动物医院。在宠物医...
新浪 01-14 12:25:55
宠物医院(pethospital)是专门为宠物提供医疗服务的(医院)场所。有时宠物医院又等同于动物医院。在宠物医...
新浪 01-14 12:25:55
光伏产业链其他环节已经出现企稳迹象，本周初，头部硅片厂商试探性上调硅片报价，同时，由于电池厂商话...
新浪 01-14 12:21:41
光伏产业链其他环节已经出现企稳迹象，本周初，头部硅片厂商试探性上调硅片报价，同时，由于电池厂商话...
新浪 01-14 12:21:41
2022年10月26日，箭牌家居集团股份有限公司(以下简称箭牌家居)在深圳证券交易所主板上市，股票简称箭牌...
9月下旬爆火于网络的小程序游戏《羊了个羊》，让背后的出品公司北京简游科技有限公司(以下简称北京简游)...
Apple Music在海外地区提价的消息自10月25日公布以来，瞬间引起外界关注。值得注意的是，Apple Music...
桃李面包再次陷入增收不增利怪圈。根据桃李面包最新财报数据，公司前三季度净利出现下滑。全国化布局是...
在北数所诞生之前，由于北京没有类似的平台机构承担数据交易所的功能，我们相关的数字业务交易都是通过...
联系我们:55 16 53 8@qq.com
关于我们| 联系方式| 版权声明| 供稿服务| 友情链接
经济头条 版权所有，未经书面授权禁止使用
Copyright©2008-2020 By www.jingji.net All Rights Reserved
营业执照公示信息