人工智能治理体系如何平衡包容?中外专家把脉建言******
中新网北京12月4日电(记者 孙自法)作为有望引领人类未来变革的一项战略性技术,人工智能(AI)近年来在快速发展并赋能千行百业的同时,也带来安全、隐私、公平等系列问题和挑战,人工智能治理概念应运而生,备受关注。
由清华大学主办、联合国开发计划署支持的2021人工智能合作与治理国际论坛12月4日在北京开幕,中国科技部副部长李萌致辞时形象表示,“我们现在正站在智能化社会的门槛上,人工智能这条大船正载着我们向智能化世界驶去,而治理正是随时校正大船航向,确保大船行稳致远”。
在随后举行的“如何构建一个平衡包容的人工智能治理体系”主论坛上,中外专家学者线上线下对话,把脉人工智能发展,聚焦治理体系构建。
中国国家新一代人工智能治理专业委员会主任、清华大学人工智能国际治理研究院院长薛澜提出,人工智能治理直面数据、算法、算力、场景等四大要素挑战,价值导向上要坚持人工智能技术安全可控的底线思维、维护个人权益尊严与平等的人本思维、人工智能赋能经济社会发展的发展思维和人工智能促进可持续发展的全球思维,遵循“和谐友好、公平公正、包容共享、尊重隐私、安全可控、共同责任、开放协作、敏捷治理”的治理原则,着重从“包容、共享、审慎、负责”价值原则来平衡人工智能治理中的发展和安全需求,形成人工智能治理机制的价值共识,推动实现全球协同治理。
关于“审慎”价值原则,薛澜强调,要对人工智能治理给出明确的安全底线,既不能放任不管,任其野蛮生长,也不能出现“一管就死”,避免矫枉过正。
世界工程组织联合会主席、中国新一代人工智能发展战略研究院执行院长龚克表示,人工智能是第四次工业革命的代表性技术,人工智能治理旨在促进具有人类价值的人工智能创新发展,以造福人类和地球,因此,人工智能治理应遵循人工智能发展规律,具有开放的多利益相关者共治的结构,应综合运用技术、规则、教育等多种工具,并有效植入到人工智能应用平台之中。他还特别强调,不仅要发展人工智能各式各样的应用技术,还要发展一批保护隐私和公平、加强监管的人工智能治理支撑技术。
联合国助理秘书长、联合国开发计划署政策与方案支助局局长徐浩良指出,人工智能不是万能灵药,它的好坏取决于使用人工智能的人及数据基础、治理标准。“我们需要全面地看待人工智能,需要跨越国界、跨行业和跨代际的合作,来制定必要的治理框架”。他说,国际机构和国家间的合作至关重要,联合国教科文组织最近通过有关人工智能伦理的提案,得到许多成员国的支持,这是积极的一步。联合国开发计划署已做好准备,为政府和其他利益攸关方构建人工智能治理框架提供支持,让人工智能成为推动可持续发展的重要力量。
“为什么我们需要一种新的、21世纪国际合作方式来治理人工智能?”卡内基理事会资深研究员、人工智能与平等倡议联席主任温德尔·瓦拉赫认为,首先是以数字和生物革命为代表的新兴技术正在重新定义人类的意义,并且重塑世界和未来前景;二是技术速度远远快于道德和法律监督到位的速度,新的人工智能部署的绝对普遍性和速度,颠覆了行业政府、传统机构以及与人们生活息息相关的社会技术结构;三是人工智能和机器学习存在基本控制问题,作为关键系统组建部署时会构成潜在危险。
他说,建立一个合作的人工智能国际治理机制,应该是敏捷的、适应性的、预见性的、响应性的、包容性的,“但是我们应该很清楚,如果没有中国和美国的参与,所有人工智能国际治理方案都只能是幻想。如果不大力转向国际合作,我们将无法成功度过未来几十年”。
“今天社会不仅仅是外卖小哥被困在算法里,我们每个人都被困在各式各样的算法里。”清华大学智库中心主任、智能社会治理研究院院长苏竣认为,人类即将从工业社会迈向以科技进步和智能技术为基础的智能社会,人工智能技术在颠覆性地重组人类社会的同时,也给人类社会的法律隐私、道德伦理、公共治理带来诸多严峻挑战。
他说,技术是中性的,算法是无辜的,在这场人工智能掀起的人类社会巨变中,需要科学的方法研究和应对科技发展带来的种种风险、问题和挑战。“开展人工智能社会实验、探索智能社会治理的中国道路”的倡议自2019年发起以来,经过两年多努力,已在全国有序展开,实现智能技术治理与智能社会治理齐头并举,将为构建有人文温度的智能社会作贡献。
加拿大国际治理创新中心总裁罗欣顿·麦德拉指出,人工智能治理体系在数据领域,要有全球所有国家都接受的数据伦理方面的标准,包括如何搜集数据、收集谁的数据、如何储存数据、如何整合数据、如何分析数据、如何加密、如何保证数据安全、如何使用数据等,“在全球层面共同创建普遍性的标准,它需要很多很多的努力,这就是我们这个世纪的治理挑战”。针对现在越来越多的全球价值链当中,因为机器的替代,很多工作机会被失去的问题,他建议由来自不同社会、不同文化或宗教背景的哲学家组建一个全球性委员会,来思考应对和解决之策。
清华大学人工智能国际治理研究院副院长梁正表示,当前,中国人工智能发展水平已跻身世界第一梯队,也肩负着参与国际治理规则制定的职责。因此,如何助力全球社会共同构建一个平衡包容的人工智能治理体系,需要进行系统思考,开展国际对话。(完)
手机APP弹窗关不掉?加力整治!******
原标题:开展乱象整治专项行动,规范应用软件预置行为
手机APP弹窗关不掉?加力整治!
移动互联时代,即时通讯、网络视频、在线购物、新闻资讯等各类移动互联网应用程序(APP)在快速发展的同时也滋生了种种乱象。近日,有关部门接连出台相关举措,开展专项行动、印发联合通告,为APP领域的健康规范发展加码发力。
APP领域乱象时有发生
关不掉的弹窗广告、山寨APP以假乱真、未经同意强制捆绑下载、难以卸载的预置程序……眼下,APP领域乱象严重影响了用户体验。
弹窗广告是用户遭遇的普遍问题。“APP投放广告本身没问题,但现在打开APP都不敢动手机,因为有时候稍不注意晃一下手机,就跳进了‘摇一摇’广告。”网友“小花一朵”说。
此外,有些APP页面里“关不掉”的广告也实在令人糟心。不少网友表示遇到过“虚假关闭按钮”,本以为点了关闭,实际上还是跳转到了外部页面。
中国互联网络信息中心数据显示,截至2022年6月,中国市场上监测到的APP数量为232万款。海量的应用数量也给不少山寨APP带来了可乘之机。“有些山寨APP图标和正版APP十分相似,一不注意就容易下载错了,最终导致信息泄露甚至是经济损失。”网友“柒柒”说。
黑龙江哈尔滨银发网友吴淑琴说:“我们老年人使用智能手机本身就是一个学习的过程,很多操作都不熟悉,有些细微的操作也容易忽略,因此下载APP的时候更容易遭遇捆绑下载。没用的APP在手机里不仅侵占手机空间,还让手机越用越慢。”
一项针对手机预置软件的调查显示,62.21%的受访者反映手机预装软件数量多且占用内存,自己日常很少使用,会删除其中绝大部分。在预置软件数量方面,有些型号的手机在出厂时就已预置了多达56个应用程序。
业内人士认为,预置APP不仅让人眼花缭乱,大部分也缺乏实用价值。“删都删不掉”的预置APP背后实则是手机厂家和软件运营方的联合操作。
政策监管有新招
近日,为规范移动互联网应用程序信息服务管理,深入治理APP、小程序等应用程序乱象,进一步压实应用程序分发平台主体责任,促进行业健康有序发展,国家网信办部署开展“清朗·移动互联网应用程序领域乱象整治”专项行动。
此次专项行动加强移动互联网应用程序全链条管理,全面规范移动应用程序在搜索、下载、使用等环节的运营行为。其中,搜索查找环节将重点打击“山寨APP”、从严整治虚假排名、全面净化页面呈现、严格规范备案要求。在下载安装环节,将集中整治强制、捆绑下载安装;坚决惩处应用程序“挂羊头卖狗肉”规避监管;严厉打击以赚钱为诱饵诱导用户下载。针对运行使用环节,将集中治理弹窗问题、严格规范功能设置、严厉打击诱导充值。
据悉,此次专项行动将以加强分发平台规范管理为抓手,抓好重点平台,对问题突出的应用程序分发平台加大整治力度。
为进一步规范移动智能终端应用软件预置行为,保护用户权益,提升移动互联网应用服务供给水平,构建更加安全、更有活力的产业生态,促进移动互联网持续繁荣发展,工信部、国家网信办日前联合印发《关于进一步规范移动智能终端应用软件预置行为的通告》(简称《通告》),自2023年1月1日起执行。
《通告》明确,移动智能终端应用软件预置行为应遵循依法合规、用户至上、安全便捷、最小必要的原则,依据谁预置、谁负责的要求,落实企业主体责任,尊重并依法维护用户知情权、选择权,保障用户合法权益。生产企业应确保移动智能终端中除基本功能软件外的预置应用软件均可卸载,并提供安全便捷的卸载方式供用户选择。实现同一基本功能的预置应用软件,至多有一个可设置为不可卸载。
建立长效监管机制
针对APP领域的各类乱象,有关部门一直在持续升级监管。据统计,从2019年12月至2022年10月,工信部累计通报了26批关于侵害用户权益行为的APP,逐一列出详细问题,严格限期整改,并对未按要求完成整改的APP进行下架处理。
针对用户反映强烈的APP开屏弹窗信息“关不掉、乱跳转”问题,工信部在2021年全年累计开展12批次技术抽检,通报了1549款违规APP,下架了514款拒不整改的APP。
在涉诈风险提示方面,2022年11月以来,工信部反诈专班已在官方公众号上发布了20多期涉诈高风险APP名单,为广大网友提示了包括以山寨APP为代表的仿冒类诈骗以及彩票类诈骗、贷款类诈骗等多种APP涉诈类型。
经过多轮整治,APP行业乱象已有改观,但仍有部分软件运营方、分发平台通过“打擦边球”或是一些违规“新花招”逃避监管。
专家表示,APP行业的规范和监管需推动各方实现协同治理,建立长效机制。一方面,APP的运营、分发、使用涉及诸多环节,软件运营方需以用户为中心,依法依规安全经营;分发平台要加强审核把关,设立准入门槛;用户需加强自我保护意识,善用相关举报平台;监管部门则要严格监督,对相关乱象予以及时的指导和规范。另一方面,网络世界发展日新月异,APP领域的各类乱象也并非静止不变。因此,要在协同治理的基础上建立长效监管机制,既要抓落实防反弹,也要不断甄别和应对新乱象,促使APP领域真正实现健康规范的可持续发展。(徐嘉伟)
(文图:赵筱尘 巫邓炎)