人工智能如何做到可信、可用?专家热议:把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态,是人工智能技术能做到可知、可信、可控、可用。而在现实中,人工智能技术手段虽然非常强大,但是离完美、完善仍有相当的距离。从技术角度和技术应用角度,人工智能的发展如何做到扬长避短?
近日,在2022人工智能合作与治理国际论坛上,专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为,现阶段很多技术还处于发展的过程中,如果过早地说这个不能用、那个不能用,可能会抑制技术本身的发展。但反过来,如果什么都不管,也不行。
“因此,现在更多还是从道德层面多进行引导。同时,做技术的人,也要尽量把一些可能的风险、抑制工具,即约束风险的工具,尽快想明白。自己也做,同时号召大家做,两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为,我们要保证能够创新,但同时不能让创新对我们的生活产生破坏性的影响,最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时,社会也要进行集体的监督,发布某个产品或技术,要能够召回、撤销。在创新和监管之间,当然是需要平衡的,但归根结底,还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道,在技术可解释性方面,需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型,或者更加可解释的AI应用。
“但我们真正想落地的时候,会发现每个人想要的可解释性完全不一样。比如:模型层面的可解释,可能从研发人员角度觉得已经很好了,但是从用户的角度是看不懂的,这需要一些案例级的解释,甚至通过替代模型等方式进行解释。因此,在不同领域,需要不同的可解释能力,以及不同的可解释级别,这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中,现在是不是时候?
高文认为,人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对,可能带来危害,要么召回,要么撤销。
高文说,应用的开发者,系统提交或者最终用户让他去调整的时候,他应该有责任。如果开发者发现已经踩线了,应该给他一个保护机制,他可以拒绝后面的支持和维护,甚至可以起诉。“不能只说哪一方不行,光说是开发者的责任,他可能觉得冤枉,因为他只提供工具,但有时候是有责任的,只是说责任怎么界定。”
“在人工智能的发展过程中,一方面要建立一些红线。”田天建议,比如,对于人工智能的直接滥用,造假、个人隐私泄露,甚至关联到国家安全、生命安全的,这些领域一定要建立相关红线,相应的惩罚规定一定要非常清晰,这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上,对于处于模糊地带的,希望能留有更多空间。不光是从限制角度,也可以从鼓励更加重视伦理的角度,促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办,清华大学人工智能国际治理研究院(I-AIIG)承办,中国新闻网作为战略合作伙伴,联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
二十大代表风采丨青海林业专家张锦梅:一“梅”苦寒三十载 高原见绿满城香****** 中新网西宁10月10日电 题:青海林业专家张锦梅:一“梅”苦寒三十载 高原见绿满城香 作者 潘雨洁 深秋时节,高原小城青海省西宁市的丁香花朵早已开败。 “现在只剩叶子,你看不出它们的区别,”西宁市林业科学研究所党委书记、所长张锦梅指向山路旁高低错落的灌丛,对中新网记者说:“但到了明年四五月,这些不同品种的丁香又会竞相盛放,香气散遍山野,一路都能闻到。” 图为张锦梅在实验室工作。马铭言 摄说着,她从包里掏出剪刀,钻进树坑,边修剪枝条,边指点一旁的同事。 “这剪子她用了十几年,”西宁市林业科学研究所副所长满丽婷笑着说,“在田间地头,摆穴盘、播种、修剪……每次都跟所里的年轻人一起,手把手地教。” 图为张锦梅(中)与同事在讨论数据。马铭言 摄起风了,山上冷飕飕,张锦梅却出了一头汗。“这株是暴马丁香,街面上很常见,”她说,“还有一些适应高寒的品种,比如四川丁香、辽东丁香,种在高海拔的三江源地区,可提高城镇绿化率。” 丁香是西宁市市花,种植历史已久。但传统品种多年未经选优慢慢退化,良种率降低,影响景观效果。 图为张锦梅(中)与同事在西宁北山查看丁香树。马铭言 摄自2013年成立以来,西宁市林业科学研究所开展丁香资源调查、品种收集、适生筛选等工作,先后从国内外引进收集各类丁香品种103个,建立全国首个丁香国家林木种质资源库,并通过播种、扦插、嫁接、组培等方式扩繁,培育良种。 “建立资源库后,可以长期、系统保存种质资源,为日后丁香的深入研究、杂交选育奠定种质基础。”张锦梅说。 站在西宁北山远眺,虽已深秋,周边群山绿意依旧,林丛掩映下的街区华灯初上,眼前的城市已与三十年前全然不同。 对此,张锦梅深有体会。 西宁地处黄土高原向青藏高原的过渡带,海拔2300米以上,干旱缺水、适宜树种少、春旱持续久。 图为张锦梅修剪丁香枝干。马铭言 摄“春天干风卷沙,地上升温,苗木枝干开始活动,”张锦梅介绍,“而根系地下的土壤还未化冻,营养水分无法输送,造成‘生理干旱’,存活率低。” 除了自然条件限制,上世纪九十年代,立地条件差、树种单一、造林技术落后,都直接影响苗木成活率。“那时候只能有啥种啥,年年栽树老地方,年年栽树不见树。”张锦梅回忆。 什么树能在干燥、风大、高寒条件下长期存活?张锦梅和同事们从选育树种开始探索。“选树就像选人,要选优培养。”她说,通过自然选育和人工干预,利用变异杂交出抗逆性更强的品种,还要经得住多年野外环境的检验,才算成功。 图为西宁北山上的丁香树。马铭言 摄“适地适树”培育的同时,他们也在不断改进旱作造林综合技术,根据不同梯度、立地条件,开挖水平沟、鱼鳞坑,整地节流、蓄水保墒;并采取株间、行间、带状混交模式,造“乔灌草”复层生态林,既可避免大面积病虫害,又能较好地发挥生态功能。 近三十年间,西宁市区南北两山森林覆盖率从7.2%上升到79%,在张锦梅看来,数字背后是坚持换来的“逆袭”:集生态景观、防风固沙、涵养水源等功能于一体的山林环抱城市,湟水两岸绿树成荫,气候变得湿润,“晴天一头土,雨天一腿泥”的记忆已经远去。 如今,张锦梅带着她的团队,致力将绿意播向更广阔的天地。为了在严重干旱的柴达木盆地建起防风固沙的“绿色长城”,他们选择杨树“家族”中耐旱性强的小叶杨作为骨架树种,选育采穗圃,已收集近300个杨树品种,为大规模推广种植打下基础。 图为张锦梅查看丁香生长情况。马铭言 摄林木生长周期长,从播种到开花需要多年守候,选育过程更是跋山涉水,艰苦异常。很多人耐不住、等不及,但张锦梅却坚持走了三十多年,而且越走越不想放慢脚步。 “只有真正投入大自然中,才感到‘大美青海’所言非虚。”张锦梅感慨,青藏高原是独特的地理单元和天然种质基因库,丰富的植物资源尚未被充分发掘、利用,“比起成就感,更意识到自身认知的浅薄,常常觉得时间不够。” 在她引导下,青年后辈们继续着对国土绿化和乡土树种的研究、保护和利用。 “功成有我,不必在我,”张锦梅说,这篇写在青藏高原山川大地上的“论文”,正在几代林业人的接续奋斗中未完待续。(完)
|