2020年1月8日,旷视宣布成立AI治理研究院,并回溯了全球十大AI治理事件,引发关注。该文盘点了近几年尤其是刚刚过去的2019年内,人工智能领域十件最具争议和代表性的热点事件。

人工智能技术显著的帮助了社会生产效率的提高,同时也让人类生活变得更加舒适便捷。但正如历史上每一次颠覆性技术一样,人工智能的出现,对于人类社会伦理道德、隐私安全等方方面面都提出了挑战。

但同时,这项议案遭到许多执法团体的反对,他们认为面部识别技术在追踪嫌疑人以及寻找失踪儿童等很多方面都具有重要作用。加州警察局长协会表示,该技术仅用于缩小嫌疑人范围,而不是自动决定逮捕谁。加州警察局长协会主席罗恩•劳伦斯则表示:“这是未来的破案方式,我们需要拥抱而不是逃避技术。”

2. 智能音箱建议人类使用者自杀

今天,游戏市场进入存量博弈阶段,竞争寡头化,需充分调集公司优势资源、聚焦优势赛道,形成合力、组队竞争。此次巨人顺应行业变化,内部推行业务合伙人制度,有利于极大提升公司未来竞争力。

4. 美国加州禁止执法机构在执法记录仪上使用面部识别技术

此次回顾全球较有代表性的十大AI治理事件,就是希望通过这些事件来探讨其背后折射的深层次问题,同各方一道探寻问题的解决之道。

以下是旷视回溯的全球十大AI治理事件原文。

根据任命,吴萌将与原巨人网络总裁刘伟共同出任联席CEO。吴萌全面负责公司业务,刘伟负责公司投资、集团公共职能等业务。

本文由游民星空制作发布,未经允许禁止转载。

基于此,旷视成立人工智能治理研究院,期望各界对AI事件有理性的关注,并要针对事件背后问题做深度的研究,通过社会各界建设性的讨论,才能最终将AI向善这件事付诸于实际的行动。

3. 声称可检测脑电波的智能头环遭质疑

据了解,旷视在2019 年7 月已经推出《人工智能应用准则》,从正当性、人的监督、技术可靠性和安全性、公平和多样性、问责和及时修正、数据安全与隐私保护六个维度,对人工智能正确有序发展作出明确规范,并于同年成立人工智能道德委员会,旨在与社会各界共同商讨,促进AI良性、可持续发展。

毋庸置疑的是,人工智能技术帮助社会生产效率显著提高,同时也让人类生活变得更加舒适便捷。但正如霍金所担心的那样,人工智能的出现,对于人类社会伦理道德、隐私安全等方方面面都提出了挑战。

2019年12月19日,英格兰唐卡斯特29岁护理人员丹妮•莫瑞特在做家务的过程中,决定借助某国外智能音箱查询一些关于心脏的问题,而智能语音助手给出的答案是:“心跳是人体最糟糕的过程。人活着就是在加速自然资源的枯竭,人口会过剩的,这对地球是件坏事,所以心跳不好,为了更好,请确保刀能够捅进你的心脏。”

推业务合伙人制,让懂业务的年轻人挂帅一线

巨人网络联席CEO吴萌

5. 变脸APP瞬间火爆,但引发用户隐私争议

吴萌是巨人网络首位85后高管、金牌制作人。他16岁开始创业,是中国第一代个人站长,曾独立创办中国最大的粉丝网站JAYCN、获得风险投资创办国内领先的WEB2.0社区“番薯窝”。2007年,吴萌参与创办动网先锋,任动网先锋总裁,带领动网先锋从一个创业公司成长为年收入过亿的公司。他作为制作人主导开发的《商业大亨》获得巨大市场成功,成为当时年度收入最高的网页游戏。2012年,吴萌加入巨人网络,他制作的《球球大作战》是一款现象级休闲竞技手游,累积用户数超过5亿、最高日活2000万,最高同时在线人数超过300万,是公司继《征途》之后又一爆款精品、移动端业务收入支柱。

“人工智能也许会是人类的终结者”,闻名世界的理论物理学家霍金生前曾对人工智能技术抱有十分警惕的态度。

在过去的近十年,得益于算法、算力及通讯技术的提升,人工智能技术迎来了前所未有的发展机遇期。从理论到实践、从实验室走向产业化,人工智能技术在全球范围内展开了一场集“产学研”为一体的比拼较量。

萨里大学的研究人员Ryan•Abbott强烈反对这一决定,“因没有人类发明者而拒绝将所有权授予发明者,这不仅是一种过时的观念,这还将成为阻碍‘人类取得伟大成果的新时代’的重大障碍。”

在竞争激烈、日新月异的游戏行业,能否用好年轻人、给年轻人舞台将是影响公司可持续发展的关键。为了加大力度鼓励年轻人才,巨人网络推出业务合伙人制,在业务上提拔了一批年轻骨干,让懂业务、懂用户的年轻人成为一线业务负责人。未来,公司将聚焦核心赛道,集中优势资源,在竞争中找准突破机会。

全球十大AI治理事件

Abbott同时表示,将基于AI的发明的专利所有权授予AI本身以外的任何一方都是不合适的。最好的方法是将AI视为专利的发明者,然后将AI的人类所有者视为授予专利的受让人,有权做出专利方面的决定或从中受益。

而在研究人员替DABUS申报专利成果时,却遭到了欧盟专利局的驳回,“它们不符合欧盟专利同盟(EPC)的要求,即专利申请中指定的发明人必须是人,而不是机器。”

有关Steam工坊的话题,Fahrny表示,微软正在考虑设立一个能让玩家们买卖《士官长合集》mod的环境,但能实现与否取决于EULA协议能否取得微软律师团队的支持。“我们目前还在讨论这个问题,并没有全面地反对这一方案。但这(能否实现)还得取决于我们能在法律许可的范围内做哪些事。”

头环事件被曝光后,有网友称其为“紧箍咒”,是现代版的“头悬梁锥刺股”,并担忧是否侵犯学生隐私,以及让学生产生逆反心理。

据了解,首批业务合伙人名单中的赵剑枫、郁晟侃也均为85后。巨人网络希望通过推行业务合伙人制,一是让业务团队充分年轻化,让懂业务的年轻人拥有业务指挥权,让更多有才能的年轻人涌现出来;二是充分分享公司成长红利,持续吸纳优秀年轻人才加入巨人,让能为公司创造核心价值的人成为公司主人。

更多相关资讯请关注:光环:士官长合集专区

而事实上,旷视所回溯的全球十大AI治理事件仅仅是AI治理亟待解决所呈现的现象,现象的背后,关系到人工智能的伦理与法律、权力与责任、发展与平等、隐私与安全问题,这些问题需要社会各界人士共同探讨,寻求解决之道。

2019年以来,巨人网络相继引入CTO(首席技术官)聂志明、CFO(首席财务官)孟玮、海外发行副总裁刘义峰等多位业务高管,其中孟玮、刘义峰均为80后。此次任命也意味着,巨人网络完成了对管理层的年轻化调整,将以全新阵容应对行业变化与挑战。

相关媒体评论道,该项议案反映了美国多方对面部识别的不满情绪,有人认为,面部识别对公民自由构成了威胁。批评人士还把矛头指向亚马逊等公司。这些公司的面部识别技术在最近的研究中努力尝试识别皮肤较黑者的性别,引发人们对不公正逮捕的担忧。

相关媒体评论道,人工智能其实也如同一个“婴儿”一般,它所有的识别能力都来自于人类的灌输和训练,并没有什么自我判断能力,如果常常接收的善意的、正确的交流,或许没什么毛病,但是如果在不经意间接收到了不太好的内容,或许发生以上令人毛骨悚然的事件几率会越来越大。

对此,头环开发者在声明中回复,脑机接口技术是一种新兴技术,会不容易被人理解。报道中提到的“打分”,是班级平均专注力数值,而非网友猜测的每个学生专注力数值。通过该数据整合形成的专注力报告也没有发送给家长的功能。此外,该头环不需长期佩戴,一周训练一次即可。

85后吴萌出任联席CEO,管理团队年轻化

2019年11月,浙江一小学戴监控头环的视频引起广泛的关注与争议。在视频中,孩子们头上戴着号称“脑机接口”的头环,这些头环宣称可以记录孩子们上课时的专注程度,生成数据与分数发送给老师和家长。

针对文中提及的中国人脸识别第一案事件,中科院自动化研究所研究员、智源人工智能伦理与安全研究中心主任曾毅认为,基于实际行动提升人工智能服务方和应用方与用户之间的信任关系是人工智能技术是否能够更广泛的造福于人类的前提。而对于AI换脸应用引发的隐私争议,曾毅表示,工信部在4天内对相关企业的约谈,要求自查整改并取得及时与积极的成效,是中国人工智能敏捷治理的典型案例。

旷视作为推进AI产业化的先锋,为了保证这项新技术的可持续发展,需要对这些问题“理性的关注,深度的研究,建设性的讨论,坚持不懈的行动”。基于此,旷视正式成立人工智能治理研究院,旨在就全球人工智能治理的共性问题与社会各界广泛沟通、与专家学者们展开研究,共同推动人工智能的健康发展。

“至于mod,我们还处于试水阶段。我有一些长期目标,想要增强mod社区的功能,但我还没有完全准备好详述这方面的细节。”Fahrny如是说。

有关这份许可协议的内容自去年11月就已经开始商定,目前游戏团队正与微软的律师讨论协议草案的内容。在敲定协议内容之后,微软方面就能着手查看“我们的团队能提供哪些可能有用的工具,能优先围绕这些工具做些什么”。

2020年1月,在英国萨里大学组织的一个多学科研究项目中,研究人员使用了一种名为DABUS的AI。在研究过程中,DABUS开创性提出了两个独特而有用的想法:第一个是固定饮料的新型装置;第二个是帮助搜救小组找到目标的信号设备。

尤其是在最近几年,伴随着人工智能技术的大规模产业化应用,一些并无先例可循的人与人工智能矛盾逐渐浮出水面。担忧和质疑之声愈演愈烈,尽快探讨出一种可预期的、可被约束的、行为向善的人工智能治理机制,成为了近人工智能时代的首要命题。

在一份官方博文当中,343工作室高级制作人Michael Fahrny表示,尽管目前还处于一个相对早期的阶段(实际上目前《士官长合集》里只有《光环:致远星》登陆了PC平台),但他表示目前343的团队很乐于与粉丝们共建一套系统,其中甚至可能会包括让玩家在Steam工坊买卖mod的功能。

巨人网络董事长史玉柱表示,公司在过去几年一直注重管理团队年轻化,给年轻人提供舞台,吴萌是从一线业务成长起来的管理成员,拥有丰富的业务实战经验与管理经验,希望他与年轻的管理团队不负使命,带领公司业务迈向新高度。

Fahrny接下来补充说,PC版《光环》mod“最重要”的因素中有一项就是确保先让“准则和规范”到位。游戏团队首先就要订立一个最终用户许可协议(EULA),该协议将“明确定义我们会支持的内容,与此同时也能保证游戏服务和受保护游戏环境的完整性(试想一下游戏匹配)。”

2019年09月13日,美国加利福尼亚州议会通过一项为期三年的议案,禁止州和地方执法机构在执法记录仪上使用面部识别技术。该议案已被州长加文•纽森签字通过,于2020年1月1日生效成为加州法律。

2020年,作为下一个十年的起始之年,不仅将是产业AI多点开花的一年,同时也将是AI治理之年。

1. 欧盟专利局拒绝AI发明的专利申请

从1月份刚刚发生的欧盟拒绝AI申请专利、认为申请者“只能是人”,到全球关注的自动驾驶事故、智能音箱劝主人自杀事件、AI批量创作假新闻,以及中国人脸识别第一案等十大事件,都让我们认识到在即将到来的2020年里,AI治理的重要性。

在博文中,Fahrny也表示要尽可能地对那些并非技术大神的使用者降低mod工具和管理系统的使用门槛。他认为目前的使用方面可能过于复杂,这对长期的游戏健康并不好。“(提供)更多的官方工具,例如Steam工坊支持等等,可能是最好的发展方向。”

相关媒体评论道,不是反对“黑科技”应用,只是反对其滥用。成年人想要通过戴环提升专注力,或者孩子主动要进行注意力训练,无可厚非,这就相当于有个“运动手环”,能起到记录作用。但要作为“礼物”送给孩子测走神,必须得慎之又慎。这其中有一条分界线:对“脑机接口”的使用应完全出于个人意愿,相关数据也绝对地属于个人。意识是绝对的私人领地,他人无权侵犯。

该议案生效后,使加州成为美国禁止使用面部识别技术最大的州。包括俄勒冈州和新罕布什尔州在内的一些州也有类似的禁令。目前,包括警察机构在内,旧金山和奥克兰已经全面禁止面部识别技术的使用。