3月26日至29日,博鳌亚洲论坛2024年年会在海南博鳌举行。在一场有关人工智能的分论坛上,中国工程院院士、清华大学智能产业研究院院长张亚勤,表达了他对未来人工智能的看法。
记者:你今天上午参加的论坛,你的观点是什么?
清华大学智能产业研究院院长 张亚勤:这个论坛谈到生成式人工智能本身的一些机会,也谈到它的一些风险和治理,我觉得人类有两种智慧,一个是创造新技术的智慧,另外一个是控制技术方向,引导技术方向的智慧。
无论在学术界、工业界,还是在人工智能前沿研究与产业应用领域,张亚勤都有着辉煌的履历,他曾在微软公司工作16年,历任微软亚洲研究院院长兼首席科学家、微软中国董事长;之后五年,担任百度公司总裁。2019年底,张亚勤正式受聘于清华大学,牵头组建清华大学智能产业研究院并担任院长。在AI大模型出现后,他不断透过媒体分享AI的应用前景。
记者:对于普通人来说,对于我们的改变就是生活中出现了两个新的名词ChatGPT和Sora。但是对你们专业人士来说,就这两个东西的出现意味着什么?
张亚勤:意味着机器将会达到和人一样聪明的程度,就是它的能力会和人一样甚至更强。
记者:是跟我们一样聪明还是比我们还聪明?
张亚勤:它比我们更强大。
AI是人工智能的英文缩写,是一种由人制造出来的机器,这种机器可以模拟人的思想和行为,从而体现出一种智能反应。从小爱同学到小度,再到击败人类职业棋手的人工智能机器人阿尔法狗,AI早已走进人类的生活。但近期出现的以ChatGPT和Sora为代表的生成式AI,却带给人们前所未有的震撼。撰写文案、编写代码、根据文字生成视频,震撼之余,也不断有人发出警告。
张亚勤:比如说你在做内容产业,可能现在已经在影响你了。你做文字的、做图片的、做视频的、做广告业的现在已经开始在对你产生影响,这个影响可能是正面可能负面。但是对物理世界的影响,就大模型用到的,比如说机器人、无人驾驶,我们所有的设备上,还需要一点时间。然后生物世界,比如说人脑接口,新的生命体、新的生物体这个需要可能更长的时间。
记者:多久,几年?还是十几年?
张亚勤:我有一个大致的判断,我用图灵测试,图灵测试是做计算机和人工智能鼻祖艾伦·麦席森·图灵当时在50年代提出一个测试,就是说,我和你对话,一个是人一个是机器,我在很多轮对话之后,我搞不清这个是人还是机器的时候,就通过了我这个测试,人和机器基本上分不出来了。我觉得现在我们已经通过了在文字方面的图灵测试,在图像和视频方面很近了,可能两年到五年时间,这个时候我产生的图片和视频,你就看不出是AI产生的还是人产生的。再过五年,我们在机器人,特别是人型机器人,和无人车方面已经通过图灵测试,可能开得比人都好了,开车。
记者:最后生物世界呢?
张亚勤:生物世界需要更长的时间。生物世界已经是个必然的趋势了,我们的机器,人工智能的大模型,和我们生物世界、生命世界会连在一块。通过比如说像脑机接口,可以是侵入式也可以是非侵入式的,这种生物芯片,或者是传感器。也可以帮助我们去制药,可以做医疗,这个已经在发生了。但真正大规模联动的话可能至少需要10年的时间。我讲这个就是说,我们可能在20年左右,会看到人工智能在几乎所有的领域都会比我们人类的能力要强,这是件好事,由于给了我们特别强大的工具。
在ChatGPT出现之前,曾有不同机构对人工智能如何影响未来人们的就业情况进行预测,有一家著名管理咨询公司2016年的报告,预测未来将有众多的工作被人工智能取代。而ChatGPT的出现,似乎在加速这一进程。
记者:在面对AI带来的种种新的条件的时候,我们要做什么?
张亚勤:我觉得整体来讲有三种人。任何一个技术来临的时候,有三种人。一种人是和我无关,我该做什么就做什么。另外一种是焦虑,我被淘汰了怎么办。还有第三种人,他会积极学习技术、了解技术,会拥抱它、会使用它。我们大部分人肯定不会知道大模型里面算法是什么样的,我们也不需要知道,但是我们要会使用这个工具。比如像ChatGPT,它里面怎么工作你也不需要知道,但是它能帮你什么你要知道,像Sora这样的图像视频的制作工具,你也不需要知道它里面的原理,但你要知道怎么用它,对你的业务、你的工作会有什么样的影响。我觉得可能正面是大部分的,但是会有一些行业,有一些工作也会消失的。但是整体来讲的话,社会的生产力会大幅度提高,所以现在讲到新质生产力其实很有道理的。“人工智能+”包括作为智能社会的基础设施的底座,它会大幅度改变改善我们生产力。
为人工智能欢呼的同时,张亚勤也同时在不断提示人工智能的风险。事实上,在很多人尚未熟悉人工智能时,风险已经降临。
张亚勤:这些风险一个是信息世界的风险,它给你生成虚假的信息,包括人为作假、深度伪造这些会给我们带来风险,比如说现在金融领域,在香港有一个财务人员他和公司开会,这里面有首席财务官还有别的财务人员。让他转账两个亿他就转了,最后发现他是唯一一个真的财务人员,别的人都是伪装的。
张亚勤所说的案例发生于香港,当地一家跨国公司的员工,在多位高管参加的视频会议中,接受指令将2亿港币转到不知名账户,5天之后才发现被骗了。香港警方在通报中称,以往的AI换脸诈骗,一般都是一对一的。这次骗子用视频电话会议的形式,伪造了一个高管团队,让可信度大幅上升。参与视频会议的都是真人,然后通过人工智能换脸,把骗子的脸和声音都换成了对应的高管的脸和嗓音,下达了转账的指令。
记者:他不认识吗?
张亚勤:他每个人都是生成的,生成的样子就是那个人,讲话也是。过去早期要做这个东西很困难,现在就是普通人都可以使用工具生成数字人或者换脸,让你区分不出来到底是真人还是虚拟人。所以我在讲我们生成数字人需要有标识,在法律政策层面知道这个数字人不是真人。比如说董倩,我现在技术可以生成很多很多虚拟的“数字董倩”,我根本看不出来到底是真人还是数字人,这个时候首先数字人在复制时候需要经过本人的同意。
记者:坏人不会经过我同意的。
张亚勤:对。第二点就要有标识,但是坏人他不会有标识的,也不会经过同意。这个时候他要接受法律的制裁,但目前就没有这样的,或者至少法律没有实施。我们首先就是在技术层面要知道这个是数字人,第二点在政策层面、法律层面使用数字人的时候,什么样的限制、什么样的条件,需要一个规范。第三点就是他犯法了你怎么办?
人工智能技术在给人类带来憧憬的同时,也带来了抹不去的隐忧。如果有一天机器人变得和人一样聪明甚至比人还要聪明,那么,人类会不会受到人工智能的威胁?著名物理学家霍金就曾与多位科技界名人发表联署公开信,表示人工智能对人类的威胁更甚于核武器。特斯拉首席执行官马斯克也发文称,人工智能是人类最大的威胁之一,需要引导控制。
记者:因为我们知道在奥本海默他们研究原子弹的时候,当他们发明出来这样的一个武器,他们作为科学家意识到了,后来是什么,但是他们也仅仅是意识到了为止。对你们来说,意识到不做,可不可以?
张亚勤:不可以。技术也好,工具也好,最终要为人类服务。我们是唯一一个物种可以发明出、创造出比我们更强大、更聪明的工具,同时我们也是唯一的物种,可以发明摧毁我们自己的工具。我们希望不要再做出原子弹来了,我一直想说,我们要打造一个善良的AI,教育它让它做善事,为我们服务,而不是失去控制,而不是去对抗人类,或者控制人类。
记者:它也会长大成人吗?
张亚勤:会,AI不断去有更多的数据、有更多的算力、有更好的算法,它肯定会越来越强大,强大要善良的强大。
3月10日至11日,“北京AI安全国际对话”在北京举行,张亚勤和相关领域的三十多位专家围绕国际AI安全技术前沿研究、产业应用实践等话题展开深入探讨,共同拟定并签署了《北京AI安全国际共识》,提出人工智能风险红线及安全治理路线,呼吁“在人工智能安全研究与治理上的全球协同行动,是避免不受控制的前沿人工智能发展为全人类带来生存风险的关键。”
记者:你们防谁呢?
张亚勤:我们防坏人。人99.9%是善良的,但是当0.1%的人是邪恶的,我们必须让善良战胜邪恶。所以我是乐观的,但是乐观不等于什么都不做。
记者:要做什么呢?
张亚勤:我们必须要从技术上、从政策法规上来规范人工智能。
记者:完全靠科学家自己吗?
张亚勤:科学家要有自律,同时是需要政策法规监管的力量。
记者:但问题监管的人根本就不懂你们在做什么,怎么监管?
张亚勤:你讲得太好了,所以说我们要在一起。我们现在最近有几个机构,就是把技术的人和监管的人一开始就在对话,大家建设性对话,这样才能把风险在没有发生时候就控制住。我一直讲边界很重要,另外就是全世界要一起合作。
记者:没错,这正是我想问你的。这是不是每一个从事人工智能,在初期起步研究时候的科学家题中应有之意?
张亚勤:是,所以最近我们中国的科学家和英国的、美国的、欧盟的科学家一起开了好几次会,找出这个问题,然后来面对风险,然后来去化解它。所以我觉得这个对话的机制,特别是跨领域,包括跨国的,全球性的合作对话、合作机制特别重要。
在呼吁全球合作、建立人工智能风险对话机制的同时,中国还需在竞争中发展自己的AI技术,对此,张亚勤也多次公开表达自己的乐观情绪。2019年底,他接受清华大学邀请,组建人工智能产业研究院。在开启辉煌的职业生涯之前,张亚勤是公认的神童,1978年考入中国科技大学少年班的时候,他只有12岁。而53岁进入清华,则让他有了贯通教育、科研和产业的新机会。
记者:面对一个新的产业,这么蓬勃发展的产业的时候,你不想投身进去吗?
张亚勤:我认为投身进去,培养人才也是投身,做科研也是投身。我博士之后正好工作了30年,在美国也好,后来到了微软、到了百度,对我来讲,我是希望能到第二线来培养人才,领导科研,为长期做更多的工作。
记者:在学校可以做什么?
张亚勤:学校可以培养人才,学校可以做一些基础的科研,学校可以想得更远一些。
因为要面向产业,迎接正在到来的第四次产业革命,张亚勤主张“做有用的研究”,培养面向产业的人才。
记者:怎么个培养法?
张亚勤:你这个问题特别好,我觉得传统的院系里面只上课,教授也没有产业背景,是很难培养出未来的首席技术官和产业的领导者。所以我们在清华智能产业院里面,首先我们的老师要有产业背景,同时也有学术背景。第二点,我们要和企业合作起来做研究,我们大部分的项目是和像百度、滴滴、联想、小米,包括Intel、奔驰、BMW这样的公司一起合作研究。合作研究一方面是帮助企业解决长期的科研和技术问题。最重要的一点做项目的同时,我们的博士后、研究生也做这样的项目,做这个项目本身就对他们做工程创新是一种锻炼。这样如果他毕业之后,他就很容易去参与到企业的创新、大的工程项目里面。如果在学校里学的都是书本知识,光写一些论文,这个到公司还是有差距的。因为我原来30年都在公司里面,我是在另外一边,我看到我们培养人才和需求之间的距离。
作为清华智能产业研究院的掌门人,张亚勤认为,作为一项产业的研究者,一定要着眼未来,而不是只盯眼前。
张亚勤:学校和企业合作的时候,首先要很清楚,学校不管是老师、研究生,我们的研究人员不是工程人员,不做今天的产品。
记者:为什么不做今天的?
张亚勤:这个不是学校的优势。学校的优势是在于产生新的思想、新的技术。在公司里面,往往大部分的资源放到今天的产品,但我觉得这个的话,一个大的企业要长远发展,必须要有这样的一种远见和一些投入,十年之前,我觉得这种企业基本不存在。
记者:你说的是中国企业,还是国外企业?
张亚勤:我说中国。但是现在越来越多了,现在和我们合作的,我刚才讲的那些企业,都是在问我们,我们未来需要这样的产品,这里面有哪些核心的技术问题。或者他会问,你们在做什么样最前沿的研究,这些研究会带来什么样的能力,来规划他未来的产品战略和路径。研究院有的时候是在试错,比如说有一个技术,是否在五年中能落地?这个研究本身,这个想法是不是现实?这个其实是研究人员可以去试错。
记者:为什么不让企业自己去试呢?
张亚勤:因为企业试错代价太大,如果方向错了,5个人试和500人、5000人试是不一样的。
早在10余年前,张亚勤就在达沃斯经济论坛指出:人工智能将是这个时代最重要的技术变革力量。张亚勤认为,前三次工业革命的基石分别是蒸汽、机电和信息技术,而在今天已经开始的第四次工业革命,其基石就是人工智能,人工智能未来会成为一切事物的必需品。
张亚勤:人类很有意思,我们十几万、二十万年的历史,都是自然进化。过去的三百年开始我们已经是加速进化了,不是自然进化了。第一个就是蒸汽机的发明,摆脱了对肌肉的限制,这个时候是体力方面的解放。后来有了电力、有了互联网、有了计算机、有了手机,现在有了人工智能,对我们的智能是一个新的解放,所以我们进化的速度是加速度的。我们现在看三万年前的山顶洞人,那时候北京猿人,那个时候石器时代,他就拿石头作为一个工具,这也很了不起了,已经知道怎么使用工具了。到了今天的人类,我们有手机、有互联网、开始有人工智能了。再过五十年,五十年看我们今天的人类,和我们现在看三万年前人类可能是一样的,我拿个手机,就像石头一样的。那个时候人的本性并没有改变,只是我们的工具变得如此之强大,所以未来,我们人是一个机器智能和人类智能的融合,这个融合比现在人类更加强大,但是它还是人类的工具,是我们的一个延伸,并不会替代人类。
记者:这不仅仅是对我生存环境的改变,这对企业来说也是商机,对吧?
张亚勤:是的。你的生产力会大幅度提高,用更少人可以做更多的事,或者同样的人可以做更多的事。我是个理想主义者,我觉得也许十年、二十年之后,我们不需要每周工作五天,可能工作两天,然后别的时间就完全去做自己喜欢的事。如果看一下在工业革命早期,我们每周工作七天,后来变成六天,后来变成五天,现在欧洲有一些国家工作四天了。
记者:张先生,你刚才所预想到的一切,仅仅是可能,还是说一定会到来?
张亚勤:我觉得从我们进化,特别从人类的智慧,我认为未来是很乐观的,我相信如此,我也希望如此。
制片人丨刘斌 王惠东记者丨董倩策划丨孟克编导丨银建章摄像丨刘洪波 杨帆 高忠
以上就是本篇文章【面对面丨人工智能的未来在哪?张亚勤:打造善良的AI】的全部内容了,欢迎阅览 ! 文章地址:http://sicmodule.glev.cn/quote/10698.html 行业 资讯 企业新闻 行情 企业黄页 同类资讯 网站地图 返回首页 歌乐夫资讯移动站 http://sicmodule.glev.cn/mobile/ , 查看更多