当前位置:首页 > 资讯 >  > 正文
AI为什么会犯错?华为周红:AI面临三大挑战
来源:中国科学报  时间:2023-04-21 04:59:56
字号:

ChatGPT横空出世,让很多人开始发问:未来人工智能(AI)是否无所不能?


(相关资料图)

但AI软件的一些低级错误也让人哭笑不得。例如,一张熊猫图片加上肉眼几乎不可见的小噪声,就可能被识别成长臂猿。这些对人来说一目了然的问题,人工智能为什么会犯错?

在4月19日举行的华为第20届全球分析师大会上,华为战略研究院院长周红指出, AI在能力快速提升的情况下,还面临三大挑战。

打破条条框框

过去十年,AI算法的算力需求提升了40万倍。在象棋、围棋等能力上,AI已经毫无疑问超越了人类。自动驾驶、图像识别、语言文字处理等成为AI正在攻克的“山头”。

周红认为,虽然能力在快速提升,但AI目前还面临着目标定义、正确性与适应性以及效率3个重大挑战。

智能的目标是什么?解决新问题、提升学习能力还是独立思考?周深指出,目前学界除了通过规则和法律来加强AI的伦理和治理外,还缺乏达成共识的目标定义,很难确保AI发展的目标与人类一致,也很难合理地分类和科学地计算。

其次,正确性和适应性挑战。依靠大数据统计规律进行的学习,会依赖于采样的覆盖面和数据的正确性,如果错误使用,就可能导致结果不稳定和偏见的风险,出现“黑天鹅”事件。至于人工智能为什么会犯错,周红表示:“这很难解释,因为AI的能力分布在巨大的参数中,出了这些问题,我们既无法解释、也难以调试。”

第三个挑战来自效率。

2022年全球超级计算机Top500排名第一的Frontier,计算性能约1102PFLOPS,能耗2100万瓦;相比之下,人脑只需要20瓦就能等效处理30PFLOPS的计算。也就是说,超级计算机单位能量的计算效率要比人脑低约3~10万倍。要论计算效率,甚至乌鸦也可以秒杀超级计算机。

除了计算,周红认为,人类大踏步迈向智能世界,还需要解决未来通信这一核心问题。

75年前,香农提出三大定理,奠定了通信的数字理论基础,也给出了信号传输的极限。但在当时,传播环境比较简单,没有考虑高楼大厦林立的场景。而近年出现的一些新物理现象和技术,比如自愈性非衍射波束、轨道角动量OAM电磁场传播、飞秒激光器,人工智能等,都在香农当年的视野之外。

周红指出,要打破既有理论与技术瓶颈的条条框框,在通信网络上实现成百上千倍的提升。

拥抱智能时代

2022年,AI系统AlphaFold预测出超过100万个物种的2亿多个蛋白质结构,震惊学术界。

面对挑战,周红建议从实用的角度来发展知识和智能。

目前,华为与北大一起提出了基于元动力学的药物靶点发现和构象搜索算法,加速小分子遍历蛋白质的过程,将传统方法的37天缩短到6小时。

华为推出的盘古气象大模型,通过更精准、高效的学习与推理机制,从大自然历史运转出来的数据中提取出全球气象先验知识,代替传统的超大规模偏微分方程的时序求解,可以快速完成全球未来1小时到7天的天气预报,预测精度比欧洲中期天气预报中心高20%以上。

周红在演讲 陈欢欢摄?

在产业应用中,华为AI辅助电力、煤矿、交通、制造等多个行业提升效率和安全性。例如,在深圳机场,智能机位分配系统每年可以使得260万名旅客免坐摆渡车。在矿山中,华为的工业物联网操作系统通过模型训练与推理,可以实现瓦斯浓度的超前预警、作业序列的风险防范和作业质量的智能验收。

“在计算产业,未来算力将像水和电一样,触手可及、随需随用。”在本次大会上,华为轮值董事长孟晚舟表示,对华为来说,数字化是战略选择,而非技术驱动。

华为估计,2026年全球数字化转型支出将达到3.4万亿美元,成为整个产业链的新蓝海。预计到 2030 年,全球联接总量将突破 2000 亿。与此同时,企业网络接入、家庭宽带接入、个人无线接入将迎来万兆联接的时代;通用算力将增长10倍、人工智能算力增长500倍。

标签: