孟樸进博会谈5G+AI趋势，高通从骁龙终端侧推动生成式AI普及

　　第六届进博会期间，高通公司中国区董事长孟樸接受澎湃新闻采访。他表示，今年是高通公司第六年参展进博会，这六年，高通的5G技术和应用一直在向前进步。自从去年ChatGPT出现以后，生成式AI一直非常的热门，各种应用都开始使用生成式AI。高通作为一家技术公司，致力于推动基础技术的发展，在生成式AI领域，高通现在所做的是在终端侧推动生成式AI的落地普及。所谓终端侧AI，指与云端AI相对应，例如运行在高通骁龙5G智能手机、PC之类智能终端的AI大模型。

　　孟樸介绍了高通在终端侧AI的进展。在今年2月份，高通就对外展示业界首个运行在智能手机上的生成式AI大模型，一个10亿参数的Stable Diffusion。用户只需输入文字指令，不需要联网，就能在手机上通过20步推理，在15秒内，生成一张文字内容对应的图片。当时运行的平台是第二代骁龙8，而这次进博会高通带来第三代骁龙8平台，可以运行100亿参数的生成式AI大模型，参数规模是上一代的10倍。而运行相同任务的耗时不到1秒，是上一代平台的十五分之一。这一代骁龙5G移动平台的产品无论是在AI算力上，还是能效比上，都取得巨大的进步。这次高通展台就有展出小米、iQOO所带来的第三代骁龙8 5G智能旗舰。

　　今年高通展台主题为“让AI触手可及”，高通除了将强大的生成式AI带入智能手机，还展示专门为生成式AI打造新一代AI PC芯片，也就是骁龙X Elite，这款芯片算力可达75TOPS，可运行AI大模型规模更是提高到130亿参数。有了强大AI大模型的支持，用户在使用笔记本电脑时，可以让AI帮忙制作PTT，帮忙生成文字文案，帮忙更精准的搜索信息，从而提高笔记本的生产力和娱乐能力。除了智能手机和PC，高通还将100亿参数级别的生成式AI大模型应用到智能网联汽车，让人们能够用自然语言与汽车进行交流，提高用户驾乘体验。

　　孟樸还解释了终端侧AI的重要性。首先是终端拥有许多传感器，可以获取用户场景信息，例如地理位置、使用状况等，从而让AI生成更为贴近用户当下的内容。同时这些信息在本地AI大模型上就可处理，不需要上传云端，增加了数据的安全性。此外目前云端AI面临这巨大的算力瓶颈，而类似高通骁龙5G终端所支持的终端侧AI正变得越来越强大，可以有效分担云端服务器压力，同时还可以减轻网络带宽成本。高通所做的是降本增效，从终端侧推动生成式AI在全球范围的拓展普及。