高通:混合AI对生成式AI规模化扩展至关重要
发布时间:2023-09-06 09:32 来源:中国网 阅读量:7325
5日,高通公司在2023年服贸会现场发布《混合AI是AI的未来》白皮书。该白皮书认为,混合AI方式适用于几乎所有生成式AI应用和终端领域,这一方式对推动生成式AI规模化扩展,满足全球企业与消费者需求至关重要。
何为混合AI?根据白皮书,混合AI指终端和云端协同工作,在适当的场景和时间下分配AI计算的工作负载,以提供更好的体验,并高效利用资源。
“AI正以惊人的发展速度和强大的创新潜能,快速走进人们工作生活的方方面面,其变革千行百业的趋势日益明显。”高通公司全球副总裁侯明娟在发布会上表示,“终端侧AI是实现混合式AI架构、扩展生成式AI至全球更广范围的关键。”
白皮书指出,随着生成式AI正以前所未有的速度发展以及计算需求的日益增长,AI处理必须分布在云端和终端进行,才能实现AI的规模化扩展并发挥其最大潜能——正如传统计算从大型主机和瘦客户端演变为当前云端和边缘终端相结合的模式。
白皮书认为,与仅在云端进行处理不同,混合AI架构在云端和边缘终端之间分配并协调AI工作负载。云端和边缘终端如智能手机、汽车、个人电脑和物联网终端协同工作,能够实现更强大、更高效且高度优化的AI。
此外,白皮书认为,生成式AI用例将持续演进并成为主流体验,云端和其基础设施需求将不断增加。凭借终端侧AI的先进能力,混合AI架构将规模化扩展,以满足企业和消费者的需求。