多选题 各大公司在推出自家的大模型系列的时候,也预见了模型越大,部署所需算力越大的瓶颈,故给出了模型的量化版本,这些量化版本模型对哪些模型部署推理的场景更加友好?

A、 端侧部署
B、 云端部署
C、 集群部署
D、 边缘侧部署
下载APP答题
由4l***hs提供 分享 举报 纠错

相关试题

单选题 虽然目前大模型在语言理解、问答等方面表现出了优秀的能力,但还存在一些问题,比如回答中会出现杜撰、编造的事实、数据等,这叫大模型的什么现象?

A、 幻觉
B、 过拟合
C、 欠拟合
D、 泛化

单选题 某公司希望可以根据用户prompt自动为用户生成头像,可以选择以下哪个模型实现?

A、 Stable Diffusion
B、 BERT
C、 GPT-3
D、 DALL.E

单选题 当模型突破某个规模时,性能显著提升,叫做大模型的涌现能力,以下哪个选型不是大模型涌现的能力?

A、 上下文学习
B、 逻辑推理
C、 常识推理
D、 语音合成

单选题 MindX包括多个组件,提供了集群调度、边缘推理、应用快速开发等功能,其中哪个组件提供了开源模型下载功能?

A、 MindX SDK
B、 MindX Edge
C、 ModelZoo
D、 MindX DL

单选题 John在使用模型生成文本时,发现模型会产生不准确、无关或虚构的信息,这是模型的什么特性?

A、 幻觉
B、 过拟合
C、 欠拟合
D、 可解释性

单选题 大语言模型基于Transformer架构延伸出不同的路线图,BERT属于其中哪一种路线图?

A、 Encoder-Only
B、 Decoder-Only
C、 Encoder-Decoder
D、 以上都不是

单选题 John准备学习使用大模型,关于大模型的以下描述中,错误的是哪个选项?

A、 大模型的参数量很大
B、 大模型需要大量的训练数据
C、 大模型具有很强的泛化能力
D、 大模型可以完全模拟人类思维

单选题 某公司打算通过量化来减少模型推理时的内存占用,在量化时量化预训练的浮点模型,并使用部分训练数据来校准模型,这是采用了哪种压缩方式?

A、 模型剪枝
B、 训练后量化(PTQ)
C、 知识蒸馏
D、 量化感知训练(QAT)