北京2022年3月29日 /美通社/ -- 马达智数与浪潮信息通过“元脑生态”合作,帮助中国信息通信研究院云计算和大数据研究所(以下简称“信通院云大所”)构建了AI数据集服务平台,实现AI数据的全流程管理与维护,可节省约80%的数据流转时间和60%的资源开销,使开发效率提升50%以上,有效降低用户使用难度,全面服务AI应用创新,助力AI应用的产业化落地。
数据之困 AI创新面临三重难题
信通院云大所希望能够构建一体化AI基础设施,解决AI数据从收集、整理、存储归档,到调用的全流程维护工作。在这一过程中,遇到了三大问题。
首先,要解决数据来源的问题。AI模型训练需要海量数据,以语音识别模型为例,要训练出能应对各种场景、语速、口音、口语等复杂情况的高准确度语音识别模型,至少需要1000个小时以上的训练数据,按每条数据平均4秒时长计算,数据量至少在90万条以上。文字识别OCR算法训练需要的图片数量则达到百万级别。如果仅从业务过程中获取数据,不仅获取难度很大,而且在数据多样性、数据规模等方面也很难满足AI训练的基本需求。
其次,如何保证数据质量。在大多数AI模型训练任务中,“垃圾输入”会带来“垃圾输出”。包括深度卷积神经网络在内的监督学习方法依赖的是经过适当标注的优质数据,特别是需要大量专家知识的专业领域,更是对于大规模标记数据的可用性有着极高要求。
最后,如何更有效地存储和更新数据。在AI应用中,数据的增长是几何级数的。使用传统的集中式存储和集中式通信模式,往往无法通过一个巨型单点支撑主流AI模型的体量,存储和通信能力都是瓶颈,而且效率会非常低下。
元脑赋智 打通AI数据“任督二脉”
马达智数是国内最早、最专业的AI基础数据服务器商之一,致力于为AI产业链的相关客户提供高质量、标准化的定制数据集服务,助力AI场景化应用快速落地,拥有5000+商业AI数据成功案例。2019年,马达智数与浪潮信息达成了元脑生态签约,共享浪潮信息在AI计算、资源与算法方面的全栈能力,共同打造领先的AI数据服务和丰富的AI生态体系,助力AI应用的产业化落地。
马达智数与浪潮信息在元脑生态的框架下进行了紧密合作。双方联合推出了业内领先的AI数据一体机,整合了浪潮AI服务器、浪潮资源平台AIStation、马达智数全系列AI数据产品与服务,具有高度集成、一键部署、配置灵活等特点,能够帮助行业AI用户高效地获取、加工和管理数据,并开展模型训练,助力用户快速、低成本地实现AI技术导入。
在信通院云大所AI数据集服务平台项目中,马达智数携手浪潮信息提供了基于AI数据一体机的一体化解决方案。方案使用高速IO扩展、大容量内存的浪潮AI服务器作为硬件平台,为数据收集、存储、标注和管理提供强大的计算力支撑。并集成图片类、文本类、语音类等常用数据集,通过数据标注平台提高数据质量,满足信通院云大所基础测试、算法开发等需求。同时将已有的分散的各项系统数据集中于AI数据集服务平台进行统一管理、协同处理,构建智能开发一体化环境。
通过对数据的统一管理调度,该方案有效降低了数据流转时间和资源开销,可节省约80%的数据流转时间和60%的网络、计算和存储资源开销。数据收集和标注平台的整合接入,则大大提高了数据加工环节的效率,用户可以直接通过数据标注平台标注数据,并实时查看数据质量。同时,提供稳定的人工标注服务,可使开发效率提升50%以上,有力地支持了口罩识别、语音识别等AI模型训练与应用。
信通院云大所AI数据集服务平台是马达智数与浪潮信息在元脑生态中达成的重要合作成果。未来,马达智数将继续携手浪潮信息,与更多的元脑生态合作伙伴一起“走出去”,携手搭建起直通产业应用场景的“桥梁”,推动AI应用在更多场景和行业落地。