人工智能时代:打造AI基础平台是关键

现阶段,在政策和市场的双重驱动下,人工智能已经获得长足的进步和发展。随着 AI 技术在业务中的广泛应用,搭建自己的 AI 平台便成为了最近两年很多企业的重点战略规划。

如何打造能够满足不同业务需求的高性能 AI 基础平台?如何满足不同产品、不同阶段对 AI 能力的诉求?

QCon+ 案例研习社即将上线《高性能 AI 平台的建设与应用》专题,腾讯、虎牙和华为等大厂的技术专家分别介绍了 AI 技术在企业各业务场景的应用实践,解读深度学习的一些前沿技术,获取关键技术解决方案。以下是专题案例详情:

案例一:

腾讯从 GPU 集群建设,到大规模的虚拟机 / 容器调度,最后到深度学习框架和组件的优化,都能提供全栈的解决方案,帮助 AI 工程师达成目标。目前支撑了腾讯内部游戏 AI、CV、信息流、NLP 等主流业务场景下的深度学习模型训练。

演讲提纲:

业务场景需求

深度学习平台整体架构

大规模 GPU 调度系统

深度学习加速

业务效果和演进方向

你将收获:

对深度学习平台有完整全貌了解

介绍深度学习的一些前沿技术和其实际落地情况

案例二:

针对大规模标注数据交付难的问题,虎牙 AI 平台在引入外部标注团队的同时,开发了 AI 辅助标注技术,提升标注的人均和平台交付效率。

在模型生产环节,虎牙 AI 平台提供了多种产品形态满足不同 AI 应用、不同阶段的需求,比如 Notebook 用于数据处理、模型构建,工作流平台满足模型自动化迭代的需求,大规模分布式训练平台解决模型训练时间过长的痛点。

最后,虎牙 AI 平台的跨平台推理加速引擎,帮助算法工程师屏蔽底层复杂的异构计算环境,实现跨平台的模型优化和一键部署。

演讲提纲:

AI 技术在直播场景中的应用及面临的挑战

虎牙 AI 平台技术架构演进

一站式机器学习平台建设

规划和展望

你将收获:

机器学习端到端的工作流程

混合云架构下的 AI 基础设施建设

互动直播场景的 AI 工程实践

案例三:

当前边缘 AI 的主流模式是“云上训练,端边侧推理”,但是边侧模型性能受限于资源,训练数据仍需上云,另外边侧模型同质,效果不能达到最佳。面对边缘资源受限、地理分布、数据有偏、场景化等特点。

此案例将介绍一个基于开源 KubeEdge 平台的边云协同 AI 框架 SolarCorona,提供边云协同推理和边云协同训练能力,能快速开发具备边云系统 AI 能力的边缘应用,在边侧资源受限、小样本冷启动、数据隐私保护条件下,显著提升模型推理准确度 10~20%。SolarCorona 框架包括多目标模型组的生成、边侧模型增量学习和边侧数据不满足 IID 条件时的联邦迁移学习等特性。

演讲提纲:

边缘 AI 现状与技术挑战

边云协同 AI 框架 SolarCorona 架构

边云多模型协同推理微服务

边云协同训练微服务

案例介绍

你将收获:

了解边缘 AI 的应用场景、价值和技术挑战,与传统离线 AI 和云上 AI 应用的差异;

了解边云协同 AI 框架 SolarCorona 框架,以及如何基于此框架开发具备边云协同 AI 能力的应用;

了解边云协同推理和训练模式对当前边缘 AI“云上训练,端边推理”模式的效果提升,并了解一些关键技术方案。