网易首页 > 网易科技 > 网易科技 > 正文

会撒娇有情感,小米声学语音技术重磅升级!

0
分享至

(原标题:会撒娇有情感,小米声学语音技术重磅升级!)

近日,小米发布了小爱音箱Art,这款音箱采用全新的金属机身,机身扬声器开孔被设计成0.7mm厚度的金属饰板,可谓功能与质感兼具。小米小爱音箱Art通过一颗2.5英寸的全频扬声器,让声音的细节呈现得更加自然。

作为小米推出的第9款智能音箱,小米小爱音箱Art在技术上也全面升级,搭载第三代小爱同学,并支持情感化语音交互、全屋播放及就近唤醒。通过这款音箱得以看出,小米的声学语音技术已经实现全面自研,并在自研部分领域持续领先。

情感化语音交互:通过迭代声学模型,支持情感TTS

对于智能设备而言,实现情感化语音交互是一项挑战。"情感"本身就是主观的、多样的感受,一种情感可以有多种呈现形式,更适合人与人的面对面对话。情感化语音交互对技术要求较高,要技术方、数据方、质检方等多方对情感浓度、情感诠释方式等标准达成共识,将较主观的情感音素统一化、标准化。

随着人工智能技术的发展,在实现人机对话的基础上,各大厂商都在情感化语音交互的领域探索。为了让机器加入情感元素,小米AI实验室在"情感数据量有限"的前提下,通过不同声学模型、不同声码器组合最终上线自然、拟人效果的情感TTS,成为业内首家情感化TTS大规模落地的企业。

通过小米AI实验室的不断深耕,此次小米小爱同学Art全面支持情感化语音交互,基于有限但类型不同的情感音频数据(如开心、关心、害羞、惊讶等),通过不同技术训练并迭代声学模型,最终支持情感TTS合成并实现"小爱同学"音 感化、拟人化。

未来,小米语音将升级此技术——支持情感TTS实时合成。从下图中可以看出,在大数据集的预训练模型基础上,利用目标说话人的中性情感数据对网络进行微调,得到目标说话人的中性情感模型;在此基础上用带情感的小批量数据对模型进一步微调,最终得到不同情感的模型,最终实现情感合成。

在国内语音助手行业中,小米首次实现情感化TTS的大规模落地,未来将打造情感更加丰富的"小爱同学",为用户提供多元化的语音交互体验,为IoT设备增加更丰富更立体更逼真的语音交互体验。

语音支持全屋播放:立体声组合同步播放相同音频

小米小爱音箱Art,是首款可以实现语音支持全屋播放的设备。用户直接对小爱同学说"全屋播放XX",无需提前在App端进行手动设置,即可实现一句话语音交互,为用户提供了更便捷的使用方式。

要实现这一功能,音箱需要具备AIoT放音的技术。小米AIoT放音的自研技术在攻克无线网络抖动、晶振时钟漂移以及弱网下数据不可达等一系列技术难题后,将不同音箱播放声音的同步优化到微秒级别,同时还实现了在不同型号的音箱之间的数据同步,提供更细腻的音质和宽广的声像。

由这张图可见,立体声支持APP创建组网,才能进行语音指令和APP操作播放,全屋播放同时支持语音指令和APP创建组网。

立体声功能同时支持语音指令和app操作播放,云端音频流下发至音箱A,音箱A将立体声分离为左右声道,音箱A自己播放左声道音频并将右声道音频流下发给音箱B,由B音箱播放右声道,精准的同步技术保证音箱A和B同时播放立体声的左右声道音频。全屋播放功能支持语音指令和app创建组网,音频流下发至音箱C,音箱C将音频流混合为单声道信号并下发给组内其他的音箱设备同时播放,不区分声道,可支持多个设备。

就近唤醒全面升级:实现跨设备关闭闹钟

早在2018年,小米音箱系列就上线了就近唤醒功能。值得一提的是,此次小米小爱音箱Art就近唤醒全新升级,可支持跨设备关闭闹钟。远处的音箱闹钟响了,唤醒近处的音箱可以直接关闭远处的闹钟。此功能在业内首次上线,小米小爱音箱Art也是首款支持该功能的产品。

说到就近唤醒,小米早在2018年就上线这一功能,截止2020年4月28日,分布式就近唤醒已为多设备用户累计避免约6.82亿次设备同时唤醒,准确率达到98%。近期首发上线了端云多维度结合的就近唤醒综合决策策略,深入加强多设备状态信息联动,智能判决空间信息,进一步提升了家庭复杂网络环境的兼容性,同时做到了多设备响应的唯一执行,大幅提升用户体验。

未来,小米将专注于家居复杂场景应用、智能声学感知和多传感融合。在复杂的家庭结构环境中,保证算法的可用性,让每个设备主动感知所处的不同环境,根据环境完成算法自适应,将数据结果取长补短,相互融合,实现多维度智能感知。

两麦阵列唤醒:两麦盲源分离降噪前端,双级唤醒策略支撑

小米小爱音箱Art同步支持两麦阵列唤醒技术。在麦克风阵列方面,小米采用两麦盲源分离降噪前端,通过盲源分离、降噪、回声消除等技术,在多声源的嘈杂环境、音箱自身播放音乐时,都能结合语音增强技术,消除噪音的强干扰,获得干净、准确的人声音频。

在唤醒方面,为了兼顾低功耗与高性能,自研语音唤醒算法采用双级唤醒策略。低功耗待机唤醒词检测模型,利用子采样与共享隐含层等技术,减少模型资源消耗的同时保证召回率在一个较高的水平。高性能误唤醒检测模型,采用粗粒度建模单元,结合局部信息与长时上下文信息,高效抑制误唤醒。通过从海量数据中自动挖掘高区分度训练样本,再经过数据扩充技术,提高唤醒模型在低信噪比与小音量场景下的鲁棒性。

小米AI实验室语音产品负责人陈君宇表示,小米IoT平台连接的智能硬件数已达到2.5亿台,音箱出货量已经达到2200万台,在这么大的用户体量下,如何让基础体验持续提升,且提升产品在AI体验上的创新性,对自研AI团队来说是非常重要的使命。

小米一直致力于研发先进的AI技术,并将技术落地到产品及业务,为用户带来更好的产品体验,让全球每一个人都能享受科技带来的美好生活。

相关推荐
热点推荐
俄罗斯灰溜溜的撤军了! 乌奇袭俄空军基地 俄损失惨重

俄罗斯灰溜溜的撤军了! 乌奇袭俄空军基地 俄损失惨重

小新在洗手间
2024-04-19 19:05:16
高中校花在我手下气喘吁吁,只因我假装成盲人按摩师,但这不算完

高中校花在我手下气喘吁吁,只因我假装成盲人按摩师,但这不算完

茶馆说书人
2023-09-08 11:52:28
不出5年,中国贬值最快的不是房子、股票,而是这3个东西

不出5年,中国贬值最快的不是房子、股票,而是这3个东西

庞明说财经
2024-04-16 22:29:34
湖南女子失业6个月,月薪2万降到5000也没人要:打算做直播了

湖南女子失业6个月,月薪2万降到5000也没人要:打算做直播了

唐小糖说情感
2024-04-10 09:58:39
官方披露:已任湖北省委统战部二级巡视员的李涛严重违纪违法

官方披露:已任湖北省委统战部二级巡视员的李涛严重违纪违法

澎湃新闻
2024-04-19 21:26:27
5万!薛思佳:戴昊罚单一出来 刘铮就表示自己愿意替他承担

5万!薛思佳:戴昊罚单一出来 刘铮就表示自己愿意替他承担

直播吧
2024-04-19 19:04:15
中产阶层破防,“返贫五件套”个个中招,或将催生新中产涌现?

中产阶层破防,“返贫五件套”个个中招,或将催生新中产涌现?

前沿科技学习分享圈
2024-04-19 19:26:27
成本超2亿,预售仅18万,古天乐屡战屡败?《九龙城寨》问题在哪

成本超2亿,预售仅18万,古天乐屡战屡败?《九龙城寨》问题在哪

靠谱电影君
2024-04-19 12:27:42
一个不甘受辱的黄种人,正当防卫枪杀6名美国人,却被判无期徒刑

一个不甘受辱的黄种人,正当防卫枪杀6名美国人,却被判无期徒刑

叶天辰故事会
2024-04-19 08:00:03
女儿是漂亮女大学生,嫁给北京土著6年,如今成了绝望的家庭主妇

女儿是漂亮女大学生,嫁给北京土著6年,如今成了绝望的家庭主妇

康泰克大电影
2024-04-19 09:49:49
媒体人:周冠宇不太可能成为下一个巨星,汽车市场红利期消失

媒体人:周冠宇不太可能成为下一个巨星,汽车市场红利期消失

直播吧
2024-04-19 19:35:13
人心冷漠!女子在万宁开沙滩车侧翻压到脑袋身亡,现场无一人施救

人心冷漠!女子在万宁开沙滩车侧翻压到脑袋身亡,现场无一人施救

小萌逛北京
2024-04-20 00:05:32
白发老人给城管下跪后续:执法人员被骂惨,衡阳警方评论区炸锅了

白发老人给城管下跪后续:执法人员被骂惨,衡阳警方评论区炸锅了

叶公子
2024-04-19 08:53:26
卡塞米罗曝转会曼联细节,安帅洒泪挽留!滕哈格力挺胖虎再次夺冠

卡塞米罗曝转会曼联细节,安帅洒泪挽留!滕哈格力挺胖虎再次夺冠

罗米的曼联博客
2024-04-20 10:14:57
2024年最佳营销:一句“长城炮”,长城赚了170亿,雷军血亏100亿

2024年最佳营销:一句“长城炮”,长城赚了170亿,雷军血亏100亿

小蜜情感说
2024-04-19 20:25:11
乌军用S-200导弹首次击落俄军Tu-22战略轰炸机,俄飞行员面临挑战

乌军用S-200导弹首次击落俄军Tu-22战略轰炸机,俄飞行员面临挑战

山河路口
2024-04-19 16:01:46
钟镇涛夫妇参加舒淇结婚周年庆!59岁范姜穿印花旗袍,把人惊艳了

钟镇涛夫妇参加舒淇结婚周年庆!59岁范姜穿印花旗袍,把人惊艳了

鑫鑫说说
2024-04-19 16:15:06
湖北五旬老汉住破烂老屋,却多名美女投怀送抱,警方调查发现猫腻

湖北五旬老汉住破烂老屋,却多名美女投怀送抱,警方调查发现猫腻

一场奇遇日记
2023-11-11 19:28:26
江青与毛主席的罕见合影,年过三十仍青春靓丽,风韵犹存气质过人

江青与毛主席的罕见合影,年过三十仍青春靓丽,风韵犹存气质过人

历史龙元阁
2024-04-15 15:00:21
杭州滨江地产降薪35%

杭州滨江地产降薪35%

资本百科
2024-04-20 00:05:37
2024-04-20 11:10:44

科技要闻

华为今年最关键的事曝光!Pura 70有新消息

头条要闻

媒体:布林肯访华第一天未必见得到王毅

头条要闻

媒体:布林肯访华第一天未必见得到王毅

体育要闻

米切尔这次对线不会输了吧

娱乐要闻

北影节开幕之夜,内娱女星千娇百媚

财经要闻

新华资管香港的秘密:猛投地产或致巨亏

汽车要闻

风神L7预售 东风汽车北京车展阵容公布

态度原创

手机
时尚
健康
房产
军事航空

手机要闻

iQOO Z9系列再次被确认:屏幕、续航与性能,基本没悬念了

放弃牛仔裤吧,入夏是穿“裙子”的季节!遮肉显瘦谁穿谁优雅

这2种水果可降低高血压死亡风险

房产要闻

官方喊话,广州公寓或将走向终结?

军事要闻

伊朗总统发声 未提及伊斯法罕爆炸声

无障碍浏览 进入关怀版
×