AV1,实时编码READY

LiveVideoStack 2021年8月30日

一款编码器的成功,不仅需要大量的金钱,还需要耐心。AV1定稿三年后,是时候为它庆祝了。


文 | 包研


不知不觉,距离AV1完成定稿已经过去了三年多,这个新的视频编码标准已经获得了工业界认可,换句话说:AV1成功了。

截止到2021年8月27日的AOMedia成员名单(图片来自AOMedia官网)

2018年3月28日,AOMedia(简称AOM)在其官网上发布消息,AV1完成定稿,并开放了相关规格和参考代码。一个时代开始了。在过去三年间,AOMedia不断迎来新会员加入,其中不乏重量级的国内企业;AV1算法不断优化,大幅度降低了计算复杂度,包括点播场景和实时场景都可在生产环境中应用,我们也看到如Netflix、Facebook、Google、微软等巨头不断在内部部署AV1;一年一度的MSU视频编码大赛从在2017年开始也引入了AV1标准,MSU编码大赛被认为是最权威的视频编码器评测机构。种种迹象表明,AV1已经成为重要的编码器之一。


AV1的成功,要得益于HEVC混乱的专利授权机制,并且很好的抓住了VVC成熟之前的时间窗口。相比于HEVC,AV1打出了开源、免专利费的杀手锏。尽管存在一定的专利争议,比如Sisvel就宣布建立了AV1专利池并开始收费。但在Google和众多巨头组成的AOMedia拥有越来越强的谈判筹码,目前没有因AV1专利引起的诉讼的公开报道。LiveVideoStack曾经询问过关于AV1专利的争议,一名Google多媒体组的工程师告诉LiveVideoStack:所有与专利相关的询问都将由法务团队回复。


突破


相对于单纯的提升编码效率(压缩率),提供低延时、高压缩率的编码能力要困难的多。回顾AV1的发展历史,最先应用AV1的是在点播场景下的视频压缩,Netflix和Intel在2019年共同宣布了SVT-AV1计划,通过在服务端大量并行的CPU来加速AV1编码,Netflix也被认为是最早的应用AV1的长视频平台,他们在2016年就宣布拥抱AV1,并在2020年再Android平台上部署AV1。YouTube、Facebook、Vimeo、爱奇艺先后宣布支持AV1。Twitch计划在2022年或2023年让最火爆的视频支持AV1,全面支持AV1将于2024-2025年实现。

YouTube AV1视频的观看时长趋势(图片来自Matt Frost在AOM Summit 2021上的分享)


云平台方面,阿里云、腾讯云、AWS等云平台先后在2019年至2020年推出了AV1的视频转码方案,当然这些服务都仅能实现离线转码服务,不能用于实时视频应用。


第一则关于AV1实时编码成果来自思科,2019年6月举行的Big Apple Video大会上,Cisco演示了通过AV1编码的Webex视频会议,可以实现720p@30fps和1080p@30fps。但根据Cisco的另一篇博客显示,直到2021年早些时候AV1才会部署在生产环境中。这凸显了一款新的视频编码器冷启动的难度。


同时,商用编码器也在取得突破,“微帧团队在2019年推出了全自研 Aurora AV1 编码器”,微帧科技联合创始人&首席科学家Zoe Liu告诉LiveVideoStack。


2021年5月,NETINT发布了一款用于数据中心的AV1编码实时加速卡。NETINT采用了ASIC芯片方案,这从一个侧面印证了AV1的成熟度与市场前景。


图:在码率为30kbps情况下,左图是AV1编解码技术处理效果,右图是Duo目前所使用的编解码技术的处理效果(图片来自Google产品博客)


首次将AV1用于实时编码大规模生产环境的是Google的 Duo,Duo是一款实时视频通话产品。在2020年4月21日,Google产品博客公布了这一消息。


巨人的肩膀


AV1生态的繁荣离不开背后巨头的投入,libaom AV1是其中最重要的项目,主要由Google来维护。从AV1定稿以来,保持了每年一个大版本更新。尤其在2021年,libaom AV1的3.0版更新格外频繁。Google将Duo上实时AV1编码能力通过libaom AV1开放给社区,并在不断优化中。“过去半年我们的主要工作方向在提高实时编码器运行速度,提高压缩性能,特别是主观压缩质量方向。同时我们也是2-4线程下的实时编码器算法进行优化,提高多线程效率。这些工作方向在未来的一段时间还会继续展开”,Google Senior Staff Engineer韩敬宁告诉LiveVideoStack。


dav1d是最成熟的AV1开源解码器,2018年由VideoLAN、VLC和FFmpeg共同开发,由AOMedia提供资助。VideoLAN的chair,Jean-Baptiste Kempf在博客上透露:“most of the work for the optimizations are done”,尽管未来dav1d还会做一些优化工作,但主要的工作已经完成。


libaom AV1 + dav1d让AV1的生态达成了非常理想的状态,尤其是用于终端的硬件解码器还未普及的情况下,软件方案也可以很好的享受AV1带来的收益。


WebRTC加速器


今年1月20日,IETF RTCWEB草案最终都成为标准并获得了一个RFC编号,一周后WebRTC 1.0版发布。尽管此前WebRTC已经广泛应用各种浏览器、Android客户端中。毫无疑问,WebRTC定稿将更好的促进各种浏览器和系统之间兼容与协作。1月21日,Google宣布在Chrome中支持AV1 SVC实时编码。SVC提供了从单个编码器在单个比特流中生成多层次分辨率的能力。换言之,SVC是对服务器端转码和ABR的替代方案。在提供海量视频通信的场景下,SVC能够节省巨大的服务器算力开销。


借助WebRTC,AV1驶入了RTC的快车道。


“近几年, AV1编解码器的开发已经有了长足的进步。很快,各家都会推出AV1实时编码的产品或者基于AV1的RTC产品”,拍乐云创始人&CEO赵加雨告诉LiveVideoStack,“Google的Duo及Cisco的Webex都已经成功将AV1应用于RTC产品,增加了产业界的信心。”本月,拍乐云发布了Pano Venus,一款基于AV1的实时视频通话引擎,也是一套实时视频SDK服务Solution。赵加雨透露,Venus支持视频会议、社交娱乐、云游戏、泛教育等各行业实时场景,未来也将会服务于4K/8K、全景、VR等下一代实时视频通信产品形态,一些头部教育客户已经找到我们体验产品。


“开源的AOM Encoder已经可以在性能好的终端上实时运行,此外开源的AV1解码器dav1d的进展也非常迅速,它早就支持在PC或者移动终端的实时解码”,拍乐云首席科学家&合伙人章琦表示,“目前主流的i5/i7的CPU上均可以支持Pano Venus,主流的iOS和Android手机上也可以支持Pano Venus,支持的最大分辨率为1080p@30fps。”


“从我们在iPhone 12 Pro的测试情况看,在720p@30fps和相同的主观质量条件下,运行 AV1 SDK设备的温度比运行H.264 SDK增加2摄氏度, 电量消耗增加电池容量的1%,内存和CPU消耗相近”,章琦对AV1充满了信心。


未来


“对于开发商和制造商来说,使用新的视频编解码器是一场既费时又费钱的博弈”,Matt Frost(Chair of the board, AOMedia)在演讲中直言不讳的表示。在AV1渐入佳境之时,AOMedia已经启动了AV2的开发工作。AV1不仅要面临来自HEVC、VVC的挑战,还要和AV2同场竞技。


“我认为AV1的核心压缩能力还有很大的空间没有发挥出来。更好的核心压缩能力也会带来新的速度和性能的平衡点。所以我个人预期AV1在未来的一年内会带来更高的压缩性能,同时运算复杂度会进一步降低,”韩敬宁告诉LiveVideoStack,“AOM也在推进AV2的研发工作。目前的主要工作重心依然是在压缩性能方向。”


据了解,AV2将在标准层面,针对实时编码场景做优化。包括声网在内的企业正在参与相关工作。


在采访最后,韩敬宁强调:libaom是一个面向全球的开源项目,我们欢迎更多的同行加入我们,一同提升AV1的性能,服务全球的生态系统


“Venus的发布是拍乐云音视频技术上一个非常重要的里程碑,代表着AV1在实时通信领域的应用走向成熟。我们希望可以为AV1生态的进一步发展添砖加瓦,尽一份心力”,赵加雨表示。他还透露,拍乐云有计划加入AOMedia。


HEVC被认为是被专利毁掉的标准,相比而言,VVC的专利池清晰了许多。“HEVC由于其高昂且不明晰的专利政策,在其定稿后的多年,都未得到真正大规模应用,特别是在RTC领域。VVC作为业界最新标准,拥有较高的编码效率和较高的编码复杂度,在RTC领域,还有一段路要走,特别是RTC生态的建立。如果其能打破知识产权方面的壁垒,或许未来可期,”谈到HEVC与VVC的前景,赵加雨表示。


谈到Pano Venus的未来,章琦表示:“首先,提升主观质量。第二,增加覆盖到的设备种类, 在尽可能多的设备上支持运行AV1的编码和解码。”据了解,当Pano Venus发现设备无法支持AV1编解码的情况下,系统将自动切换到H.264视频流。Cisco Webex也采用了相似的策略。




参考

腾讯云直播+点播全线产品支持AV1,带来极致视频体验

许耀武:有趣有挑战的二十年

AOM联盟:AV1完成1.0版定稿

Sisvel宣布成立AV1专利池 1050项专利许可面临收费

9家专利拥有者退出MPEG LA HEVC 华为加入HEVC Advance

Netflix与英特尔共同发布开源编解码器SVT-AV1

Netflix在安卓移动启用AV1格式 较VP9编码效率提升20%

W3C与IETF共同定义WebRTC未来6大应用方向

实时AV1 SVC——释放WebRTC的真正力量

AV1和开放媒体联盟(AOM)的发展、成果与未来

AV1的实时模式

重新定义实时视频时代,拍乐云发布国内首个 AV1 编码引擎 Pano Venus

阿里云视频云正式支持AV1编码格式 为视频编码服务降本提效

https://developer.aliyun.com/article/738081

AV1 在 RTC 应用实践中的现状与展望

https://www.infoq.cn/article/2x8BYoYzoeuBk9K21suY

https://en.wikipedia.org/wiki/AV1

https://www.chromestatus.com/feature/6206321818861568

https://trac.ffmpeg.org/wiki/Encode/AV1

https://blog.webex.com/engineering/the-av1-video-codec-comes-to-webex/

https://www.blog.google/products/duo/4-new-google-duo-features-help-you-stay-connected/

https://aomedia.googlesource.com/aom/

http://webrtcbydralex.com/index.php/2019/07/09/real-time-av1-in-webrtc-is-now-production-ready/

https://blogs.cisco.com/collaboration/cisco-leap-frogs-h-264-video-collaboration-with-real-time-av1-codec

https://blog.webex.com/engineering/the-av1-video-codec-comes-to-webex/

http://www.compression.ru/index_en.htm

https://aws.amazon.com/cn/about-aws/whats-new/2020/03/av1-encoding-now-available-with-aws-elemental-mediaconvert/

https://caniuse.com/?search=av1

https://code.videolan.org/videolan/dav1d

http://www.jbkempf.com/blog/post/2021/dav1d-0.9.1-a-ton-of-asm

https://www.prnewswire.com/news-releases/netint-announces-the-worlds-first-commercially-available-hardware-av1-video-encoder-for-the-data-center-301247855.html


还可输入800
全部评论
作者介绍

LiveVideoStack

音视频技术社区

文章

粉丝

视频

阅读排行
  • 2周
  • 4周
  • 16周
热门视频