音頻處理之回聲消除及調試經驗
本文講的回聲(Echo)是指語音通信時產生的回聲,即打電話時自己講的話又從對方傳回來被自己聽到。回聲在固話和手機上都有,小時還可以忍受,大時嚴重影響溝通交流,它是影響語音質量的重要因素之一。可能有的朋友要問了,為什么我打電話時沒有聽見自己的回聲,那是因為市面上的成熟產品回聲都被消除掉了。
回聲分為線路回聲(line echo)和聲學回聲(acoustic echo),線路回聲主要存在于固話中,是由于2-4線轉換引入的回聲,聲學回聲是由于空間聲學反射產生的回聲 。回聲消除(Echo canceller, EC)是語音前處理的重要環節,下面主要講其基本原理和調試中的一些經驗。
1、基本原理
1)自適應濾波器和自適應算法
一般濾波器的系數是固定的,而自適應濾波器的系數是變化的,是依據自適應算法來調整濾波器系數的。自適應濾波器的結構采用FIR或IIR均可,由于IIR存在穩定性問題,因此一般采用FIR。
下圖是自適應濾波器的一般結構:
上圖中,x(k)為輸入信號,y(k)為輸出信號,d(k)為期望信號,e(k)是d(k)和y(k)的誤差信號。自適應濾波器的濾波器系數受誤差信號e(k)控制,根據e(k)的值和自適應算法自動調整。
自適應算法一般采用LMS(least mean square,最小均方)算法及其變種(如NLMS算法)。LMS算法是隨機梯度算法族中的一員。具體可以看相關的文章。
2)回聲消除基本原理。
下圖是回聲消除基本原理的框圖:
處理過程如下:
a) 算近端遠端語音數據的energy,確定雙方是silent還是talk。
b) 遠端輸入經過自適應FIR濾波器后就得到了近似于近端輸入的數據,并與近端輸入相減后得到了誤差e。誤差e作為自適應LMS算法的輸入在需要的時候去更新自適應FIR濾波器的系數給后面遠端數據處理用。在需要的時候是指遠端talk近端silent的情況,其他情況(比如double silent / double talk)下不需要更新FIR濾波器的系數。
c) 誤差e同時也會經過NLP(非線性處理)后產生舒適噪聲送給對方。
2、調試
EC相對較難,要做的很好很不容易。在webRTC開源前主要是大公司和專業的算法公司有好的實現方案,一般公司要想產品里有EC就去買算法庫。webRTC開源后一些核心的算法(包括AEC/ANS/AGC等)也隨之開源,這樣眾公司開始用webRTC里的算法,尤其是互聯網公司,AEC等算法基本都是用的webRTC的。
本人有兩次EC的調試經歷。第一次是在芯片公司,做語音解決方案。從公司的算法部門拿來了回聲消除實現,把它用到解決方案中。另一次是在移動互聯網公司,做實時語音通信類APP,要把webRTC的AEC用到APP中。第一次花的時間較多,要學習原理,看算法代碼,做應用程序驗證算法并且要修改系數,在產品上調試等。第二次有了第一次的基礎再加上webRTC封裝的較好從而花的時間較短。個人覺得對EC零基礎但已有EC算法代碼的基礎上去調試主要有如下幾步:
1)學習回聲消除的基本原理,涉及信號處理知識(從固定系數濾波器到系數自適應濾波器)和高等數學知識(梯度)等。因為不是做算法,掌握基本的就可以了。如果基礎扎實,當然搞得越明白越好了。
2)看算法代碼。如果有實現的設計文檔那是最好了,好多算法實現有技巧,有設計文檔的話能更好的幫助理解代碼。沒有只能硬著頭皮啃了。剛開始可能有些看不懂,多看幾遍,也許每一次都會多懂一些。
3)做個應用程序驗證算法。這個應用程序輸入是近端和遠端的PCM文件,把EC的輸出寫進一個PCM文件里,看處理效果如何。這里面也可以分幾小步:
a) 設latency為零,近端和遠端的PCM文件相同,理論上輸出是全零數據。如果是這樣,恭喜你選擇的算法有一個好的base。如果不是那就需要去調算法里的一些系數了,這也許要調好多次,最終調試結果要是算法輸出基本聽不見回聲。
b) 設一定的latency,近端的PCM和遠端的數據一樣,但是近端的PCM數據相對遠端的有一定的delay,這個值跟設定的latency值是一樣的,這時理論上輸出還是全零數據。
c) 獲取實際產品上的近端和遠端PCM數據,可以近似得到近端和遠端的latency。把這幾個作為輸入,看算法輸出,也要基本聽不見回聲。這步調好后算法基本上就可以用了。
4)在具體硬件平臺上去調。每個硬件平臺上的latency都是不一樣的。在芯片公司時有demo板,每個客戶也有他們的電路板,硬件平臺相對不多一個個獲取近遠端PCM數據調好latency就可以了。在移動互聯網公司做APP時,手機類型眾多,用上面方法太累,于是在UI上做了一個滑動條去配置latency,讓測試人員去測試找到一個相對較好的latency,然后放在配置文件里保存下來,以后這款手機就用這個latency值了。
經過上面幾步后在真正產品上的EC調試就算結束了。
責任編輯:售電衡衡