0 概述

随着移动通信技术的快速发展, 用户对无线传输速率的需求不断提升。在传统通信系统中, 可以通过增加码元状态数来提高通信系统的有效性, 但是该方法会降低系统的可靠性, 因此, 如何打破奈奎斯特(Nyquist)第一准则从而获得更高的码元传输速率同时确保通信系统的可靠性, 引起了学者们的广泛关注。

文献[1]提出了超奈奎斯特(Faster-Than-Nyquist, FTN)理论, 并证明了在理想的高斯信道下, 信号以超过奈奎斯特传输速率的25 %进行传输时, 信号之间的最小欧氏距离以及误码性能将保持不变^[2]。FTN通过压缩符号传输周期来提高信道容量, 从而得到了更高的频谱利用率^[3], 但是其不可避免地引入了符号间的干扰。为解决该问题, 文献[4]提出一种低复杂度的M-BCJR算法, 该算法通过减少网格搜索从而降低复杂度, 但是在真实的多径衰落信道下其实现存在难度。

文献[5]提出一种基于矩阵运算的均衡方案, 其通过提取干扰矩阵, 利用逆矩阵和判决反馈均衡消除FTN引入的符号间干扰。为了实现低复杂度的信道均衡, 文献[6]将频域均衡器引入到FTN系统中, 当FTN引入的符号间干扰较大时, 频域均衡方案能够接收大量的信息并进行处理。文献[7]提出一种多层叠加传输的FTN系统, 其提高了系统检测精度并消除了FTN干扰。文献[8]提出一种基于级联均衡的FTN传输方案, 该方案通过2个级联的均衡器来分别消除FTN引入的ISI和信道产生的ISI^[9]。此外, 文献[10]提出一种重叠频域均衡的FTN均衡方法, 该方法补偿了频带限制滤波器产生的符号间干扰以及由频率选择性衰落信道带来的干扰。文献[11]采用Forney观测模型提出一种低复杂度的RC-IBDFE均衡算法, 其简化了滤波器的设计。为了降低信道噪声和残留符号间的干扰, 文献[12]将基于噪声预测^[13]的均衡方案和基于MMSE-RISIC^[14]的均衡方案相结合, 提出一种MMSE-NP-RISIC均衡方法, 该方法有效降低了信道噪声和残留符号间的干扰, 但是其存在误差传递的问题。

FTN系统额外地引入了符号间的干扰和有色噪声^[15], 使得MMSE-NP-RISIC均衡算法的误差传递问题更为严重, 为此, 本文提出一种基于迭代思想的均衡算法。考虑判决误差并分别计算噪声预测器系数和RISI滤波器系数, 通过每一次的迭代使滤波器系数更为精确, 从而更好地消除信道噪声和残留符号干扰, 提高判决后符号的准确率。在不同的压缩因子情况下, 将非迭代的MMSE-NP- RISIC、FDE-FDDF和本文方法在高斯信道以及SUI-5信道下的误码率进行对比, 以验证本文方法的性能。

1 FTN系统模型

在FTN系统中进行数据传输时, 传输符号之间的间隔T₀ < T_s, 其中, T_s为正交传输时的奈奎斯特符号间隔。在发送端, 发送符号可表示为:

$ q(t) = \sqrt {{E_s}} \sum\limits_k {{x_k}} \cdot g(t - k\tau {T_s}) $

(1)

其中, q(t)为系统发送信号, $\sqrt {{E_s}} $代表符号能量, τ为压缩因子, 其决定FTN传输系统中的符号间隔τT_s, 0 < τ≤1。

当压缩因子τ=1时, 系统为正交奈奎斯特传输, 系统采样为T_s的整数倍时系统不会产生ISI; 当0 < τ < 1时, 系统是符号间隔为τT_s的FTN传输系统。相比于正交奈奎斯特传输系统, FTN传输系统拥有更高的传输速率。然而, 非正交传输的FTN系统使得符号之间发生重叠, 从而引入了符号间干扰。

FTN传输系统结构如图 1所示, 在发送端信号首先进行信道编码, 经过调制后插入UW序列, 然后经过FTN调制得到符号间隔为τT_s的FTN信号, 最终传输信号通过多径信道完成FTN传输。在接收机中, 信号首先通过匹配滤波器, 然后对滤波后的信号进行下采样, 将采样后的符号送入频域均衡器以及译码器从而恢复原始信号。

发送信号向量q表示为:

$ \mathit{\boldsymbol{q}} = {\mathit{\boldsymbol{G}}_\mathit{\boldsymbol{t}}}\mathit{\boldsymbol{x}} $

(2)

其中, G_t为FTN所引入的干扰矩阵, 其为N×N维的循环矩阵^[16], 主对角线上的值为g₀, 第一行的值为[g₀, g₁, …, g_N-1], g_i为FTN传输过程中引入的符号间干扰。

信号经过含高斯噪声的多径信道后到达接收端, 然后经过匹配滤波器得到信号y:

$ \mathit{\boldsymbol{y}} = {\mathit{\boldsymbol{G}}_\mathit{\boldsymbol{r}}}{\mathit{\boldsymbol{h}}_\mathit{\boldsymbol{c}}}{\mathit{\boldsymbol{G}}_\mathit{\boldsymbol{t}}}\mathit{\boldsymbol{x}} + {\mathit{\boldsymbol{G}}_\mathit{\boldsymbol{r}}}n $

(3)

其中, y= [y₀, y₁, …, y_N-1]^T, n是加性高斯白噪声, G_r表示匹配滤波器矩阵, h_c为多径信道引入的ISI矩阵, 且为循环矩阵, 其主对角线上的值为h₀, 第一列的元素为[h₀, h₁, …, h_L-1, 0, …, 0]^T。从式(3)可以看出, 系统经过匹配滤波器后引入了有色噪声。

由于循环矩阵可以对角化, 则h_c=F^HH_cF, G_t=F^HH_tF, G_r=F^HH_rF, 其中, H_c、H_t和H_r均为N×N维的对角矩阵, F表示傅里叶变换矩阵, 其元素值为:

$ \mathit{\boldsymbol{F}}(n,k) = \frac{1}{{\sqrt N }}{\rm{exp}}\left( { - {\rm{j}}2\pi \frac{{(k - 1)(n - 1)}}{N}} \right) $

为了方便分析, G_rh_cG_t可以表示为以下形式:

$ \begin{array}{*{20}{c}} {{\mathit{\boldsymbol{G}}_\mathit{\boldsymbol{r}}}{\mathit{\boldsymbol{h}}_\mathit{\boldsymbol{c}}}{\mathit{\boldsymbol{G}}_\mathit{\boldsymbol{t}}} = {\mathit{\boldsymbol{F}}^{\rm{H}}}{\mathit{\boldsymbol{H}}_\mathit{\boldsymbol{r}}}\mathit{\boldsymbol{F}}{\mathit{\boldsymbol{F}}^{\rm{H}}}{\mathit{\boldsymbol{H}}_\mathit{\boldsymbol{c}}}\mathit{\boldsymbol{F}}{\mathit{\boldsymbol{F}}^{\rm{H}}}{\mathit{\boldsymbol{H}}_\mathit{\boldsymbol{t}}}\mathit{\boldsymbol{F}} = }\\ {{\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\mathit{\boldsymbol{F}}^{\rm{H}}}{\mathit{\boldsymbol{H}}_\mathit{\boldsymbol{r}}}{\mathit{\boldsymbol{H}}_\mathit{\boldsymbol{c}}}{\mathit{\boldsymbol{H}}_\mathit{\boldsymbol{t}}}\mathit{\boldsymbol{F}} = {\mathit{\boldsymbol{F}}^{\rm{H}}}{\mathit{\boldsymbol{H}}_\mathit{\boldsymbol{a}}}\mathit{\boldsymbol{F}}} \end{array} $

(4)

则接收信号的频域表现形式为Y=H_aX+H_rN, 其中, Y、H_a、X、H_r、N都是其时域对应的傅里叶变换。

2 MMSE-NP-RISIC均衡算法

MMSE-NP-RISIC均衡算法可以降低信道噪声和符号间残留的干扰对系统性能的影响, MMSE-NP-RISIC算法结构如图 2所示。

在NP部分的输出U_k可以表示为:

$ {\mathit{\boldsymbol{U}}_k} = {\mathit{\boldsymbol{Z}}_k} - {\mathit{\boldsymbol{B}}_k}({\mathit{\boldsymbol{Z}}_k} - {\mathit{\boldsymbol{S}}_k}) $

(5)

为了方便分析, 将数据信号的功率归一化为单位1, 即σ_x²=1, 并假设S_k=X_k, 则NP部分的检测误差为:

$ \begin{array}{*{20}{l}} {{\mathit{\boldsymbol{E}}_k} = {\mathit{\boldsymbol{U}}_k} - {\mathit{\boldsymbol{X}}_k} = {\mathit{\boldsymbol{Z}}_k} - {\mathit{\boldsymbol{B}}_k}({\mathit{\boldsymbol{Z}}_k} - {\mathit{\boldsymbol{X}}_k}) - {\mathit{\boldsymbol{X}}_k} = }\\ {{\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} ({\mathit{\boldsymbol{I}}_{{n_R}}} - {\mathit{\boldsymbol{B}}_k})({\mathit{\boldsymbol{W}}_k}{\mathit{\boldsymbol{H}}_{ak}} - {\mathit{\boldsymbol{I}}_{{n_R}}}){\mathit{\boldsymbol{X}}_k} + ({\mathit{\boldsymbol{I}}_{{n_R}}} - {\mathit{\boldsymbol{B}}_k}){\mathit{\boldsymbol{W}}_k}{\mathit{\boldsymbol{H}}_{rk}}{\mathit{\boldsymbol{N}}_k}} \end{array} $

(6)

则前向滤波器系数W_k和反向滤波器系数B_k可以通过最小化MSE获得:

$ {J_{{\rm{mse}}}} = {\rm{tr}} \{ \mathit{\boldsymbol{E}}\{ {\mathit{\boldsymbol{e}}_n}\mathit{\boldsymbol{e}}_n^{\rm{H}}\} \} = {\rm{tr}} \{ \frac{1}{N}\mathit{\boldsymbol{E}}\{ \sum\limits_{k = 1}^N {{\mathit{\boldsymbol{E}}_k}} \mathit{\boldsymbol{E}}_k^{\rm{H}}\} \} $

(7)

对W_k求导置0可得:

$ {\mathit{\boldsymbol{W}}_k} = \frac{{\mathit{\boldsymbol{H}}_{ak}^{\rm{H}}}}{{|{\mathit{\boldsymbol{H}}_{ak}}{|^2} + |{\mathit{\boldsymbol{H}}_{rk}}{|^2}\sigma _n^2}} $

(8)

为了避免删除有用信号, 给出如下限定条件:

$ \sum\limits_{k = 1}^N {{\mathit{\boldsymbol{B}}_k}} = 0 $

(9)

将W_k代入式(7)并对B_k求导置0, 可得:

$ \begin{array}{*{20}{c}} {{\mathit{\boldsymbol{B}}_k} = {\mathit{\boldsymbol{I}}_{{n_R}}} - N(|{\mathit{\boldsymbol{H}}_{ak}}{|^2} + |{\mathit{\boldsymbol{H}}_{rk}}{|^2}\sigma _n^2) \cdot }\\ {{\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {{[\sum\limits_{m = 1}^N {(|{\mathit{\boldsymbol{H}}_{am}}{|^2} + |{\mathit{\boldsymbol{H}}_{rm}}{|^2}\sigma _n^2)} ]}^{ - 1}}} \end{array} $

(10)

通过MMSE-RISIC去消除NP部分输出信号的残留符号间干扰, 其输入U_k为:

$ \begin{array}{l} {\mathit{\boldsymbol{U}}_k} = {\mathit{\boldsymbol{Z}}_k} - {\mathit{\boldsymbol{B}}_k}({\mathit{\boldsymbol{Z}}_k} - {\mathit{\boldsymbol{X}}_k}) = {\mathit{\boldsymbol{X}}_k} + ({\mathit{\boldsymbol{I}}_{{n_R}}} - {\mathit{\boldsymbol{B}}_k}) \cdot \\ {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} ({\mathit{\boldsymbol{W}}_k}{\mathit{\boldsymbol{H}}_{ak}} - {\mathit{\boldsymbol{I}}_{{n_R}}}){\mathit{\boldsymbol{X}}_k} + ({\mathit{\boldsymbol{I}}_{{n_R}}} - {\mathit{\boldsymbol{B}}_k}){\mathit{\boldsymbol{W}}_k}{\mathit{\boldsymbol{H}}_{rk}}{\mathit{\boldsymbol{N}}_k} = \\ {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\mathit{\boldsymbol{X}}_k} + \mathit{\boldsymbol{\hat \delta }} + {{\mathit{\boldsymbol{\hat N}}}_k} \end{array} $

(11)

其中:

$ \begin{array}{*{20}{l}} {\mathit{\boldsymbol{\hat \delta }} = ({\mathit{\boldsymbol{I}}_{{n_R}}} - {\mathit{\boldsymbol{B}}_k})({\mathit{\boldsymbol{W}}_k}{\mathit{\boldsymbol{H}}_{ak}} - {\mathit{\boldsymbol{I}}_{{n_R}}}){\mathit{\boldsymbol{X}}_k}}\\ {{{\mathit{\boldsymbol{\hat N}}}_k} = ({\mathit{\boldsymbol{I}}_{{n_R}}} - {\mathit{\boldsymbol{B}}_k}){\mathit{\boldsymbol{W}}_k}{\mathit{\boldsymbol{H}}_{rk}}{\mathit{\boldsymbol{N}}_k}} \end{array} $

(12)

则滤波器C_k为:

$ {\mathit{\boldsymbol{C}}_k} = ({\mathit{\boldsymbol{I}}_{{n_R}}} - {\mathit{\boldsymbol{B}}_k})({\mathit{\boldsymbol{W}}_k}{\mathit{\boldsymbol{H}}_{ak}} - {\mathit{\boldsymbol{I}}_{{n_R}}}) $

(13)

3 迭代MMSE-NP-RISIC均衡算法

MMSE-NP-RISIC算法可以有效降低信道噪声和残留的符号间干扰, 但是其存在误差传递的问题, 而FTN系统额外地引入了符号间干扰和有色噪声, 这将对系统均衡性能产生较大影响。因此, 本文提出一种迭代的MMSE-NP-RISIC均衡算法。通过考虑判决误差并进行迭代来更新可靠度系数ρ⁽ⁱ⁾以及平均信号能量β⁽ⁱ⁾, 从而使滤波器系数C_k和R_k更为精确, 更好地消除信道噪声与残留的符号干扰所带来的不利影响, 使得每一次迭代后的符号相比前一次迭代后的符号更加接近原始符号。图 3所示为迭代MMSE-NP-RISIC均衡算法结构。

在MMSE-NP-RISIC均衡算法中, 系统采用软信息进行迭代, 前向滤波器系数W_k不变, 更新噪声预测器C_k和RISI滤波器R_k。下文详细推导迭代的噪声预测器系数C_k和RISI系数R_k, 进行迭代的最优系数用最小均方误差准则进行推导。MMSE-NP-RISIC算法在推导滤波器系数C_k时, 假设系统是无判决误差的, 本文将在有误差的情况下进行系数推导。在第i次迭代时, 噪声预测的频域的均衡输出为:

$ \begin{array}{*{20}{l}} {{\mathit{\boldsymbol{U}}_k} = {\mathit{\boldsymbol{Z}}_k} - \mathit{\boldsymbol{C}}_k^{(\mathit{\boldsymbol{i}})}({\mathit{\boldsymbol{Z}}_k} - \mathit{\boldsymbol{\hat X}}_k^{(\mathit{\boldsymbol{i}} - 1)}) = ({\mathit{\boldsymbol{I}}_{{n_R}}} - \mathit{\boldsymbol{C}}_k^{(\mathit{\boldsymbol{i}})}){\mathit{\boldsymbol{W}}_k}{\mathit{\boldsymbol{H}}_{ak}}{\mathit{\boldsymbol{X}}_k} + }\\ {{\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} ({\mathit{\boldsymbol{I}}_{{n_R}}} - \mathit{\boldsymbol{C}}_k^{(\mathit{\boldsymbol{i}})}){\mathit{\boldsymbol{W}}_k}{\mathit{\boldsymbol{H}}_{rk}}{\mathit{\boldsymbol{N}}_k} + \mathit{\boldsymbol{C}}_k^{(\mathit{\boldsymbol{i}})}\mathit{\boldsymbol{\hat X}}_k^{(\mathit{\boldsymbol{i}} - 1)}} \end{array} $

(14)

则NP部分的检测误差为:

$ \begin{array}{*{20}{l}} {{\mathit{\boldsymbol{E}}_k} = {\mathit{\boldsymbol{U}}_k} - {\mathit{\boldsymbol{X}}_k} = ({\mathit{\boldsymbol{I}}_{{n_R}}} - \mathit{\boldsymbol{C}}_k^{(\mathit{\boldsymbol{i}})}){\mathit{\boldsymbol{W}}_k}{\mathit{\boldsymbol{H}}_{ak}}{\mathit{\boldsymbol{X}}_k} + }\\ {{\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} ({\mathit{\boldsymbol{I}}_{{n_R}}} - \mathit{\boldsymbol{C}}_k^{(\mathit{\boldsymbol{i}})}){\mathit{\boldsymbol{W}}_k}{\mathit{\boldsymbol{H}}_{rk}}{\mathit{\boldsymbol{N}}_k} + \mathit{\boldsymbol{C}}_k^{(\mathit{\boldsymbol{i}})}\mathit{\boldsymbol{\hat X}}_k^{(\mathit{\boldsymbol{i}} - 1)} - {\mathit{\boldsymbol{X}}_k}} \end{array} $

(15)

每次迭代的最小均方误差可以表示为:

$ {J_{{\rm{mse}}}} = {\rm{tr}} \{ \mathit{\boldsymbol{E}}\{ {\mathit{\boldsymbol{e}}_n}\mathit{\boldsymbol{e}}_n^{\rm{H}}\} \} = {\rm{tr}} \{ \frac{1}{N}\mathit{\boldsymbol{E}}\{ \sum\limits_{k = 1}^N {{\mathit{\boldsymbol{E}}_k}} \mathit{\boldsymbol{E}}_k^{\rm{H}}\} \} $

(16)

为了避免删除有用信号, 给出如下限定条件:

$ \sum\limits_{k = 1}^N {{\mathit{\boldsymbol{C}}_k}} = 0 $

(17)

将J_mse化简并对C_k求导置0, 可求得系数C_k为:

$ \mathit{\boldsymbol{C}}_k^{(i)} = \frac{{{\rho ^{(i)}}|{\mathit{\boldsymbol{H}}_{rk}}{|^2}\mathit{\boldsymbol{\sigma }}_n^2 - \varphi \mathit{\boldsymbol{\eta }}}}{{(1 - 2{\rho ^{(i)}})|{\mathit{\boldsymbol{H}}_{ak}}{|^2} + {\beta ^{(i)}}\mathit{\boldsymbol{\eta }}}} $

(18)

其中:

$ \begin{array}{*{20}{l}} {\mathit{\boldsymbol{\eta }} = |{\mathit{\boldsymbol{H}}_{ak}}{|^2} + |{\mathit{\boldsymbol{H}}_{rk}}{|^2}\mathit{\boldsymbol{\sigma }}_n^2}\\ {\varphi = {\rho ^{(i)}}\mathit{\boldsymbol{\sigma }}_n^2\frac{{\sum\limits_{l = 0}^{N - 1} | {\mathit{\boldsymbol{H}}_{{\rm{rl}}}}{|^2}}}{{\sum\limits_{l = 0}^{N - 1} {(|{\mathit{\boldsymbol{H}}_{al}}{|^2} + |{\mathit{\boldsymbol{H}}_{rl}}{|^2}\mathit{\boldsymbol{\sigma }}_n^2)} }}} \end{array} $

(19)

其中, ${\rho ^{(i)}} = \mathit{\boldsymbol{E}}\left({x\; {{\hat x}^{(i - 1)}}} \right)$为可靠度^[17], ${\beta ^{(i)}} = \frac{1}{N} \cdot \sum\limits_{k = 0}^{N - 1} {{{\left| {\mathit{\boldsymbol{\widehat x}}_k^{(i - 1)}} \right|}^2}} $为第i－1次判决的平均信号能量。

信号在经过噪声预测器C_k后仍然残留有ISI, 因此, 本文利用RISI滤波器对残留的ISI进行消除。RISI部分的输入向量U_k⁽ⁱ⁾为:

$ \begin{array}{*{20}{l}} {{\mathit{\boldsymbol{U}}_k} = {\mathit{\boldsymbol{Z}}_k} - \mathit{\boldsymbol{C}}_k^{(\mathit{\boldsymbol{i}})}({\mathit{\boldsymbol{Z}}_k} - \mathit{\boldsymbol{\hat X}}_k^{(\mathit{\boldsymbol{i}} - 1)}) = }\\ {{\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\mathit{\boldsymbol{X}}_k} + {\mathit{\boldsymbol{H}}_{rk}}\sigma _n^2(\mathit{\boldsymbol{C}}_k^{(\mathit{\boldsymbol{i}})} - {\mathit{\boldsymbol{I}}_{{n_R}}}){\mathit{\boldsymbol{\eta }}^{ - 1}}{\mathit{\boldsymbol{X}}_k} + }\\ {{\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} |{\kern 1pt} {\kern 1pt} {\mathit{\boldsymbol{H}}_{rk}}{\kern 1pt} {\kern 1pt} {|^2}({\mathit{\boldsymbol{I}}_{{n_R}}} - \mathit{\boldsymbol{C}}_k^{(\mathit{\boldsymbol{i}})}){\mathit{\boldsymbol{\eta }}^{ - 1}}{\mathit{\boldsymbol{N}}_k} = {\mathit{\boldsymbol{X}}_k} + \mathit{\boldsymbol{\hat \delta }} + {{\mathit{\boldsymbol{\hat N}}}_k}} \end{array} $

(20)

其中:

$ \begin{array}{*{20}{l}} {\mathit{\boldsymbol{\hat \delta }} = {\mathit{\boldsymbol{H}}_{rk}}\mathit{\boldsymbol{\sigma }}_n^2(\mathit{\boldsymbol{C}}_k^{(\mathit{\boldsymbol{i}})} - {\mathit{\boldsymbol{I}}_{{n_R}}}){\mathit{\boldsymbol{\eta }}^{ - 1}}{\mathit{\boldsymbol{X}}_k}}\\ {{{\mathit{\boldsymbol{\hat N}}}_k} = |{\mathit{\boldsymbol{H}}_{rk}}{|^2}({\mathit{\boldsymbol{I}}_{{n_R}}} - \mathit{\boldsymbol{C}}_k^{(\mathit{\boldsymbol{i}})}){\mathit{\boldsymbol{\eta }}^{ - 1}}{\mathit{\boldsymbol{N}}_k}} \end{array} $

(21)

滤波器R_k的估计系数为:

$ \mathit{\boldsymbol{R}}_k^{(\mathit{\boldsymbol{i}})} = {\mathit{\boldsymbol{H}}_{rk}}\mathit{\boldsymbol{\sigma }}_n^2(\mathit{\boldsymbol{C}}_k^{(\mathit{\boldsymbol{i}})} - {\mathit{\boldsymbol{I}}_{{n_R}}}){\mathit{\boldsymbol{\eta }}^{ - 1}} $

(22)

在求得每次迭代的噪声系数C_k和RISI系数R_k后, 第i次迭代译码器的输入为:

$ \tilde s(i) = \gamma x + {\xi ^{(i)}} $

(23)

其中:

$ \begin{array}{*{20}{l}} {\gamma = \frac{1}{N}\sum\limits_{k = 0}^{N - 1} {{\mathit{\boldsymbol{W}}_k}} {\mathit{\boldsymbol{H}}_{ak}}}\\ {\mathit{\boldsymbol{E}}(|{\xi ^{(i)}}{|^2}) = {{(1 - \gamma )}^2} + \frac{{{\mathit{\boldsymbol{\sigma }}^2}}}{N}\sum\limits_{k = 0}^{N - 1} {{{(\mathit{\boldsymbol{C}}_k^{(\mathit{\boldsymbol{i}})})}^2}} \mathit{\boldsymbol{W}}_k^2} \end{array} $

(24)

反馈可靠度为^[18]:

$ \begin{array}{l} {\rho _m} = \mathit{\boldsymbol{E}}({{\mathit{\boldsymbol{\hat x}}}_m}\mathit{\boldsymbol{x}}_m^{\rm{H}}) = \mathit{\boldsymbol{E}}(\mathit{\boldsymbol{E}}({\mathit{\boldsymbol{x}}_m})\mathit{\boldsymbol{x}}_m^{\rm{H}}) = \\ {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} \mathit{\boldsymbol{E}}({\mathit{\boldsymbol{x}}_m})\mathit{\boldsymbol{E}}(\mathit{\boldsymbol{x}}_m^{\rm{H}}) = |{{\mathit{\boldsymbol{\hat x}}}_m}{|^2}\\ \rho = \frac{1}{N}\sum\limits_{m = 0}^{N - 1} {{\rho _m}} \end{array} $

(25)

从上述公式可以看出, 本文提出的迭代均衡算法通过考虑判决符号的误差来迭代更新噪声预测器C_k和滤波器R_k, 相比于非迭代的MMSE-NP-RISIC算法, 其在一定程度上减少了误差传递现象。

4 仿真结果与分析

在高斯信道和SUI-5信道^[18]下分别验证本文方法的系统误码率(BER)性能, 以滚降因子α=0.5和α=0.4的RC滤波器(g(t))为FTN传输过程中的成型脉冲滤波器, 其表达式如下:

$ g(t) = \frac{{{\rm{sin}}(\pi t{T_s})}}{{\pi t{T_s}}} \cdot \frac{{{\rm{cos}}(\alpha \pi t{T_s})}}{{1 - 2{{(\pi t{T_s})}^2}}} $

(26)

表 1所示为FTN系统传输过程中α=0.5时引入的符号间干扰参数, 通过分析表 1可以看出, 当压缩因子τ=0.90时, 当前符号受到前后2个符号的干扰, 并且随着τ值的不断减小, FTN系统引入的符号间干扰逐渐增强。

系统采用码率为1/2的卷积码, 其产生的多项式为(133, 171), 编码符号随机交织并映射为BPSK符号。数据块长度K为512, 其中, 插入的训练序列UW是长度为32的Fran-Zadoff序列^[19]。假设系统具有理想的信道估计和同步, 随着迭代次数的不断增加, 系统性能增益不明显, 因此, 本文设定迭代次数为3次。对比本文系统在SUI-5信道下分别采用频域判决反馈的迭代频域均衡(FDE-FDDF)^[16]以及非迭代的MMSE-NP-RISIC均衡时的性能。

图 4所示为α=0.5时高斯信道下FTN传输误码率情况, 此时ISI仅由FTN引起。从图 4可以看出, τ=0.90情况下本文方法在SNR=4.5 dB时误码率达到10^-5, 相比于非迭代的MMSE-NP-RISIC方法约有0.8 dB的增益, 相比于FDE-FDDF方法约有1.6 dB的增益。当τ=0.80时, 由于τ的减小导致系统引入了更加严重的符号间干扰, 本文方法在SNR=6.6 dB时误码率达到10^-5, 而非迭代的MMSE-NP-RISIC以及FDE-FDDF则分别在SNR=7.4 dB和SNR=8.1 dB时误码率才能达到10^-5。此外可以看出, τ=0.75时本文方法与τ=0.80时FDE-FDDF方法具有相近的误码率性能。

图 5所示为α=0.5时SUI-5信道下系统传输的误码率情况, 此时系统ISI由FTN与信道同时引入, 当τ=1时即为Nyquist传输。从图 5可以看出, 本文方法相比于非迭代的MMSE-NP-RISIC方法约有1 dB的增益, 这是由于非迭代的MMSE-NP-RISIC方法假设判决后的符号与发送符号相一致, 导致了误差传递问题, 而本文方法通过考虑判决符号的误差来更新滤波器系数, 从而在一定程度上减小了误差传递, 同时通过每一次的迭代来进一步消除由噪声和残留符号间干扰对系统性能带来的不利影响。相比于FDE-FDDF方法, 本文方法约有1.8 dB的增益, 2种方法同为迭代方法, 但是本文方法同时考虑了信道的噪声干扰和残留的符号间干扰, 因此, 其相比于FDE-FDDF方法具有更好的误码率性能。当τ=0.85时为FTN传输, 此时系统将额外引入符号间干扰和有色噪声干扰, 从图 5可以看出, 本文方法在误码率性能上仍然优于上述2种方法。此外可以看出, τ=0.85时本文方法与τ=1.00时FDE-FDDF方法具有相近的误码率性能, 即在相同误码率的情况下, 相比于FDE-FDDF方法, 本文方法的码元速率可以提升17.6 %。当τ=0.75时, 不同均衡方法的误码率性能皆受到较大影响, 在这种情况下, 本文方法的误码率性能仍然优于其他2种方法, 且在不同τ值的情况下, 随着SNR的增加, BER性能的差距也增加, 这表明本文方法在高SNR下优势更为明显。

图 6所示为α=0.4时SUI-5信道下系统传输的误码率情况, 从中可以看出, τ=0.85时, 本文方法相比于非迭代的MMSE-NP-RISIC以及FDE-FDDF方法仍然具有较为明显的性能优势。在τ=0.75时, 系统性能受到较大影响, 本文方法在SNR=13 dB时误码率才能达到10^-2, 而其他2种方法需要更高的SNR值。

从上述分析可以看出, 滚降因子α=0.4时的系统误码率性能相比α=0.5时略有降低, 并且随着τ值的变化, 系统误码率性能也发生改变。因此, 可以得出, 本文方法在FTN系统中的误码率性能随着α和τ值的改变而改变, 且相比于非迭代的MMSE-NP-RISIC方法和FDE-FDDF方法, 其在误码率性能上均有明显提升。

5 结束语

本文分析FTN系统中存在的符号间干扰现象, 将MMSE-NP-RISIC均衡算法推广到FTN系统中, 并针对该算法存在的误差传递问题, 提出一种迭代的MMSE-NP-RISIC均衡算法, 该算法有效地减少了误差传递现象, 使得系统的均衡性能得到明显提升。由于FTN系统将白噪声转化为有色噪声, 对系统性能产生了影响, 因此下一步将对本文算法进行性能优化, 以解决FTN系统引入的有色噪声问题。