电脑 b 是 win7 系统，已经设置好了，允许远程登陆。
电脑 a 电脑 b 一个 vps
我在电脑 b 上建立从 vps 指向 b 的反向隧道
ssh -CfNg -R 10020:127.0.0.1:3389 root@vps_ip
现在从电脑 b 登陆 vps
ssh root@vps_ip
在 vps 上，输入
rdesktop 127.0.0.1:10020
出现这样的问题
ERROR: Failed to open display:

如何解决？

你VPS上没装/运行X server吧
看你的样子是想从a通过vps连接到b的远程桌面。vps上sshd_config里设置GatewayPorts为yes，防火墙允许端口连接，直接从a连vps的10020端口就行了