本发明公开了一种基于概率整形和RBF神经网络非线性均衡的光子太赫兹OFDM通信系统，属于太赫兹通信领域；包括发送端和接收端，发送端的ECL1和应用了概率整形技术的TX‑DSP模块同时连接IQ调制器，对产生的PS‑QAM‑OFDM基带信号，进行调制后输入到光耦合器OC，进行光波耦合，经过单模光纤后由UTC‑PD拍频得到OFDM太赫兹光信号，输入到接收端，输入到混频器中与本振信号进行混频，实现信号的下变频，得到基频OFDM太赫兹信号；然后输入到RX‑DSP模块，进行OFDM解调、相位估计、基于RBF神经网络的非线性均衡、解映射和概率解整形等操作，最终得到原始数据。本发明达到增大系统传输容量的效果，提升了误码率性能；同时缓解了光纤非线性对系统性能的影响，提高了信号质量。