В работе изучается нелинейное распространение в многомодовых волокнах. Были рассмотрены два важных случая, представляющих практический интерес, - режимы слабой и сильной связи. Была использована модель, основанная на обобщенном многокомпонентном уравнении Манакова, описывающем эволюцию электрического поля в группе мод ногомодового оптического волокна. Для численного моделирования решения был реализован алгоритм, основанный на методе Фурье разделения по физическим процессам. При моделировании передачи случайных битовых потоков использовалось поляризационное мультиплексирование вместе с квадратурной фазовой модуляцией. Форма сигнала соответствует приподнятому косинусу. В работе было выполнено математическое моделирования процесса распространения сигнала в многомодовом волокне, и найден коэффициент битовых ошибок как функция от отношения сигнал/шум для сигналов, передающихся по различным комбинациям пространственных линейно-поляризованных мод.