Doğrusal olmayan optik ya da nonlineer optik, ışığın doğrusal olmayan sistem ve malzemelerdeki davranışı ile özelliklerini inceleyen optiğin bir alt dalıdır. Bu malzemelerde elektrik alan () ile polarizasyon yoğunluğu () arasındaki ilişki doğrusal değildir; bu durum daha çok yüksek genlikte (108 V/m seviyelerinde) ışık veren lazerlerde ve lityum niobat gibi kristal yapılarında görülür. Schwinger sınırından daha kuvvetli alanlarda vakum da doğrusallığını kaybeder. Süperpozisyon prensibi bu malzemeler için geçerli değildir.
Doğrusal olmayan optiğin prensipleri, birçok lazer ve elektro-optik aygıt tasarımında sıklıkla kullanılmaktadır. Bu optik dalı aynı zamanda fiber optikte ultra kısa darbe iletimi gibi alanlarda da önem taşımaktadır.
