Естественно чем меньше «весит» картинка, тем быстрее будет загружаться сайт.
Если уменьшить качество JPEG в графических редакторах, то можно сильно подпортить качество файла.
Оптимальное соотношение «вес»/»качество» в Photoshope, например, дает коэффициент сжатие 95/100, но при этом размер файла будет достаточно большим.

Вообще говоря, хватит ходить во круг до около, а сразу дам ссылку на сервис, который поможет оптимизировать-сжать JPEG без потери качества.
JPEGmini может сделать из вашей картинки не менее качественную картинку, весом в 5 раз меньше. Представляете?