Свою первую научную работу Максвелл выполнил ещё в школе, придумав простой способ вычерчивания овальных фигур. Эта работа была доложена на заседании Королевского общества и даже опубликована в его «Трудах». В бытность членом совета Тринити-колледжа занимался экспериментами по теории цветов, выступая как продолжатель теории Юнга и теории трёх основных цветов Гельмгольца. В экспериментах по смешиванию цветов Максвелл применил особый волчок, диск которого был разделён на секторы, окрашенные в разные цвета (диск Максвелла). При быстром вращении волчка цвета сливались: если диск был закрашен так, как расположены цвета спектра, он казался белым; если одну его половину закрашивали красным, а другую — жёлтым, он казался оранжевым; смешивание синего и жёлтого создавало впечатление зелёного. В 1860 году за работы по восприятию цвета и оптике Максвелл был награждён медалью Румфорда.
В 1857 году Кембриджский университет объявил конкурс на лучшую работу об устойчивости колец Сатурна. Эти образования были открыты Галилеем в начале XVII века и представляли удивительную загадку природы: планета казалась окружённой тремя сплошными концентрическими кольцами, состоящими из вещества неизвестной природы. Лаплас доказал, что они не могут быть твёрдыми. Проведя математический анализ, Максвелл убедился, что они не могут быть и жидкими, и пришёл к заключению, что подобная структура может быть устойчивой только в том случае, если состоит из роя не связанных между собой метеоритов. Устойчивость колец обеспечивается их притяжением к Сатурну и взаимным движением планеты и метеоритов. За эту работу Максвелл получил премию Дж. Адамса.
Одной из первых работ Максвелла стала его кинетическая теория газов. В 1859 году учёный выступил на заседании Британской ассоциации с докладом, в котором привёл распределение молекул по скоростям (максвелловское распределение). Максвелл развил представления своего предшественника в разработке кинетической теории газов Р. Клаузиуса, который ввёл понятие «средней длины свободного пробега». Максвелл исходил из представления о газе как об ансамбле множества идеально упругих шариков, хаотически движущихся в замкнутом пространстве. Шарики (молекулы) можно разделить на группы по скоростям, при этом в стационарном состоянии число молекул в каждой группе остается постоянным, хотя они могут выходить из групп и входить в них. Из такого рассмотрения следовало, что «частицы распределяются по скоростям по такому же закону, по какому распределяются ошибки наблюдений в теории метода наименьших квадратов, то есть в соответствии со статистикой Гаусса». В рамках своей теории Максвелл объяснил закон Авогадро, диффузию, теплопроводность, внутреннее трение (теория переноса). В 1867 показал статистическую природу второго начала термодинамики («демон Максвелла»).
Максвелл пришёл к выводу, что любые изменения электрического и магнитного полей должны вызывать изменения в силовых линиях, пронизывающих окружающее пространство, то есть должны существовать импульсы (или волны), распространяющиеся в среде. Скорость распространения этих волн (электромагнитного возмущения) зависит от диэлектрической и магнитной проницаемости среды и равна отношению электромагнитной единицы к электростатической. По данным Максвелла и других исследователей, это отношение составляет 3,4*1010 см/с, что близко к скорости света, измеренной семью годами ранее французским физиком А. Физо. В октябре 1861 Максвелл сообщил Фарадею о своём открытии: свет — это электромагнитное возмущение, распространяющееся в непроводящей среде, то есть разновидность электромагнитных волн. Этот завершающий этап исследований изложен в работе Максвелла Динамическая теория электромагнитного поля (Treatise on Electricity and Magnetism, 1864), а итог его работ по электродинамике подвёл знаменитый Трактат об электричестве и магнетизме (1873).
Теория электромагнитного поля и, в особенности, следующий из неё вывод о существовании электромагнитных волн при жизни Максвелла оставались чисто теоретическими положениями, не имевшими никакого экспериментального подтверждения, и современниками зачастую воспринимались как «игра ума». В 1887 г. немецкий физик Генрих Герц поставил эксперимент, полностью подтвердивший теоретические выводы Максвелла.