Он был одним из виднейших музыкантов своего времени. Организованные им при Российском музыкальном обществе музыкальные классы были преобразованы в 1866 году в Московскую консерваторию, в которой он стал первым директором и профессором до 1881 года.
Как пианист и дирижёр, Н.Рубинштейн много концертировал в Москве и других городах России. Его репертуар поражал своей широтой – от музыки И.С.Баха до композиторов-современников. Исключительную роль сыграло в его концертном творчестве исполнение музыки П.Чайковского, первым исполнителем сочинений которого он часто бывал. Пётр Ильич написал на смерть Николая Григорьевича фортепианное трио «Памяти великого художника».
Интенсивной была деятельность Н.Рубинштейна как дирижёра. Под его управлением прошли свыше 250 концертов в Москве, Петербурге и других городах России. В Москве под его управлением прозвучали крупные ораториальные и симфонические произведения: кантаты, месса И.С.Баха, отрывки из ораторий Г.Ф.Генделя, симфонии, оперные увертюры и Реквием В.А.Моцарта, симфонические увертюры, фортепианные и скрипичный концерты Л.Бетховена, все симфонии и большинство крупных сочинений Ф.Мендельсона, Р.Шумана, Ф.Листа, увертюры и отрывки из опер Р.Вагнера.
Как педагог Н.Рубинштейн воспитывал не только виртуозов, но и широкообразованных музыкантов. Он был автором учебной программы, в соответствии с которой в течение многих лет велось преподавание в фортепианных классах Московской консерватории. Среди его учеников — С.Танеев, А.Зилоти, Э.Зауэр и другие известные музыканты. А С.Танеев посвятил памяти своего учителя кантату «Иоанн Дамаскин».
Как директор Московской консерватории Н.Рубинштейн добивался высокого профессионализма педагогов и учащихся, превращения консерватории в подлинно высшее учебное заведение, коллективности руководства, воспитания разносторонне образованных музыкантов. Заботясь о создании отечественных музыкально-педагогических кадров, он привлёк к преподаванию многих выдающихся музыкантов своего времени.
Н.Рубинштейн также автор фортепианных пьес, написанных, в основном, в молодости, оркестровой увертюры. Он был редактором русского издания полного собрания сочинений для фортепиано Ф.Мендельсона, избранных романсов и песен Ф.Шуберта и Р.Шумана.
Звучит Тарантелла для фортепиано в четыре руки Николая РУБИНШТЕЙНА.
Играет дуэт «Балтика» в составе Ольги БЕЛЬСКОЙ и Елены ШЕВЧЕНКО.
