А.Ямпольский создал генерацию выдающихся скрипачей в нашей стране. Будет достаточно простого перечисления имён самых знаменитых учеников Абрама Ильича: Леонид Коган, Юлиан Ситковецкий, Борис Гольдштейн, Эдуард Грач, Юрий Янкелевич, Михаил Фихтенгольц, Игорь Безродный, Рафаил Соболевский, Марк Лубоцкий, Елизавета Гилельс, Зоря Шихмурзаева…
Он был человек тихий, застенчивый. Взбешённым и одновременно униженным Абрама Ямпольского видели только один раз: в аспирантуру Московской консерватории не приняли одного из самых блестящих его учеников Юлиана Ситковецкого.
Абрам Ильич жил музыкой и своими учениками. Природа наделила его поразительной музыкальностью, особыми техническими способностями и удобными для виртуозной игры руками. Он обучался в Петербургской консерватории по классу скрипки и композиции. По её окончании приехал в Екатеринослав, где выступал в качестве солиста и ансамблиста, а также занимался преподаванием. В 1920 году уехал в Москву, где получил место заместителя концертмейстера в оркестре Большого театра. Два года спустя вошёл в состав Персимфанса, а также получил место преподавателя Московской консерватории. Так же преподавал в Институте имени Гнесиных.
Леонид Коган как-то вспоминал, как в Пензе (там в эвакуации находилась Центральная музыкальная школа) он летним днём шёл по городу и вдруг услышал из-за забора скрипку. Кто-то замечательно играл симфонию Лало. Л.Коган насторожился, прильнул к доске в заборе и увидел, что прихотливую «испаньоладу» Лало играет сам Абрам Ильич. Он стоял под деревом в летних белых брюках и майке, прикрыв голову носовым платком с четырьмя узелками. Его игра в саду настолько отличалась от классных показов, что Л.Коган просто обомлел, а много позже понял, что Абрам Ильич в классе не хотел подавлять юных учеников своей игрой.
В «наборе» педагогических приёмов А.Ямпольского полностью отсутствовали подталкивание к конкуренции, игра на болезненном самолюбии, спекуляция на утверждавшейся уже тогда «лауреатомании». Все или почти все его ученики стали лауреатами конкурсов. Но Абрам Ильич никогда не интриговал в комиссиях или министерствах. Он тихо и упорно учил, культивируя сугубо индивидуальный подход к каждому ученику. У него в классе не было конвейера победителей. А.Ямпольский воспитывал глубоких музыкантов. Вот почему его ученики, как правило, стали замечательными педагогами.
Свои педагогические методы А.Ямпольский изложил в брошюрах «О методе работы с учеником», «К вопросу о воспитании культуры звука у скрипача». Под его редакцией были изданы этюды для скрипки, он также являлся автором каденций к концертам Л.Бетховена, И.Брамса, Н.Паганини, множества переложений для скрипки и фортепиано.
