В 1933 благодаря его усилиям в Одессе открылась первая в стране специальная музыкальная школа-десятилетка для одаренных детей, по образцу которой были затем созданы и ныне действующие школы в Москве, Ленинграде и других городах. Как педагог он придавал огромное значение разностороннему развитию юных музыкантов; по его мнению, до первого сольного выхода на концертную эстраду скрипач должен был обязательно пройти три этапа профессиональной подготовки: игру в оркестре симфоническом, в оркестре оперном и участие в разных камерных ансамблях. Отличавшийся феноменальной работоспособностью, Столярский находился в курсе всех репертуарных новинок и регулярно изучал со своими учениками современные произведения. Любимым его афоризмом был: «Хорошему материалу нужен хороший портной».