Незадолго до встречи с Мусоргским к Балакиреву и Кюи примкнул юноша-гимназист Аполлон ГуссаковскийНезадолго до встречи с Мусоргским к Балакиреву и Кюи примкнул юноша-гимназист Аполлон Гуссаковский, имевший, по общему мнению Милия и Цезаря, «сильный композиторский талант» и которого, как они полагали, ожидало большое будущее.
В течение трех лет, как писал в 1875 году Ц. А. Кюи, Гуссаковский «работал неутомимо, делал громадные успехи. Он нас особенно поражал неистощимым богатством тематического творчества. Не проходило недели, чтобы Гуссаковский не принес или какого скерцо, или хора, или какую тему симфоническую. Большинство этих тем отличалось свежестью, богатством вымысла, естественностью, здоровой мыслью и здоровой гармонизацией». Газета «Санкт-Петербургские ведомости» в № 29 от б февраля 1861 года восторженно писала об Аллегро из Первой симфонии Гуссаковского, исполненном в одном из университетских концертов, как о произведении полного огня, красоты, носящем «самые несомненные признаки сильного, прекрасного, серьезного таланта». Правда, существенным недостатком было неумение юного композитора развивать тематический материал, а также порой и нежелание доводить до конца, несмотря на трудности, начатое сочинение. Тем не менее Аполлон Сильвестрович Гуссаковский, ставший видным ученым-почвоведом, профессором Земледельческого института в Петербурге, внес свой, хотя и небольшой, вклад в становление народившегося кружка молодых русских композиторов.
Встречи друзей проходили регулярно как у Балакирева, так и у Даргомыжского, а иногда и у Кюи. В этих собраниях активное и деятельное участие принимал Владимир Васильевич Стасов, выдающийся русский искусствовед, музыковед, историк, археолог. Человек энциклопедической образованности, замечательного ума, всецело преданный делу развития самобытного национального искусства, он стал наряду с Балакиревым одним из идейных вдохновителей нового направления в русской музыке.
Конец 50-х — начало 60-х годов — время удивительных открытий для каждого из членов балакиревского кружка. Сколько нового узнавали они в общении друг с другом, обогащая себя новыми музыкальными впечатлениями и идеями! Кюи писал впоследствии, что «так как негде тогда было учиться (консерватории не существовало), то началось наше самообразование. Оно заключалось в том, что мы переиграли все, написанное самыми крупными композиторами, и всякое произведение подвергали всесторонней критике и разбору его технической и творческой стороны. Мы были юны, а наши суждения резки. Весьма непочтительно мы относились к Моцарту и Мендельсону, противопоставляя последнему Шумана, всеми тогда игнорируемого. Сильно увлекались Листом и Берлиозом. Боготворили Шопена и Глинку. Шли горячие дебаты (во время которых мы выпивали по 4, по 5 стаканов чаю с вареньем), толковали о музыкальных формах, о программной музыке, о вокальной музыке и особенно об оперных формах».
Как не похоже было это самообразование на обучение в консерваториях Европы. Никакой схоластики! До всего доходить самим! Учиться в процессе создания произведений, решая сразу же большие художественные задачи! Одним из принципов занятий балакиревского кружка был несомненно принцип, как мы бы его теперь назвали, мозговой атаки, когда все силы ума и сердца направляются на решение одной крупной проблемы. Творческая находка одного тут же становилась общим достоянием. Индивидуальный опыт становился частью опыта коллективного. И это, конечно, при безусловном учете самобытности каждого из молодых музыкантов. «Подобное самообразование,— замечал Кюи спустя много лет,— труднее и требует больше времени, чем систематическое изучение теории, но зато оно свободно от схоластических оков, а с этим следует считаться».
Еще в 1857 году Кюи начал работу над оперой «Кавказский пленник». В основу либретто, написанного Виктором Крыловым, легла одноименная поэма А. С. Пушкина, созданная поэтом в 1821 году. «Мы выбрали сюжетом пушкинского „Кавказского пленника»,— вспоминал либреттист.— Девятнадцатилетним юношей я драматизировал поэму, применяясь к формам оперных либретто, и Кюи горячо взялся за работу. Он писал оперу не последовательно, а отдельными номерами, к чему более был расположен в данную минуту; таким образом, второй акт был написан ранее первого, и оба акта оперы были сочинены в продолжение нескольких месяцев 1857 — 1858 годов; в апреле 1858 года опера вся была кончена».