Будущий лидер повстанцев родился в имении Мостовляны на Гродненщине.

В 1856–1860 годах, после окончания Свислочской гимназии, он учился на юридическом факультете Петербургского университета. В студенческие годы вместе со старшим братом Виктором активно участвовал в деятельности студенческих землячеств и в революционных кружках. Сразу после возвращения на родину в 1861 году Калиновский вместе со своими соратниками создал революционные кружки в Гродненской и Виленской губерниях, вошедшие в единую конспиративную организацию.

В 1862 он стал во главе руководившего этой организацией Комитета движения, который позже стал Литовским провинциальным комитетом восстания.

В 1862–1863 руководил изданием и распространением «Мужыцкай праўды» – первой нелегальной революционной газеты на белорусском языке. Возглавив в 1863 восстание против российских властей в Беларуси и Литве, Калиновский выступил за широкое вовлечение в борьбу крестьян, за распространение восстания на восток и на север – на территорию России.

При том что он считал необходимым тесный союз с повстанцами в Польше, Калиновский последовательно призывал к независимости Литвы–Беларуси. В условиях жестоких действий правительственных сил, находясь в глубоком подполье, Калиновский руководил повстанцами до своего ареста в конце января 1864 года.

Приговоренный к смерти, Калиновский продолжал борьбу, обращаясь к народу с «Лістамi з-пад шыбеніцы». В них он призывал не признавать российскую власть и воевать «за своего Бога, за свое право, … за свою Родину». Кастуся Калиновского казнили в Вильнюсе в 1864 году.