Каспарс Берзиньш начал свою карьеру в 2000 году в родном городе Огре, где сначала выступал в фарм-клубе ВЭФа «Кадеты», а затем перебрался в «молодежку» «Сконто», откуда за два сезона пробился в основную команду. В своем последнем сезоне за рижан (2003/04) Каспарс провел 27 игр, в которых в среднем набирал 7,3 очка и делал 3,3 подбора за матч. В декабре 2003 года Берзиньшем интересовался итальянский «Ливорно», но игрок все же завершил сезон в своем клубе.
В сезоне 2004/05 Каспарс защищал цвета испанской «Уникахи», но большинство встреч провел за молодежный состав. За главную команду Берзиньш выходил на паркет лишь однажды и набрал 2 очка.
Сезон 2006/07 латышский форвард начал в составе «Баронс», куда перешел после года, проведенного в «Риге». Уже на второй сезон в составе нового клуба Берзиньш помог команде выиграть чемпионат Латвии, набирая по 8,7 очка и делая 4,9 подбора, а также Кубок Вызова ФИБА с неплохой индивидуальной статистикой.
После столь успешного выступления в родном чемпионате Кас отправился в летнюю лигу НБА, в «Финикс Санс», после чего во второй раз поехал в Испанию, подписав контракт с «Фуэнлабрадой». Сыграв за мадридцев 12 матчей (4,2 очка, 1,8 подбора), Берзиньш уехал в аренду в команду второй испанской лиги «Касерес».
В новом клубе латыш не унывал и продолжал палить из-за дуги как заправский защитник — с точностью 46,7%. А еще находил время на рыбалку и общение с журналистами. Иногда делал это одновременно…Не самая удачная испанская серия закончилась приглашением в латвийский ВЭФ и дебютом в Единой лиге ВТБ. Изначально контракт был рассчитан на 2 года, но в итоге игрок задержался в Риге в два раза дольше.
В этом же сезоне Берзиньш помог сборной пробиться на Евробаскет-2013, где команда в итоге выступила неудачно. Однако Каспарс внес свою лепту в историю турнира монстр-данком в матче против французов!В первом сезоне 26-летнему Берзиньшу нашлось место даже в молодежной команде, за которую он успел отыграть 12 матчей. Но игры в молодежном первенстве не помешали Каспарсу 59 раз выйти на паркет в майке основной команды во всех турнирах, второй раз в карьере выиграть Лигу Латвии и сыграть в своем пятом Матче всех звезд Латвийской лиги.
Первоначальный формат Единой лиги ВТБ в первых двух сезонах не позволил Касу сыграть против «Локо». Но в сезоне 2012/13 первая встреча Берзиньша и «красно-зеленых» все же состоялась. В первой игре сильнее оказались краснодарцы. Будущий игрок «Локомотива-Кубань» набрал тогда только 8 очков. Второй матч пришелся на последнюю игру регулярного чемпионата и последнюю для Каспарса в цветах ВЭФа. Тогда в «Баскет-Холле» латвийцы одержали победу, а Берзиньш провел свой самый результативный матч в сезоне. Не проделки ли это судьбы?
Не удивляйтесь, если увидели на паркете несколько знакомых игроков.
В январе 2016 года Берзиньш перешел в «Зенит» (26 игр, 10,8 очка, 5,5 подбора), с которым добрался до полуфинала Единой лиги ВТБ. Однако по окончанию сезона игрок и клуб решили не продлевать трудовое соглашение.
Каспарс вновь уехал в Латвию, в клуб из родного города с одноименным названием «Огре». Перед этим трансфером Берзиньш сказал, что будет выступать за этот клуб, пока не получит хорошее предложение. Ждать долго не пришлось. За «Огре» с октября Каспарс провел два матча (в среднем 11 очков за игру) и переехал в Краснодар, став игроком «Локомотива-Кубань».