Кэро родился в Лондоне 8 марта 1924, учился в Крайст-колледже в Кембридже и получил диплом инженера. После войны занимался скульптурой, сначала в Политехнической школе на Риджент-стрит (1946), затем в школе при Королевской Академии художеств (1947–1952). В 1951–1953 был помощником Генри Мура, самого известного из английских скульпторов 20 столетия. В первых фигуративных скульптурах Кэро 1950-х годов преобладает влияние массивных форм, характерных для произведений Мура.

После краткой поездки в США в 1959, где Кэро лучше узнал творчество скульпторов-абстракционистов Дэвида Смита, Кеннета Ноланда и Джозефа Стелла, он полностью отказался от фигуративности и изобразительности и стал использовать промышленные материалы, например стальные двутавровые балки в работе Полдень (1960). Используя алюминиевые трубы, стальные решетки, крышки котлов, снегоочистители, ручки от ящиков и т.п. и оперируя образным строем современной промышленной техники, Кэро довел до крайности возможности абстрактного мышления в скульптуре. Кэро создавал скульптуры как очень простой конфигурации (направленный к земле зигзаг Шефтсбери, 1965), так и весьма сложные (пышная, изобилующая криволинейными формами Оранжерея, 1969). Некоторые скульптуры Кэро приближаются к органическим или пейзажным мотивам, напоминающим произведения Генри Мура.