В началото на 1931 г. в ленинградският машиностроителен завод „Болшевик“ започва работата по проектирането на среден танк, предназначен за усилване на общовойсковите съединения при пробив на укрепена отбранителна полоса. В края на годината е създаден първият прототип и са проведени заводски изпитаня. Машината получава обозначението Т-28.
Поради високите планови изисквания поставени пред завод „Болшевик“ от съветското ръководство, производството на новия танк е възложено на машиностроителният завод „Красный путиловец“ (преименуван в 1934 г. в Кировски завод). Проектната документация пристига в завода в края на 1932 г.За обслужване на серийното производство през 1932 г. към завода е създадена специална конструкторска група, която след две години – през 1934 г., е преименована в СКБ-2.
В края на февруари 1933 г. са произведени първите 8 корпуса и започва работата по сглобяването на първите 4 машини. За 1 май същата година са произведени 12 Т-28, от тях 10 вземат участие в първомайския парад в Москва а 2 в Ленинград.
На 11 август 1933 г. Т-28 е приет на въоръжение в редовете на РККА. Общо в периода 1933 – 1941г. са произведени 503 танка Т-28.
В хода на производството танкът е произвеждан в няколко серии, като са направени няколко сериозни промени в корпуса, купола и въоръжението. Въпреки, че общият брой на подобренията надхвърля 600, тези, които са оказали влияние върху бойните харктеристики на машината, са само три. От началото на 1938 г. започва монтирането на новото 76,2 мм танково оръдие Л-10. В края на 1939 г., след проучване опита от боевете във Финландия, е увеличена дебелината на бронята – челните бронелистове са увеличени до дебелина от 50 – 80 мм, а страничните до 40 мм. Поради това теглото на танка нараства
анковете Т-28 от първата серия са въоръжавани със 76,2 мм танково оръдие КТ-28 обр. 1927/32 г. Оръдието КТ-28 представлява разновидност на 76,2 мм полково оръдие обр. 1927 г., като са направени следните промени — намалена е дължината на отката на 500 мм, увеличено е количеството на течността в накатното устройство, монтиран е нов подемен механизъм и нови прицелни прибори.
Оръдието е монтирано в оръдейна маска и е снабдено с телескопичен и перископичен прицели. Телескопичният прицел обр. 1930 е разположен отляво на ствола, а перископичният обр. 1932 г. — на покрива на куполата. Съединен е с оръдито посредством привод към перископа. Освен тях в куполата, отляво и симетрично с перископичният прицел е монтирана командирска панорама.
От 1038 г. на Т-28 е монтирано 76,2 мм танково оръдие Л-10 до 32 г. През 1940 г. е произведена последната серия на Т-281 кояо е с конически купол.
Лекото въоръжение на танка се сътои от четири 7,62 мм катртечници ДТ («Дегтярев танковый»). В куполата, отдясно на оръдието, е монтирана сдвоена картъчница. Картечницата води обстрел в хоризонталната плоскост +/-30°, а във вертикалната -20°/+30°. За водене на огън в задната полусфера на танка в задкуполната ниша е монтирана запасна куполна картечница. Останалите две картечници са монтирани в двете малки куполи и водят огън в хоризонталната плоскост 165°.
При танковете от по-късните серии на люка на мерача е монтирана установка П-40 със 7,62 мм картечница ДТ за борба с въздушни цели. За водене на огън се използва колиматорен прицел.
Боекомплектът на танка се състои от 69 снаряда и 7938 патрона.
Първите 10 произведени танка са въведени на въоръжение в състава на 2 отделен танков полк от Резерва на Главното командване (РГК) на Ленинградския военен окръг. В края на 1935 отделни танкови полкове от РГК са създадени и в останалите пригранични военни окръзи. Организационно в състава им са включени 3 танкови батальона с по 30 танка всеки.
В края на същата година на тяхната база са развърнати отделни тежки танкови бригади. Организационно тежката танкова бригада се състои от три линейни танкови батальона, учебен батальон, батальон за бойно осигуряване и други помощни подразделения. Бригадата е въоръжена със средните танкове Т-28 и тежките Т-35.
Танковите части и съединения от състава на РГК са подготвяни по специално разработена програма. Предвиждано е те да бъдат използвани за усилване на стрелковите дивизии и корпуси в хода на осъществяване пробив в силно укрепена отбранителната полоса. В края на 1939 г. в състава на РККА има 4 тежки танкови бригади — 4-та, 5-та, 10-та и 20-та, дислоцирани съответно в Киевския специален ВО, Харковския ВО, Западния специален ВО и Ленинградския ВО.
В хода на Втората световна война първи вземат участие в бойни действия 4-та и 10-та тежки танкови бригади. Те участват в «освободителният поход» в Западна Украйна през 1939 г.
В края на ноември 1939 г. е извършена реорганизация на Автобронетанковите войски на Червената армия. Тежките танкови бригади са реорганизирани в танкови бригади с трибатальонна структура и състав 156 танка (от тях 39 БТ). Като в бъдеще е предвиждано превъоръжаването им с танкове КВ-1.
В същото време, на 30 ноември 1939 г., започва конфликта между СССР и Финландия. В него вземат участи 10-та и 20-та тежки танкови бригади, които все още не са реорганизирани по новия щат. В хода на войната Т-28 е използван основно за стрелба с право мерене по амбразурите на финландските ДОТ-ове. Въпреки наличието на 30 мм броня танковете понасят големи загуби от огъня на противниковата артилерия. Именно в резултат на това се появява модификацията Т-28э, с допълнителни екрани. До 1945 г. Финландската армия използва 7 танка Т-28, пленени във войната, в единствената си танкова бригада. За участието си във войната с Финландия 20 тежка танкова бригада «С.М.Киров» е наградена с ореден «Червено знаме».
През март 1940 г. започва реорганизация на Автобронетанковите войски на Червената армия. Формирани са механизирани корпуси и бригадната организация е заменена с дивизионна. Танковите бригади са разформировани и техниката им е предадена на новосформираните дивизии. Танковете Т-28 са включени в 8 тд (4 мк) и 10 тд (15 мк) от състава на Киевския специален ВО, 5 тд (3 мк) от състава на Прибалтийски специален ВО и 3 тд (1 мк) от състава на Ленинградския ВО. На 1 януари 1941 г. във войските е имало на въоръжение 441 танка Т-28.
Участието на Т-28 във Втората световна война е от самото ѝ начало. Огормна част от танковете са загубени още в първите месеци на войната поради това, че са на въоръжение в приграничните военни окръзи. По нататък малкото останали машини са използвани до 1943 г. на Ленинградски фронт и в битката за Москва (1041 — 1042 г.). Вече в лятото на 1941 г. Т-28 е считан от съветското военно ръководство за остарял.