Počátkem 14. století založil na území dnešní Nové Vsi syn Jindřicha z Frýdlantu lenní statek. Také město Moravská Ostrava zde záhy získalo pozemky - černý les zvaný Skřínky, louky a náplavy podél pravého břehu řeky Odry. Později byla Ostravskými část lesa vykácena a přeměněna na louky. V těchto místech vznikly po roce 1525 nové usedlosti, které byly základem nové vsi (odtud také dnešní název obce). První písemná zpráva je až z roku 1584, ačkoliv počátky Nové Vsi se kladou daleko dříve. Roku 1539 koupilo město Moravská Ostrava sousední Čertovou Lhotku (dnešní Mariánské Hory) a v roce 1555 ves Přívoz. Před těmito přírůstky nabylo město osadu Nová Ves.

Od svého založení byla Nová Ves nejchudší poddanskou vsí města Moravské Ostravy. Časté rozvodnění řeky Odry působilo značné škody na úrodě, půda trpěla značkou vlhkostí, a protože nebyla úrodná, nebylo v Nové Vsi žádných sedláků. Obyvatelé se zabývali zahradnictvím a rybolovem, kdy Hukvaldské panství mělo v Nové Vsi své rybníky. Nová Ves byla nejen chudou poddanskou vsí, ale musela platit i za válečné tažení, která neminula Moravskou Ostravu. V roce 1642 táhla na Moravu švédská vojska.

Krátce po roce 1742 se začala budovat silnice, která měla spojit Opavu s Těšínem přes Moravskou Ostravu a Svinov, tedy i přes Novou Ves. Stavba pokračovala pomalu, takže se o jejím skutečném dokončení hovoří až po roce 1781. Ze současného pohledu se jedná o dnešní ulici 28. října.

Industrializace sousedních obcí v 2. polovině 19. a na počátku 20. století zasáhla hluboce do života obce, kdy zdrojem obživy již nebylo výhradně zemědělství, ale též průmysl a hornictví. Nastal tak příliv obyvatelstva. Mezi lety 1890 a 1900 se počet obyvatel zvýšil z 659 na 1 212, v roce 1910 již měla obec 1 538 obyvatel. Nejvyšší počet zaznamenala v roce 1930, kdy měla celkem 2 275 obyvatel.

V katastru obce vybudovalo město Moravská Ostrava roku 1890 vodárnu, která byla v roce 1908 zmodernizována a rozšířena. Voda byla čerpána ze studní a po vyčištění se přečerpávala do vodojemů. V těsné blízkosti hranic obvodu byla vybudována chemická továrna (dnešní MCHZ) a v části Nové Vsi byly postaveny patrové bytové domy pro její zaměstnance. V roce 1924 byla Nová Ves přičleněna k městu Moravská Ostrava.

Po dlouhá desetiletí byla součástí Ostravy 4, později Ostravy 1. Teprve nové události roku 1989 daly vzniknout v roce 1990 samostatnému městskému obvodu Nová Ves, který je jedním z 23 městských obvodů Ostravy. Za deset let samostatnosti doznal obvod hodně změn. Bylo započato s výstavbou nové kanalizace a celý obvod byl plynofikován. Svá sídla zde našlo mnoho drobných podnikatelů. Snad by tento obvod byl i bohatší, kdyby jej v roce 1997 nepostihla katastrofální povodeň. V důsledku protržení a posléze i přelití protipovodňových hrází došlo k zaplavení území, kdy v severní části voda dosahovala výše až 8 metrů. Mnoho domů muselo být zbouráno a další byly poškozeny. Už dnes se však obec rozvíjí do krásy, opětovně přibývají obyvatelé. Přes její území vedou cyklostezky a obecní zastupitelstvo se snaží dělat vše pro blaho místních obyvatel.