Миколаївська астрономічна обсерваторія заснована в 1821 р. адміралом Олексієм Самуїловичом Грейгом (1775-1845) як морська обсерваторія з метою забезпечення Чорноморського флоту часом, картами та навчання морських офіцерів астрономічним методам орієнтування. Місцем для будівництва обсерваторії була обрана вершина Спаського кургану - найвищий пагорб м. Миколаєва (52м), автором проекту головного будинку був головний архітектор Чорноморського адміралтейства Федір Іванович Вунш (1770-1836). За рекомендацією Василя Яковича Струве на пост першого директора був призначений Карл Христофорович Кнорре (1801-1883), якому тоді ще не було й 20 років. Поряд з діяльністю з підготовки морських офіцерів він почав займатися науковими астрономічними дослідженнями, відомий в історії астрономії як автор 5-го аркуша зоряної карти Берлінської академії наук, за допомогою якої потім були відкриті малі планети Астрея і Флора. К. Кнорре пробув на посаді директора обсерваторії 50 років. Астрономічні дослідження в Обсерваторії були продовжені Другим директором Іваном Єгоровичем Кортацці (1837-1903), який створив каталог положень зірок, згодом названий "Миколаївська зона". У морський період діяльності обсерваторії К.Х. Кнорре і І.Є. Кортацці були виконані гідрографічні роботи на Азовському, Чорному і Мармуровому морях, проведені описи та визначені більш точні географічні координати багатьох опорних пунктів карт зазначених морів. Флот був забезпечений точними інструментами і досконалими методами визначення часу (довготи) і широти.

До 1911 року обсерваторія перебувала в Морському міністерстві, з 1912 по 1991 рр. МАО - південне відділення Пулковської обсерваторії. Головним завданням обсерваторії в цей період було поширення системи Пулковських абсолютних зоряних каталогів на південне небо і виконання регулярних спостережень Сонця та тіл Сонячної системи. Для оснащення нового відділення з Одеси були перевезені Вертикальний круг Репсольда і пасажний інструмент Фрейберга-Кондратьєва. У період найбільших потрясінь у житті нашого суспільства: Першої Світової війни, революції, громадянської війни, обсерваторії вдалося пережити і зберегтися як наукова установа, її директором був Борис Павлович Остащенко-Кудрявцев (1879-1956). Відродження обсерваторії після важких випробувань пов'язано з ім'ям четвертого директора Леоніда Івановича Семенова (1878-1965), який очолив обсерваторію в 1923 році. У 1931 році в МАО була створена високоточна Служба часу, яка брала участь у національних і міжнародних програмах з визначення точного часу, а в 1935 році обсерваторія була включена в систему установ Академії наук СРСР як Пулковського відділення.

У роки Великої Вітчизняної війни з серпня 1941 по березень 1944 року обсерваторія перебувала в зоні німецької окупації. Директору Л.І. Семенову вдалося зберегти її від серйозних пошкоджень і руйнувань. У роки повоєнного відродження директором обсерваторії (в 1951 році) призначається Яків Юхимович Гордон (1912-1978). У 1955 році в Миколаїв з Пулкова був перевезений меридіанний круг Репсольда, на якому після відновлення і ряду модернізацій протягом 40 років велися різні спостережувальні програми. У 1961 році після введення в дію перевезеного також з Пулкова зонного астрографа фірми “Карл Цейс” в МАО почалася історія фотографічної астрометрії. Миколаївські фотографічні спостереження тіл Сонячної системи знаходяться в числі одних з найточніших у світі. У 1957-1969 роках проводилися візуальні і фотографічні спостереження ШСЗ для визначення їх орбіт. А в 70-80ті роки обсерваторія була ініціатором і основним виконавцем декількох наукових експедицій для спостережень в умовах полярної ночі на острові Західний Шпіцберген, в умовах високогір'я на Кавказі. У загальній складності в МАО було створено близько 35 різних каталогів положень небесних світил. У 1978 році директором обсерваторії стала Римма Тимофіївна Федорова (1934 р.н.), яку в 1986 році змінив на цій посаді нинішній директор Геннадій Іванович Пінігін (1943 р.н.).

У 1992 році Миколаївська астрономічна обсерваторія здобула статус самостійної наукової установи, в 2002 році отримала офіційний статус науково-дослідного інституту. Зберігаючи свої наукові традиції, МАО розширила тематику досліджень в області астрономічного приладобудування і дослідження навколоземного простору. У 1995 році в МАО створено і введено в дію автоматичний телескоп з ПЗЗ приймачем Аксіальний меридіанний круг (АМК), який в 1999 році був включений до списку об'єктів, що становлять національне надбання України. Після модернізації та оснащення ПЗС приймачем зонний астрограф був перейменований в мультіканальний телескоп (МКТ). У 2004 році був введений в експлуатацію Швидкісний автоматичний комплекс (ШАК), на якому ведуться регулярні спостереження об'єктів ближнього космосу в рамках участі у виконанні Національної космічної програми України з контролю та аналізу космічної обстановки. У 2009 році створено перший в Україні мобільний телескоп “Мобітел”, що складається з чотирьох самостійних монтувань, оснащених сучасними ПЗЗ камерами і системою програмного керування в режимі віддаленого доступу. Проводиться перспективна робота по створенню Миколаївської віртуальної обсерваторії (НікВО) в рамках створення Української національної віртуальної обсерваторії.