Według legendy miejscowość mieli założyć osadnicy przybyli w te rejony z bałkańskiej Czarnogóry. W rzeczywistości nazwa wsi wywodzi się najprawdopodobniej od wzniesienia pokrytego ciemnym, gęstym świerkowym lasem, na którym została ona założona.

Pozostałe nazwy:

węg. Feketbérc oraz Csarnagura (oficjalna nazwa wsi w okresie przynależności tych terenów do Węgier, a następnie do Austro-Węgier)

niem. Schwarzberg (nazwa widniejąca na mapach austriackich)

słow. Cierna Hora

Michał Horosieński, Opisanie ciekawe gór Tatrów za Nowym Targiem, rękopis z 1650r. w zbiorach Biblioteki Dolnośląskiej http://www.dbc.wroc.pl/dlibra/docmetadata?id=13270&from=publication

M. Pinkwart, Podtatrze, Olszanica 2011

Czarna Góra została lokowana na prawie wołoskim w 1589 r. Z końca XVI wieku pochodzi również pierwsza wzmianka o tej miejscowości - dokument Kapituły Spiskiej wylicza Czarną Górę pośród "szałasów i owczarń". Od 1625 roku dzieje wsi związane są z losem węgierskich właścicieli zamku w Niedzicy. W 1637 roku kronikarze wspominają pasterzy z Czarnej Góry, którzy wypasali swój dobytek w Tatrach pod Jaworowym Stawem. Do dziś zresztą można zaobserwować pasterski charakter wsi widoczny w jej zabudowie, układzie pól oraz pozostałościach pasterskiej gospodarki rolnej. W 1773 roku wieś zamieszkiwało 68 gospodarzy (gazdów) użytkujących grunty o łącznym areale 1095 ha, (w 1831 r było to już 78 gospodarstw, a w 1867 - 89). Trudne warunki gospodarowania na skalnej ziemi zmuszały jednak mieszkańców do migracji zarobkowych na Węgry, Ukrainę a nawet do Chorwacji. W XIX wieku, a także po obu wojnach światowych wielu ludzi wyemigrowało do USA lub osiedliło się na przygranicznych terenach b. Czechosłowacji. Dopiero w 1920 roku wieś znalazła się w granicach państwa polskiego. Obecnie zamieszkuje ją ok. 1660 osób.