远在五六十万年前的旧石器时代，已有先民在此繁衍生息。新石器时代，黄河中游两岸及伊、洛、瀍、涧等河流的台地上，分布着许多氏族部落，新中国成立后在洛阳一带发现的孙旗屯遗址、王湾遗址、矬李遗址等近200处聚落遗址，便是当时人们居住、生活的地方。
夏朝初年，禹划九州，河洛属古豫州地。洛阳是夏王朝立国和活动的中心地域，太康、仲康、帝桀皆以斟鄩为都。
前1600年，商朝建立。商汤建都西亳（二里头遗址东北约6千米）。
前1046年，西周代殷后，为控制东方地区，开始在洛阳营建国都。周公在洛水北岸修建了王城和成周城，史称成王“初迁宅于成周”、“定鼎于郏鄏”、“宅兹中国”，曾迁殷顽民于成周，并以成周八师监督之。当时洛阳称洛邑、新邑、大邑、成周、天室、中国等，亦称周南。
周平王元年（前770年），周平王东迁洛邑，是为东周。
秦庄襄王元年（前249年），秦在洛阳置三川郡，郡治成周城。
汉王元年（前206年），项羽封申阳为河南王，居洛阳。
汉高祖五年（前202年），刘邦建汉，初都洛阳，后迁长安，改三川郡为河南郡，治洛阳。辖洛阳、河南（汉置，治王城）、偃师、缑氏、平（偃师西北）、平阴（孟津东北）、新成（伊川西南）、榖成（新安东）及巩、荥阳、新郑、中牟、开封等22县。汉武帝置十三州部刺史，河南郡属司隶。西汉末年，王莽篡政，改洛阳为宜阳，设“新室东都”和“中市”。
汉光武建武元年（25年），刘秀定都洛阳，改洛阳为雒阳。
建武十五年（39年），更河南郡为河南尹。
汉永和五年（140年），河南尹“有户二十万八千四百八十六，有口一百零一万零八百二十七”。
黄初元年（220年），魏文帝曹丕定都洛阳，变雒阳为洛阳，设司隶校尉部。
泰始元年（265年），西晋代魏，仍以洛阳为都。
太延二年（436年），北魏在洛阳置洛州。
太和十八年（494年），孝文帝迁都洛阳。
隋开皇元年（581年），在洛阳置东京尚书省；次年，置河南道行台省；三年，废行台，以洛州刺史领总监；十四年，于金墉城别置总监。
大业元年（605年），隋炀帝迁都洛阳，在东周王城以东，汉魏故城以西18里处，新建洛阳城。同年，改洛州（东魏改司州置）为豫州，三年又改河南郡，十四年复置洛州，辖河南、洛阳、偃师、缑氏、阌乡、桃林、陕、熊耳、渑池、新安、巩、宜阳、寿安、陆浑、伊阙、兴泰、嵩阳、阳城等18县。
唐代，自高宗始仍以洛阳为都，称东都。
武德四年（621年），置洛州总管府，辖洛州、郑州、熊州、榖州、嵩州、管州、伊州、汝州、鲁州等九州，洛州辖洛阳、河南、偃师、缑氏、巩、阳城、嵩阳、陆浑、伊阙等9县。
贞观元年（627年），分全国为十道，洛阳属河南道。
显庆二年（657年），置东都。
开元元年（713年），改洛州为河南府。
开元二十一年（733年），于洛阳置都畿道。天宝年间，改东都为东京。洛州、河南府均治洛阳。
武则天光宅元年（684年）始，改东都为神都，对都城进行扩建，修建了明堂、万国天枢等。
唐天祐四年（907年），后梁、后唐、后晋均曾都洛阳，后汉、后周以洛阳为陪都。
宋，以洛阳为西京，置河南府。
金代，定洛阳为中京，改河南府曰金昌府，并河N县入洛阳县。